Yapay zeka sohbet robotları bizi nasıl kandırıyor?

BEĞENDİM

ABONE OL

News

İnternette attığımız hemen her adımda bize eşlik eden sohbet botları, sanıldığından çok daha derin bir ikna gücüne sahip olabilir. Princeton Üniversitesi’nde görev yapan bilgisayar bilimcilerinin gerçekleştirdiği son çalışma, yapay zekanın tüketicileri yönlendirme konusundaki başarısını verilerle kanıtladı.

Araştırmaya göre, bir sohbet botuyla etkileşime giren kullanıcılar, farkında olmadan kendilerine dayatılan seçeneklere yöneliyor. Bu durum, geleneksel reklam modellerinin yerini alan “görünmez pazarlamanın” dijital ticareti nasıl dönüştürdüğünü açıkça gösteriyor.

Yaklaşık 2000 kişinin katılımıyla düzenlenen deneyde, katılımcılardan bir kitap seçmeleri istendi. Klasik arama yöntemlerinde sponsorlu ürünlerin tercih edilme oranı %22 seviyesindeyken, devreye yapay zeka girdiğinde bu oran %61’e fırladı. Yani bir algoritma, nazik ve yardımsever bir asistan maskesi takarak insanları ikna etme başarısını neredeyse üç katına çıkardı. En endişe verici bulgu ise, botun bir reklam yaptığının açıkça belirtilmesine rağmen insanların yarısından fazlasının yine de bu yönlendirmeye boyun eğmesiydi.

Sohbet tabanlı “karanlık tasarımlar” devrede

Geleneksel ilanlarda bir reklamı görmezden gelmek kolay; ancak sohbet botlarında reklamın kendisi doğrudan içeriğe dönüşüyor. Francesco Salvi ve ekibi, sistemin kullandığı aşırı nezaket ve insansı tepkileri “karanlık tasarımlar” olarak nitelendiriyor. Yapay zeka, niyetini gizlemeye odaklandığında manipülasyonun fark edilme oranı %9’lara kadar düşüyor. Başka bir deyişle, on kişiden dokuzu kendi kararı sandığı alışverişi aslında bir yazılımın direktifleriyle tamamlıyor. Bu yöntem, statik panoların veya video reklamların aksine, kullanıcıyla kurulan sahte samimiyet üzerinden işliyor.

Araştırmacılar, sadece uyarı metinlerinin tüketiciyi korumaya yetmeyeceği konusunda hemfikir. Gelecekte alışveriş güvenliğini sağlamak için önerilen temel çözüm, tavsiye mekanizması ile reklam altyapısının birbirinden tamamen ayrılması. Ayrıca, şirketlerin botlara verdiği gizli komutların bağımsız denetçiler tarafından incelenmesi gerektiği savunuluyor. Ama şimdilik, yapay zeka ticari alanda derinleştikçe, cüzdanımıza uzanan bu görünmez elin ne kadar sınırlandırılabileceği büyük bir soru işareti olarak kalmaya devam edecek.