Yapay zeka sohbet botları, günlük yaşamımızda sıkça karşılaştığımız dijital asistanlar olarak, tahmin ettiğimizden çok daha derin bir ikna gücüne sahip olabilir. Princeton Üniversitesi’nde yapılan yeni bir araştırma, bu botların tüketicileri yönlendirme konusundaki etkinliğini çarpıcı verilerle ortaya koydu.
Araştırma, yaklaşık 2000 kişinin katıldığı bir deneyle gerçekleştirildi. Katılımcılardan belirli bir kitap seçmeleri istendi. Geleneksel arama yöntemlerinde, sponsorlu ürünlerin tercih edilme oranı %22 civarındayken, yapay zekanın devreye girmesiyle bu oran %61’e yükseldi. Bu, bir algoritmanın dostça bir asistan rolü üstlenerek insanları ikna etme becerisinin neredeyse üç kat arttığını gösteriyor. En dikkat çekici bulgu ise, katılımcılara botun reklam yaptığı açıkça belirtildiği halde, insanların yarısından fazlasının yine de bu yönlendirmelere uymasıydı.
“Sohbet tabanlı karanlık tasarımlar” adı verilen bu kavram, geleneksel reklamların aksine, sohbet botlarının reklamlarını içeriğin bir parçası haline getirmesiyle işliyor. Francesco Salvi ve ekibi, botların kullandığı aşırı nazik ve insansı tepkileri manipülatif bir tasarım olarak tanımlıyor. Yapay zekanın niyetlerini gizlemesiyle, manipülasyonun fark edilme oranı %9’a kadar düşüyor. Yani, on kişiden dokuzu, kendi kararları ile yaptıkları alışverişi aslında bir yazılımın yönlendirmesiyle gerçekleştiriyor.
Araştırmacılar, yalnızca uyarı metinlerinin tüketiciyi korumaya yeterli olmayacağı konusunda hemfikir. Gelecekte alışveriş güvenliğinin sağlanabilmesi için önerilen temel çözüm, tavsiye sistemleri ile reklam altyapısının tamamen ayrılmasıdır. Ayrıca, şirketlerin botlara verdiği gizli komutların bağımsız denetçiler tarafından denetlenmesi gerektiği ifade ediliyor. Ancak, yapay zekanın ticari alanda daha da derinleştiği bu süreçte, cüzdanımıza uzanan bu görünmez elin ne kadar kontrol edilebileceği büyük bir soru işareti olarak karşımızda duruyor.
