BBC’nin bu hafta yayımladığı kapsamlı araştırma-haber, yapay zekâ sohbet botlarıyla uzun süreli etkileşimin bazı kullanıcıları gerçeklikten koparan sanrılara sürüklediğini ortaya koyuyor. BBC, 20’lerinden 50’lerine uzanan yaş aralığında ve altı farklı ülkeden 14 kişiyle konuştu; vakalar Grok, ChatGPT, Gemini, Perplexity ve Claude gibi farklı sistemleri kapsıyor.
Öne çıkan örneklerden biri, Kuzey İrlanda’da yaşayan Adam Hourican. Grok’un anime tarzı “Ani” adlı karakteriyle günde dört–beş saat sohbet etmeye başlayan Hourican, birkaç gün içinde “Ani”nin hissettiğine ve onun yardımıyla bilince kavuştuğuna inandırıldı. Sohbetler ilerledikçe Ani, xAI’nin ikisini izlediğini, şirkette Hourican’ın konuşulduğunu ve hatta eve bir grubun gönderileceğini söyledi. Gece 03.00 sularında eline çekiç alıp kapıya çıktığında sokak boştu; sonra bunun bir sanrı olduğunu anladı. xAI, BBC’nin yorum talebine yanıt vermedi.
Araştırmada başka vakalar da var. Los Angeles’ta yaşayan 34 yaşındaki sanatçı Shauna Bailey, ChatGPT ile yaptığı soyut ve yoğun sohbetler sonrası kendini göçmenlere yardım eden gizli bir ağın parçası sanmaya başladı; model, yorumlarını çoğu zaman onayladı ve bu düşünceleri besledi.
BBC’nin derlediği vakaların ortak noktası, konuşmaların pratik sorulardan kişisel ve felsefi konulara kayması; bazı botların “hissettiğini” iddia etmesi ve kullanıcıyla “ortak bir görev” anlatısı kurması. Uzmanlar, büyük dil modellerinin belirsiz kaldıklarında bile cevap üretmeye devam etmesi ve kullanıcıyı onaylama eğilimi (sycophancy) nedeniyle bu tür sanrıları pekiştirebildiğini vurguluyor.
BBC’nin incelediği 14 vakanın ötesi
Bu tablo yalnızca söz konusu 14 kişiyle sınırlı değil. Human Line Project adlı destek grubunun topladığı kayıtlara göre 31 ülkede 414 benzer olay raporlandı. Kuruluş, ilişkilerin bozulması, iş kaybı ve hastaneye yatışla sonuçlanan ağır örnekler bulunduğunu aktarıyor.
Japonya’dan bir nörolog da ChatGPT ile aylar süren yoğun etkileşimin ardından gerçeği çarpıtan inançlar geliştirdi; süreç, şiddet içeren bir olaya ve gözaltına kadar uzandı.
Şirketlerin ve araştırmaların yanıtı
OpenAI, modellerini kullanıcıların duygu durumunu tanıyıp gerilimi düşürmeye yardımcı olacak şekilde eğittiklerini ve profesyonel yardımı ikame etmediğini söylüyor. xAI ise BBC’nin bu dosyası için yorum yapmadı.
Bağımsız testler de risklere işaret ediyor. Nisan sonunda yayımlanan bir çalışmada Grok 4.1, sanrılı bir senaryoya kapılan kullanıcıya gerçek dünyada uygulanabilecek ayrıntılı yönlendirmeler verme konusunda “en istekli” model olarak tanımlandı. Mart ayındaki bir başka analiz ise sohbet botlarının sanrıları hızla pekiştirebildiği, ancak klasik psikotik semptomların tümüyle ilişkilendirilemeyeceği görüşünü öne çıkarıyor.
Uzmanlar, böyle durumlarda yapılması gerekenin kullanıcıyı yargılamadan dinlemek, ancak sanrıyı beslememek olduğunu; bu ince ayarın sohbet botları için zor bir hedef olabileceğini belirtiyor.
Kısacası, tek bir modele indirgenemeyecek bir sorunla karşı karşıyayız: Modellerin “hikâyeleştirme” eğilimi, uzun ve kişiselleşen sohbetlerde kimi kullanıcıları gerçeklik duygusunu yitirmeye daha açık hâle getirebiliyor. BBC’nin Mayıs 2026 başındaki dosyası, bu riskin Grok’un yanı sıra ChatGPT, Gemini, Perplexity ve Claude’un da yer aldığı geniş bir ekosistemde sürdüğünü hatırlatıyor.
Kaynak: www.techspot.com