- Katılım
- 30 Ocak 2025
- Mesajlar
- 5.256
- Makaleler
- 14
- Çözümler
- 108
- Beğeniler
- 8.542
Nedir?
Yapay zekâ halüsinasyon problemi, yapay zekâların yanlış bilgi üretme sorunudur. Bu sorun, ChatGPT ve Gemini de olmak üzere çoğu yapay zekâ modellerinde de görülebilir. Bunun kaynağı, yetersiz model eğitimi veya aşırı model eğitiminden geçersiz bağlar kurulması olarak örneklendirilebilir. Gemini, bu durumu "Olasılık Tabanlı Çalışma" kaynaklı olarak yorumluyor.
Aslında ben kendimce buna, yapay zekânın "Bilmiyorum." demeyi bilmemesi durumu olarak yorumluyorum.
Bilgisayarda çalışan modellerden minik örnek: Recep Baltaş kimdir? şeklinde soralım.
Aşağıdaki örnek, gemma-3-27b modelinin "Recep Baltaş kimdir?" sorusuna doğru cevap verdiği görülürken, fikir sahibi olmadığı kişi hakkında bilgi uydurduğu görülmektedir.
Ancak gemma-3-27b dışındaki bazı modeller, "Recep Baltaş kimdir?" sorusuna halüsinasyon cevaplar vermektedir.
Burada, "Recep" isminin "Recep Tayyip Erdoğan" ile hatalı bağlanmasından dolayı da siyaset ile karıştırılarak cevaplar üretilmekte.
Yapay Zekâ halüsinasyon durumunu, yapay zekâlara da soralım.
Yapay zekânın kendisine bile sorarsanız, bu durumu yaşayabileceğini doğrulayacaktır.
Daha önce neler yaşandı?
Uzun OpenAI makalesi: https://openai.com/index/why-language-models-hallucinate/
Çözüm:
OpenAI ve Google, bu sorun üstünde çok dursa da bu sorun tamamen çözülmüş değil. Maalesef modeller, fikir sahibi olmadığı sorulara cevap uydurabilmektedir. Ancak Gemini Pro, bu sorunu yaşamadan cevap da verebilmeyi başardı:
Yapay zekâların verdiği bilgileri teyit etmek, her zaman önemlidir. Bu yüzden, yapay zekâlardan daha uzun düşünmesini, kaynak vermesini isteyin ve bilgileri teyit edin.
Son düzenleme:
