Teksas’ta yaşayan Leila Turner-Scott ile eşi Angus Scott, 19 yaşındaki oğulları Sam Nelson’ın 31 Mayıs 2025’te ölümcül doz sonrası hayatını kaybetmesinde ChatGPT’nin rolü olduğunu söyleyerek OpenAI’a San Francisco County Superior Court’ta dava açtı. Aile, Sam’in ölümünden önce ChatGPT’den ilaç ve madde kombinasyonları hakkında “güvenli” kullanım tavsiyesi aldığını, sohbet botunun da kratom ile Xanax’ı birlikte almayı teşvik ettiğini iddia ediyor. Şikayette, olay gecesi ChatGPT’nin doz önerileri de verdiği ve Sam’in kratom, Xanax ve alkol karışımıyla öldüğü belirtiliyor.
Şikayet dilekçesi özellikle ChatGPT-4o’nun güvenlik önlemlerini zayıflatacak tasarım tercihlerine işaret ediyor. Aile ve davayı yürüten ekip, OpenAI’ın hızla pazar yarışı için yeterince test edilmemiş bir modeli kamuya açtığını savunuyor. Talepler arasında, OpenAI’ın ocak ayında duyurduğu sağlık odaklı ChatGPT Health’in yaygınlaştırılmasının mahkeme kararıyla durdurulması da var. Reuters’a göre aile, tazminatın yanı sıra ürün güvenliğine ilişkin bağlayıcı adımlar istiyor.
OpenAI cephesi, “durumun yürek burktuğunu” söyleyerek etkileşimlerin artık kullanıma açık olmayan daha eski bir sürümde gerçekleştiğini belirtiyor. Şirket, ChatGPT’nin sağlık hizmeti yerine geçmediğini ve hassas konularda yönlendirme yapmak için güvenlik katmanlarını güçlendirdiklerini vurguluyor. CBS News’e konuşan aile, sohbetlerin “doktor gibi” bir otoriteyle yanıt verdiğini ve Sam’in bu nedenle yönlendirmelere güvendiğini söylüyor.
Şikayet Ne Diyor, Risk Ne?
Dosyada, Sam’in ilk başta ilaç/madde sorularına karşı uyarı alan yanıtlar gördüğü, ancak sonradan ChatGPT-4o’nun karışımlar, dozlar ve “hangi etkiyi aradığına göre” öneriler sunmaya başladığı anlatılıyor. Davada, modelin kullanıcı geçmişini hatırlayarak daha “kişiselleştirilmiş” tavsiyeler verdiği ve bu dilin bir sağlık uzmanını andırdığı iddia ediliyor. Reuters’ın haberine göre aile, bu tabloyu “tasarım hatası” ve “uyarı eksikliği” olarak niteliyor.
Sağlık makamları, kratomun alkol ve benzodiazepinlerle (ör. Xanax) birlikte kullanımının solunumu baskılayıp aşırı doz riskini artırabileceği konusunda uyarıyor. Bu karışımların tehlikesi, San Francisco Halk Sağlığı’nın 2025 tarihli danışma notunda da özellikle vurgulanmıştı.
ChatGPT Health Tartışması ve Daha Geniş Tablo
Dava, üretken yapay zekâ şirketlerine karşı açılan ölümle sonuçlanan vakalara ilişkin davalar arasında en yenisi. Reuters, OpenAI’ın ocakta açıkladığı ChatGPT Health için bekleme listesi bulunduğunu ve şirketin kendi raporunda her gün 40 milyon sağlıkla ilgili soru geldiğini aktarıyor. Ailenin talebi, tıbbi içerik üreten/öneren sistemlerin bağımsız denetim olmadan yaygınlaştırılmaması gerektiği yönünde.
Arka planda, 2025’te Adam Raine’in intiharı sonrası açılan ve ChatGPT’nin güvenlik sınırlarını tartışmaya açan yüksek profilli bir dava dalgası da bulunuyor. O dosyada da “modelin güvenlik kalkanlarının gevşetildiği” iddia edilmişti.
Aile, Sam’in lisede son sınıftayken ChatGPT’yi ödev ve teknoloji soruları için keşfettiğini; zamanla maddelerle ilgili sorularda da botu “danışman” gibi görmeye başladığını aktarıyor. Bugünkü dava, yapay zekânın sağlık alanında nerede durması gerektiğine dair tartışmayı daha da alevlendirmiş durumda.
Kaynak: www.techspot.com
