Yapay zekâ çılgınlığı son gaz devam ediyor. Öte yandan bu teknolojinin nasıl kullanıldığı ve küçük çocuklar üzerinde uzun süreli kullanımın olumsuz etkiler doğurabileceği konusunda endişeler giderek artıyor. Şirketler bu araçların bilinçli kullanımı için çalışmalar yaparken, bazı kullanıcılar ise bu teknolojiye fazla bağlı hâle geliyor veya bundan olumsuz etkileniyorlar.
Geçen sene ekim ayında buna dair üzücü bir intihar olayı yaşandı. 14 yaşında intihar eden çocuğun annesi, oğlunun ölümünü sohbet botuyla ilişkilendirmesi nedeniyle Character.AI’a dava açtı. Bunun üzerine şirket davanın reddedilmesi için harekete geçti.
Character.AI, kullanıcıların yapay zekâ sohbet botu ile insan benzeri diyaloglar kurabileceği bir platform sunuyor. Megan Garcia, 14 yaşındaki oğlunun platforma aşırı bağımlı hâle gelerek duygusal bir bağ geliştirmesi nedeniyle şirket aleyhine dava açtı. Şirket ise açılan dava nedeniyle zor durumda kaldı. Hayatını kaybeden genç, ölümünden önce bile sürekli sohbet botu ile iletişim hâlindeydi.
Şirket, dava karşısında hemen aksiyon alarak kullanıcıları daha fazla güvenlik önlemleri alacakları konusunda bilgilendirdi. Ayrıca yapay zekâ odaklı firma, hizmet şartlarının ihlal edildiği durumlarda daha iyi yanıt ve müdahale sağlanacağını da kullanıcılara taahhüt etti. Ancak gencin annesi, zararlı etkileşimleri en aza indirmek ve herhangi bir duygusal bağımlılığı azaltmak için daha katı koruyucu önlemler getirilmesini talep ediyor.
Character.AI’nin hukuk ekibi, şimdi dava dosyasını TechCrunch üzerinden reddetmek için bir girişimde bulundu. Şirketin hukuk ekibi, platformun ABD’de ifade özgürlüğünü koruyan Birinci Değişiklik tarafından korunduğunu ve kullanıcı etkileşimlerinden sorumlu tutulmasının anayasal haklarını ihlal ettiğini savunuyor. Öte yandan mahkemenin, yapay zekâ sistemlerinin zararlı sonuçlarının bu korumaya girip girmediğine dair ne yönde karar vereceği henüz belli değil.
Character.AI’ın hukuk ekibinin yaptığı savunma, kullanıcıların platformla özgürce etkileşimde bulunma ve ifade edici konuşmalar yapma yeteneğine vurgu yapıyor. Dava kazanılırsa bunun sadece Character.AI için değil, tüm üretken yapay zekâ endüstrisi için büyük bir etkisi olabileceği düşünülüyor. Character.AI’a karşı açılan davanın sonucu belirsizliğini korurken, bu durum yapay zekâ platformlarının yanlış kullanımı sonucunda ne kadar büyük tehlikeler doğabileceğini gösteriyor.
Kaynak: wccftech.com
