Elon Musk’ın yapay zekâ şirketi xAI, Grok’u gerçek kişilerin rızası olmadan müstehcen deepfake görüntüler üretmek amacıyla kullandığı iddia edilen bir kullanıcıya dava açtı. Reuters’ın aktardığına göre bu dava, bir yapay zekâ şirketinin kendi hizmetini kötüye kullandığı gerekçesiyle bir kullanıcısına karşı açtığı ilk davalardan biri olma özelliğini taşıyor.
xAI’a Göre Kullanıcı, Grok’u Kullanarak Uygunsuz Çocuk ve Yetişkin Görüntüleri Oluşturdu
xAI, davalının hem yetişkinlere hem de çocuklara ait fotoğrafları kullanarak cinsel içerikli görseller ve videolar üretmeye çalıştığını öne sürüyor. Teksas’ta açılan davanın dosyasına göre 67 yaşındaki Terry Wayne Harwood, 8 Aralık 2025 ile 18 Şubat 2026 tarihleri arasında xAI’daki iki farklı hesabına çok sayıda yetişkin ve çocuğa ait normal fotoğraf yükledi. Şirketin iddiasına göre Harwood, daha sonra Grok’tan bu fotoğrafları değiştirerek veya tamamen yeni içerikler oluşturarak kişileri uygunsuz şekilde tasvir etmesini istedi. Şirket, Grok’un bu talepleri çok sayıda kez reddettiğini ancak kullanıcının yapay zekânın güvenlik önlemlerini aşabilmek için istemlerini (prompt) sürekli değiştirerek yeniden gönderdiğini belirtiyor.
Ocak ayında Grok’un gerçek kadın ve çocuk fotoğraflarını müstehcen içerikli görüntülere dönüştürebildiğine ilişkin haberler kamuoyuna yansımıştı. Bunun ardından Kaliforniya yetkilileri, Birleşik Krallık iletişim düzenleyicisi Ofcom, Avrupa Komisyonu ve İrlanda Veri Koruma Komisyonu Grok hakkında ayrı soruşturmalar başlatmıştı. Bu soruşturmaların ardından xAI, rıza dışı uygunsuz deepfake içerik üretimini engellemeye yönelik ek güvenlik önlemleri uygulamaya aldı. Fakat şirket, bu önlemlere rağmen bazı kullanıcıların sistemi aşmanın yollarını aramaya devam ettiğini söylüyor.
xAI, açtığı davada miktarı açıklanmayan maddi tazminat talebinde bulundu. Şirket, ayrıca mahkemeden mağdurlar tarafından açılabilecek olası davalarda üstlenmek zorunda kalacağı hukuki savunma masraflarının da sanık tarafından karşılanmasına hükmedilmesini istiyor.
Son olarak dava, yapay zekâ araçlarının kötüye kullanılmasına karşı teknoloji şirketlerinin nasıl bir hukuki yaklaşım izleyeceğine dair önemli örneklerden biri olarak değerlendiriliyor. xAI’ın bu adımı, Grok’un yasa dışı veya rıza dışı içerik üretmek amacıyla kullanılmasına karşı şirketin doğrudan hukuki yollara başvuracağını göstermesi açısından dikkat çekiyor.
Kaynak: engadget.com
