Google’ın yapay zekalı sohbet robotu Gemini, kısa bir süre önce yanlış ve saldırgan görüntüler ürettiği bir talihsizlik yaşadı. Bu olayın ardından şirket, bir düzeltme bulunana ve hizmetler yeniden başlatılana kadar görüntü oluşturma yeteneklerini zayıflatmaya karar verdi.
Google yapay zeka modelini manuel olarak ayarladı, böylece görüntü üretimi belirli insan gruplarına veya etnik kökenlere karşı önyargı göstermek yerine etnik çeşitliliğe karşı hoşgörülü davranacaktı. Google’ın bunu, dünyanın farklı bölgelerinden kullanıcıların uygulamayı herhangi bir büyük sorunla karşılaşmadan kullanabilmelerini sağlamak için yapması kulağa oldukça mantıklı geliyor.
Ancak, önlemlerin hiçbiri tam olarak etki gösteremedi. Gemini, kullanıcıların bir görselde gerçekten belirli bir etnik köken oluşturmak istedikleri kullanım durumlarını hesaba katamadı. Dolayısıyla model, çeşitli komutlar karşısında uygunsuz içerikler üretti. Bazı durumlarda görüntü oluşturmayı bile reddetti. Bunun nedeni, hassas olmadıkları hâlde modelin komutları hassas olarak değerlendirmesiydi.
Şirket sonuç olarak insanların görüntüsünü oluşturma özelliğini kapattı ve kapsamlı testler sonrasında özellik tekrardan kullanıma sunulacak. Google ayrıca yapay zeka modellerinin mükemmel olmadığından ve tanıtıldıkları zamandan bu yana gelişmiş olmalarına rağmen, hâlen sorunlara neden olabilecek eğilimlere sahip olduklarından bahsetti.
Google net bir tarih vermedi, dolayısıyla Gemini görüntü oluşturmanın hazır olmasını beklememiz gerekecek. Geri döndüğünde, eskisinden daha iyi ve daha gelişmiş olmasını umuyoruz.
Kaynak: Google Blog
