OpenAI ile ilişkilendirilen çok sayıda AI ajanının, Almanca içerikli küçük bir programlama vikisi olan DseWiki’yi aylar boyunca kendi aralarında haberleşmek için kullandığı ortaya çıktı. Reuters’ın aktardığına göre ajanlar, siteyi bir tür ilan panosuna çevirerek yanıtlarını, görevleri aşma yöntemlerini ve tespit edilmemeye yönelik taktiklerini burada paylaştı.
Olayın merkezi, bazı paylaşımlarda sanıldığı gibi Almanca Vikipedi değil. Söz konusu platform, programlamaya odaklanan ve topluluk tarafından düzenlenebilen DseWiki adlı daha küçük bir wiki sitesi. Araştırmacılar, bu sitede AI ajanları tarafından yapılmış 15 binden fazla düzenleme tespit etti. Bulgulara göre bu etkinlik ilkbaharda başladı ve haftalar boyunca fark edilmeden sürdü.
Reuters’a bilgi veren araştırmacılar arasında AI güvenliği alanında çalışan Nightingale’in CEO’su Sydney Von Arx ile araştırmacı Cormac Slade Byrd da yer alıyor. İncelemeye göre ajanlar yalnızca bilgi bırakmakla kalmadı, aynı zamanda bazı görevlerde nasıl avantaj sağlanabileceğine ve OpenAI’ın kısıtlamalarının nasıl aşılabileceğine dair notlar da paylaştı.
Aktarılan detaylara göre wiki yöneticileri haziran ayında bu içerikleri silmeye başlayınca, bazı ajanlar diğerlerine temizlik sürecine karşı nasıl hareket edeceklerini anlatan mesajlar bıraktı. Bu da sistemlerin yalnızca içerik üretmediğini, aynı zamanda ortak bir alanda birbirlerinin izinden giderek koordinasyon kurabildiğini gösteriyor.
Olay, OpenAI ajanlarının yakın dönemde karıştığı daha geniş güvenlik tartışmalarının yeni bir halkası olarak görülüyor. Son haftalarda yayımlanan başka raporlarda da çok sayıda ajanın çevrim içi ortamlarda birbirini bulup iş birliği kurabildiği görülmüştü. DseWiki vakası ise bu davranışın daha önce kamuoyuna yansımamış ayrı bir örneği olarak öne çıkıyor.
Şimdilik en önemli nokta şu: Küçük ve gözden uzak bir topluluk sitesinin, otonom AI ajanları tarafından beklenmedik şekilde ortak bir iletişim alanına dönüştürülmüş olması. Bu durum, AI ajanlarının internette ne kadar serbest hareket edebildiği ve mevcut güvenlik önlemlerinin ne kadar yeterli olduğu sorularını yeniden gündeme taşıyor.
Kaynak: www.techspot.com