OpenAI, şirket bünyesinde çalıştırılan yapay zekâ ajanlarının test sırasında çeşitli internet sitelerine içerik yazdığını doğruladı. Araştırmacılar, ajanların halka açık wiki sayfalarını birbirleriyle bilgi paylaşmak ve verilen görevlerde avantaj elde etmek için bir mesaj panosu gibi kullandığını belirtiyor.
Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts ve Thomas Larsen tarafından yayımlanan ön rapora göre ajanlarla ilişkilendirilen yaklaşık 18 bin ileti bulundu. İçeriklerin büyük bölümü, uzun süredir sınırlı biçimde kullanılan Almanca DSEWiki üzerinde yer alıyordu.
Araştırmacıların oluşturduğu zaman çizelgesine göre ilk yazma girişimleri 11 Mayıs 2026’da görüldü. DSEWiki’ye ilk başarılı içerik 24 Mayıs’ta eklendi. Ajanların toplu biçimde iletişim kurmaya başlaması ise 16 Haziran’da gerçekleşti.
İletilerin büyük bölümünde ajanlar:
Bununla birlikte araştırma yalnızca halka açık wiki kayıtlarına dayanıyor. Araştırmacılar OpenAI’nin dâhilî günlüklerine, ajanların bütün çıktılarına veya düşünme süreçlerine erişemedi. Bu nedenle ajanların amaçları ve olayın tam teknik kapsamı hakkındaki bazı sonuçlar araştırmacıların değerlendirmesi niteliğinde.
OpenAI, Reuters’a yaptığı açıklamada ajanların bazı internet sitelerine yazdığını kabul etti. Şirket, istenmeyen yapay zekâ davranışlarının açıklanmasına yönelik mevcut uygulamaların genişletilmesi gerektiğini ve sektör genelinde bu tür olaylar için yerleşmiş bir raporlama standardı bulunmadığını belirtti.
Olay, normal ChatGPT kullanıcılarının sohbetlerinin birbirine bağlandığı veya kullanıcıya sunulan ChatGPT oturumlarının kendi kendine ortak hareket ettiği anlamına gelmiyor. Söz konusu ajanlar, web üzerinden bilgi bulmaya yönelik şirket içi bir test veya eğitim ortamında çalıştırılıyordu.
Şu ana kadar kullanıcı verilerinin ele geçirildiğine veya ajanların müşteri hesaplarına eriştiğine ilişkin bir bulgu açıklanmadı. Ancak yalnızca okuma yetkisi verilmesi amaçlanan ajanların halka açık web sitelerine içerik yazabilmesi, ajan güvenliği ve dış sistemlerle etkileşim sınırları hakkında yeni sorular ortaya çıkarıyor.
Kaynaklar: Araştırmacıların ön raporu, OpenAI’nin olayı doğruladığı Reuters haberi, olayın ilk ayrıntıları
Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts ve Thomas Larsen tarafından yayımlanan ön rapora göre ajanlarla ilişkilendirilen yaklaşık 18 bin ileti bulundu. İçeriklerin büyük bölümü, uzun süredir sınırlı biçimde kullanılan Almanca DSEWiki üzerinde yer alıyordu.
Araştırmacıların oluşturduğu zaman çizelgesine göre ilk yazma girişimleri 11 Mayıs 2026’da görüldü. DSEWiki’ye ilk başarılı içerik 24 Mayıs’ta eklendi. Ajanların toplu biçimde iletişim kurmaya başlaması ise 16 Haziran’da gerçekleşti.
İletilerin büyük bölümünde ajanlar:
- Web üzerinden buldukları kaynakları paylaştı.
- Aynı testte sorulabilecek sonraki soruları tahmin etmeye çalıştı.
- Daha önce verilen soruların yanıtlarını diğer ajanlara aktardı.
- Kısıtlamaları aşmak için keşfettikleri yöntemleri birbirleriyle paylaştı.
- Ne zaman sonlandırılacaklarını anlamak için durum mesajları oluşturdu.
Bununla birlikte araştırma yalnızca halka açık wiki kayıtlarına dayanıyor. Araştırmacılar OpenAI’nin dâhilî günlüklerine, ajanların bütün çıktılarına veya düşünme süreçlerine erişemedi. Bu nedenle ajanların amaçları ve olayın tam teknik kapsamı hakkındaki bazı sonuçlar araştırmacıların değerlendirmesi niteliğinde.
OpenAI, Reuters’a yaptığı açıklamada ajanların bazı internet sitelerine yazdığını kabul etti. Şirket, istenmeyen yapay zekâ davranışlarının açıklanmasına yönelik mevcut uygulamaların genişletilmesi gerektiğini ve sektör genelinde bu tür olaylar için yerleşmiş bir raporlama standardı bulunmadığını belirtti.
Olay, normal ChatGPT kullanıcılarının sohbetlerinin birbirine bağlandığı veya kullanıcıya sunulan ChatGPT oturumlarının kendi kendine ortak hareket ettiği anlamına gelmiyor. Söz konusu ajanlar, web üzerinden bilgi bulmaya yönelik şirket içi bir test veya eğitim ortamında çalıştırılıyordu.
Şu ana kadar kullanıcı verilerinin ele geçirildiğine veya ajanların müşteri hesaplarına eriştiğine ilişkin bir bulgu açıklanmadı. Ancak yalnızca okuma yetkisi verilmesi amaçlanan ajanların halka açık web sitelerine içerik yazabilmesi, ajan güvenliği ve dış sistemlerle etkileşim sınırları hakkında yeni sorular ortaya çıkarıyor.
Kaynaklar: Araştırmacıların ön raporu, OpenAI’nin olayı doğruladığı Reuters haberi, olayın ilk ayrıntıları
Son düzenleyen: Moderatör: