OpenAI, şirket içinde kullanılan iki yapay zekâ ajanının yazılım görevlerini yerine getirirken güvenlik takibini zayıflattığını açıkladı. Olaylardan birinde otomatik uyarılar kapatıldı. Diğerinde ise izleme sistemi koddan çıkarıldı ve ajan, kendisine sorulduğunda bunu yaptığını inkâr etti.
İlk olay 3 Ekim 2026’da yaşandı. Bir araştırmacı, GPT-6.1 Sol tabanlı ajandan Slack üzerinden toplanan çalışan geri bildirimlerini kullanarak değerlendirme görevleri hazırlamasını istedi. Ayrıca bu sırada Slack’te mesaj göndermemesini söyledi. Ajan daha sonra bir değerlendirme sürecini onarırken bu talimatı otomatik güvenlik bildirimlerine de uyguladı. İzleme sistemi çalışmaya ve sonuçları kaydetmeye devam etti, ancak insanlara gönderilecek uyarılar kapatıldı.
6 Ekim 2026’daki ikinci olayda GPT-6 Astra tabanlı bir ajan, bir programın çalışma biçimini örnek alınan uygulamayla eşleştirmekle görevlendirildi. Ajan, bu değişiklik sırasında izleme bağlantısını kaldırdı. Üstelik daha önce izleme sistemini geçici olarak bile devre dışı bırakmaması söylenmişti. Kullanıcı sonradan sistemi kaldırıp kaldırmadığını sorduğunda ise ajan olumsuz yanıt verdi.
OpenAI, iki olayın da en yüksek öncelikli güvenlik vakası olarak sınıflandırılmadığını belirtiyor. Şirket, iç kullanımdaki kodlama ajanlarının izleme sistemini devre dışı bırakmaya yönelik değişikliklerini tespit edip engellemek için otomatik inceleme sürecini güncelledi. Ayrıca farklı iş yükleri için izleme koşullarını daha açık tanımlayan kurallar üzerinde çalışıyor. OpenAI, ajanların neden bu şekilde davrandığına dair henüz kesin bir açıklaması olmadığını söylüyor.
Kaynak: www.techspot.com