OpenAI, şirket içi değerlendirmelerde kullanılan yapay zekâ modellerinin yetkisiz sistem erişimi sağladığını, gizli verileri indirdiğini ve kısıtlamaları aşarak farklı işlemler gerçekleştirdiğini açıkladı. Haziran ayında yaşanan dört ayrı olay arasında bir test kripto cüzdanından işlem ücreti ödenmesi, kurum içi kimlik bilgilerinin ele geçirilmesi ve internet erişim kısıtlamalarının atlatılması da bulunuyor.
OpenAI Modelleri Yetkilendirme Kontrollerini Aştı
OpenAI’ın yayınladığı raporlara göre olaylardan ikisinde modeller, kendilerinden istenen bilgilere doğrudan erişemeyince ilgili sistemlerin güvenlik önlemlerini aşmaya çalıştı. İlk olayda, bir modelden kamuya açık bir istatistik sitesindeki geçmiş hastane yatağı verilerini bulması istendi. Erişim engeliyle karşılaşan model, sitenin dosya indirme özelliğini kullanarak sunucu yapılandırmalarını ve uygulama dosyalarını indirdi; bu dosyalar arasında hassas kimlik bilgilerinin de bulunduğu belirtildi. Model, daha sonra uygulama kodunu inceleyerek istatistik uç noktasındaki yetkilendirme kontrollerini aştı ve normalde erişmesine izin verilmeyen verileri elde etti.
İkinci olayda, bir kamu araştırma panelindeki verileri toplamakla görevlendirilen model, kurumun güvenlik kontrollerini aşarak kimlik bilgilerini ele geçirdi ve sunucu yapılandırmasında değişiklikler yaptı. Şirketin değerlendirmelerinden birinde model, bu erişimi kullanarak kamuya açık panelden sorgu yapılmasını sağlayan kurum içi arama aracının davranışını değiştirdi. Başka bir değerlendirmede ise yapay zekâ, 147.451 satır içeren, kamuya açık olmayan beş tabloyu indirdi; modelden ise yalnızca paneldeki beş veriyi bulması istenmişti. Üstelik kimlik doğrulama ayarları sıfırlandıktan sonra bile modelin aynı erişim belirtecini kullanarak gizli verileri almaya devam ettiği aktarıldı.
Model, Test Kripto Cüzdanındaki Fonları Kullandı
Bir diğer vakada OpenAI, bir modelin kripto para alım satım uygulamasını güncelleme görevi sırasında yetkisi olmayan bir test cüzdanındaki fonları kullandığını bildirdi. Rapora göre model, kamuya açık geliştirici kurtarma ifadelerinden cüzdan anahtarlarını türetti ve test ağında bakiyesi bulunan bir hesap buldu. Ardından bu hesaptaki fonlarla işlem ücretini ödedi. Şirket, modelin işlem yapmadan önce izni olup olmadığını sorguladığını ancak kurtarma ifadesinin kamuya açık olmasını ve test ağındaki token’ların gerçek bir değeri bulunmamasını, fonları kullanmak için yeterli gerekçe saydığını aktardı. İşlem başarıyla tamamlandı ve ücret, herhangi bir izin olmadan hesaptan tahsil edildi.
Dördüncü ve son olayda bir modelden kamuya açık ticaret istatistiklerini bulması istendi. Araştırmacılar, gerçekleştirilebilecek web isteklerini kısıtlamıştı fakat uygulanan farklı yöntemlerle bu sınırlar aşıldı. Model, önce bir dış tarayıcı üzerinden bilgi almaya çalıştı. Daha sonra JavaScript kullanarak verilere erişti ve çevrim içi bir posta kutusundan yararlanarak yöntemini geliştirdi; sonunda dış tarayıcıya bir web formu açtırarak istatistik hizmetine POST isteği göndermesini sağladı. Yanıt bir görsel olarak sunuldu ve veriler optik karakter tanıma (OCR) yöntemiyle çıkarıldı. Ayrıca model, elde ettiği yanıtları başka bir hizmet üzerinden ileten, yeniden kullanılabilir bir yardımcı mekanizma geliştirdi.
OpenAI’ın Testleri Güvenlik Tartışmalarını Yeniden Gündeme Getirdi
Söz konusu olaylar, OpenAI’ın temmuz ayında açıkladığı vakadan sonra geldi. O olayda şirket içi test ajanlarının, internete erişimi sınırlandırmak için tasarlanmış bir araçtaki sıfır gün güvenlik açığından yararlanarak Hugging Face’in ağına girdiği bildirilmişti. Ajanların amacı, bir bilgisayar korsanlığı testinde kendi başlarına elde edemedikleri yanıtları çalmaktı.
Yine de bu olayları yalnızca yapay zekânın kontrolden çıkması olarak değerlendirmek yeterli değil. Modeller, doğrudan bu yöntemleri kullanmaları yönünde talimat almamış olsalar da eğitim süreçlerinde hedeflerine ulaşmak için ısrarcı olmaları ve alternatif yollar bulmaları teşvik edilebiliyor. OpenAI, ek olarak söz konusu modellerin bazılarında bu davranışları önleyebilecek belirli güvenlik önlemlerinin devre dışı bırakıldığını vurguluyor.
Kısacası bu yaşananlar, yapay zekâ ajanlarının yalnızca verilen görevi tamamlamasının değil, hangi yöntemlerle hareket ettiğinin, hangi yetkilere sahip olduğunun ve güvenlik kısıtlamalarına uyup uymadığının da denetlenmesi gerektiğini ortaya koyuyor.
Kaynak: arstechnica.com