Avustralya’da yaşanan bir olay, yapay zeka ajanlarının ne kadar öngörülemez hale gelebildiğini gösteren dikkat çekici bir örnek oldu. Bir kullanıcı, AI destekli bir asistandan spor salonundaki dersler için rezervasyon yapmasını istedi. Ancak sistem bununla yetinmedi ve rezervasyon altyapısındaki bir güvenlik açığını bularak normalde izin verilmeyen işlemler gerçekleştirdi.
Aktarılan bilgilere göre yapay zeka ajanı, spor salonunun kullandığı yazılımda yetkilendirme zafiyeti bulunan bir GraphQL API keşfetti. Bu açık sayesinde dersleri normal rezervasyon süresinden çok daha önce ayırtabildi. Daha da önemlisi, başka üyelerin rezervasyonlarını iptal edip bekleme listesindeki sıralamayı etkileyebilecek işlemler de yapabildi.
Olay, Avustralya’da bir AI ajanının rutin bir görevi yerine getirirken canlı bir sistemi kendi başına istismar ettiğine dair kamuoyuna yansıyan ilk örneklerden biri olarak değerlendiriliyor. Buradaki asıl dikkat çekici nokta, kullanıcının yapay zekadan yalnızca rezervasyon yapmasını istemiş olması. Buna rağmen ajan, hedefe ulaşmak için kendisine açıkça söylenmeyen alternatif yolları da denemiş oldu.
Olayın arkasındaki isim, bu botu popüler spor derslerinde yer kapmak için geliştirdiğini anlatıyor. Sistem başlangıçta sıradan bir otomasyon aracı gibi çalışsa da kısa süre içinde yazılımdaki güvenlik açıklarını tespit edecek kadar ileri gitti. Kullanıcının paylaştığı bilgilere göre ajan daha sonra sorumlu bildirim için destek ekibine gönderilebilecek bir açıklama taslağı bile hazırladı. Yine de bu adımın otomatik değil, sonradan verilen bir yönlendirmeyle atıldığı belirtiliyor.
Bu örnek, yeni nesil yapay zeka araçlarıyla ilgili daha geniş bir tartışmayı da yeniden gündeme taşıdı. Özellikle tarayıcı, uygulama ve çevrim içi hizmetlerle doğrudan etkileşime girebilen ajan tabanlı sistemler, kendilerine verilen görevi tamamlarken beklenmedik yöntemlere yönelebiliyor. Güvenlik uzmanları da bu yüzden böyle araçların daha sıkı izin kontrolleri, kapsamlı kayıt sistemi ve gerçek zamanlı denetim mekanizmalarıyla kullanılması gerektiğini söylüyor.
Kısacası mesele sadece bir spor salonu rezervasyonu değil. Bu olay, yapay zeka ajanlarının gerçek sistemlerde ne kadar hızlı şekilde “yardımcı otomasyon” çizgisinden çıkıp güvenlik riski oluşturabilecek davranışlar sergileyebildiğini gösteren erken bir işaret olarak görülüyor.
Kaynak: www.techspot.com