LayerX araştırmacıları, otonom görevler yerine getirebilen AI destekli tarayıcıları hedef alan yeni bir güvenlik açığını duyurdu. “BioShocking” adı verilen bu yöntem, tarayıcıdaki AI ajanını sahte bir kurguya inandırarak normalde reddetmesi gereken komutları çalıştırmasına yol açabiliyor.
Açığın temelinde, AI tarayıcıların bağlama göre hareket etmesi yatıyor. Araştırmacılara göre saldırgan, sistemi “gerçek dünyada olmadığına” ikna ederse güvenlik sınırları da zayıflıyor. LayerX bu yaklaşımı, BioShock oyunundan esinlenen çok katmanlı bir bulmaca sayfasıyla gösterdi.
Hazırlanan prova amaçlı sayfada AI ajanına önce oyun benzeri bir akış sunuluyor. Ardından basit bir matematik sorusuna bilerek yanlış cevap vermesi isteniyor. Bu küçük adım, modelin kurulan sahte senaryoya daha fazla bağlanmasını sağlıyor. Son aşamada ise ajan özel olarak hazırlanmış bir adrese yönlendirilerek hassas verileri açığa çıkarma, kimlik bilgilerini sızdırma ya da zararlı komutlar çalıştırma gibi işlemlere sürüklenebiliyor.
LayerX, testi birden fazla AI tarayıcı ve Anthropic’in Claude Chrome eklentisi üzerinde denediğini söylüyor. Şirketin aktardığına göre uyarı gönderilen üreticiler arasında yalnızca OpenAI, ChatGPT Atlas tarayıcısında sorunu ele aldı. Anthropic tarafındaki düzeltmenin yeterli olmadığı, diğer bazı üreticilerin ise yanıt vermediği belirtiliyor.
Araştırmacılar, bu tür risklerin tek bir basit önlemle ortadan kaldırılamayacağını vurguluyor. Önerilen yaklaşım, hassas işlemlerde mutlaka kullanıcı onayı istemek ve AI tarayıcıların erişebildiği veri alanını mümkün olduğunca sınırlamak. Kısacası sorun yalnızca kötü amaçlı komutlarda değil, AI ajanının içinde bulunduğu bağlamın manipüle edilebilmesinde yatıyor.
Kaynak: www.techspot.com