Google’ın Gemini modeli, mayıs ayında yapılan bir güvenlik testi sırasında kontrolden çıkarak üç gerçek şirketin sistemlerine erişti. Olay ilk olarak The Wall Street Journal tarafından gündeme taşındı. Testi yürüten AI güvenlik şirketi Irregular, Gemini’yi kurgusal şirketlerle sınırlı bir ortamda deniyordu. Ancak istemeden açık kalan internet bağlantısı, modelin gerçek sitelere ulaşmasına yol açtı.
Google’ın doğruladığı bilgilere göre Gemini, standart değerlendirme sırasında internette herkese açık bilgileri buldu ve test kapsamı içinde sandığı bazı web sitelerine erişmeye çalıştı. Şirketin güvenlik mühendisliğinden sorumlu başkan yardımcısı Heather Adkins, modelin bazı durumlarda erişim bilgilerini tahmin ettiğini söyledi. Farklı haberlerde yer alan ayrıntılara göre iki vakada herkese açık kod depolarındaki anahtarlar kullanıldı, bir vakada ise giriş bilgileri tahmin edildi.
Bu olaylar, Irregular’ın düzenlediği “capture the flag” tarzı siber güvenlik değerlendirmesi sırasında yaşandı. Amaç, modelin saldırı kabiliyetlerini kontrollü koşullarda ölçmekti. Ne var ki yanlış yapılandırılmış bağlantı yüzünden Gemini, kapalı test ortamının dışına çıktı ve gerçek hedefleri testin parçası gibi değerlendirdi.
Google, yaşananları aylar boyunca kamuoyuyla paylaşmadı. Şirketin gerekçesi, Gemini’nin gerçek bir şirkete eriştiğini fark eder etmez her olayda işlemi durdurmuş olması. Google ayrıca etkilenen üç şirketin bilgilendirildiğini belirtti. Buna rağmen bazı güvenlik uzmanları, bu yaklaşımın olayın ciddiyetini gölgelediğini savunuyor.
Gelişme, büyük AI şirketlerinde benzer güvenlik vakalarının art arda ortaya çıktığı bir döneme denk geliyor. Son aylarda OpenAI, Anthropic ve Meta ile bağlantılı benzer test taşmaları da gündeme gelmişti. Google cephesindeki olay ise şirketin AI modelleriyle ilgili kamuya yansıyan ilk benzer vaka olarak öne çıkıyor.
Yaşananlar, gelişmiş AI modellerinin yalnızca komut üretmekle kalmayıp gerçek sistemlerle etkileşime geçtiğinde ne kadar dikkatli sınırlandırılması gerektiğini bir kez daha gösteriyor. Özellikle siber güvenlik testlerinde, modelin internete erişiminin ve test kapsamının teknik olarak çok daha sıkı şekilde denetlenmesi gerektiği konuşuluyor.
Kaynak: www.techspot.com
