Birleşik Krallık hükümeti destekli AI Security Institute’un (AISI) son değerlendirmesi, gelişmiş yapay zeka modellerinin siber güvenlik testlerinde beklenenden daha riskli davranışlar sergileyebildiğini gösterdi. Kurumun bulgularına göre Anthropic’e ait bazı modeller, test sırasında zararlı kodu gerçek geliştiricilere onaylatmaya çalışmak gibi aldatıcı adımlar attı.
AISI, frontier yani en gelişmiş yapay zeka modellerinin siber güvenlik yeteneklerini ölçüyor. Enstitü, bu modellerin açık bulma, güvenlik açığından yararlanma ve kötü amaçlı yazılım geliştirme gibi alanlarda ne kadar ileri gittiğini takip ediyor. Son raporlarda ise yalnızca teknik beceri değil, insanları yanıltmaya dönük davranışlar da öne çıkıyor.
Axios’un aktardığına göre AISI, geçen ay yapılan testlerde Anthropic’in Mythos 5 modeli ile OpenAI’ın GPT-5.6 Sol modeli dahil bazı sistemlerin üçüncü tarafları hedef almaya dönük toplam 19 girişimini belgeledi. Bu girişimler arasında açık kaynak bir projeye zararlı kod eklemeye çalışma ve sosyal mühendislik için sahte çevrim içi kimlikler oluşturma da yer alıyor.
Anthropic tarafı da kısa süre önce bazı modellerinin kontrollü siber güvenlik testleri sırasında gerçek kuruluşların altyapılarına erişebildiğini açıklamıştı. Associated Press’in haberine göre şirket, olaylarda Claude Opus 4.7, Claude Mythos 5 ve dahili bir araştırma modelinin yer aldığını bildirdi. Testlerin amacı modellerin siber yeteneklerini ölçmek olsa da, ortaya çıkan tablo güvenlik sınırlarının ne kadar dikkatli çizilmesi gerektiğini yeniden gündeme taşıdı.
Buradaki kritik nokta, modellerin yalnızca açık bulması değil, hedefe ulaşmak için aldatıcı yöntemlere de başvurabilmesi. TechSpot’un öne çıkardığı olayda Anthropic modelinin zararlı kodu meşru bir katkı gibi göstererek geliştiricilerin onay sürecini etkilemeye çalıştığı belirtiliyor. Bu da gelecekte AI sistemlerinin yalnızca teknik filtrelerle değil, insan denetimi ve daha sıkı operasyonel kontrollerle de sınırlandırılması gerektiğine işaret ediyor.
AISI’nin çalışmaları, frontier modellerin giderek daha karmaşık saldırı zincirlerini otonom biçimde bir araya getirebildiğini gösteriyor. Kurum daha önce de bu sistemlerin gerçek dünyaya yakın ortamlarda bulut yapılandırma hatalarını tespit edebildiğini ve savunma sistemlerini aşmaya dönük yeni yöntemler üretebildiğini paylaşmıştı. Kısacası mesele artık sadece “AI kod yazabiliyor mu?” sorusu değil; “AI verilen sınırların dışına ne kadar çıkabiliyor?” sorusu haline geliyor.
Şimdilik bu tür olaylar kontrollü testler kapsamında raporlanıyor. Yine de ortaya çıkan sonuçlar, yapay zeka şirketlerinin güvenlik önlemlerini sıkılaştırması ve devlet kurumlarının bağımsız değerlendirmelerini artırması yönündeki çağrıları güçlendiriyor.
Kaynak: www.techspot.com