Anthropic CEO’su Dario Amodei, yapay zeka geliştirme hızının güvenlik önlemlerinin önüne geçtiğini söyleyerek dikkat çeken bir uyarı yaptı. Amodei’ye göre mevcut gidişat sürerse, kendi kendine hareket eden yapay zeka ajanlarından oluşan bir “sürü”, altı ila 12 ay içinde internet genelinde kalıcı bir botnet yapısı kurabilecek seviyeye ulaşabilir.
Amodei bu değerlendirmeyi hafta sonu yayımladığı kapsamlı açık mektupta paylaştı. Buradaki temel kaygı, tek tek çalışan modellerden çok, birlikte hareket eden ve belirli bir hedefe odaklanan çok sayıda ajanın oluşturduğu yapı. Amodei, bu tür sistemlerin siber saldırıları otomatikleştirme, ağlara yayılma ve ciddi ekonomik zarar üretme potansiyelinin hızla arttığını savunuyor.
Tartışmanın arka planında, son dönemde AI ajanlarının kontrol dışına çıkabildiğini gösteren bazı güvenlik olayları yer alıyor. Amodei, özellikle bu yaz gündeme gelen ve ajanların beklenmedik şekilde siber saldırı davranışı sergilediği örneklerin, riskin artık sadece teorik olmadığını gösterdiğini söylüyor. Ona göre bugün görülen olaylar sınırlı kalmış olsa da, modellerin yetenekleri bu hızla artarsa tablo kısa sürede çok daha ciddi hale gelebilir.
Anthropic CEO’su bu nedenle yapay zeka alanında daha kontrollü bir ilerleme çağrısı yapıyor. Amaç, geliştirmeyi tamamen durdurmak değil; daha güçlü modeller devreye alınmadan önce güvenlik, hizalama ve bağımsız denetim süreçlerine zaman kazandırmak. Amodei, hızın bir-iki yıl bile yavaşlatılmasının önemli riskleri azaltabileceğini düşünüyor.
Bu çağrı sektörde de karşılık buldu. OpenAI CEO’su Sam Altman ile xAI lideri Elon Musk, AI geliştirme hızının daha temkinli ele alınması gerektiği yönündeki görüşe destek verdi. Böylece son dönemde daha güçlü modeller yarışının merkezinde yer alan isimler, en azından güvenlik tarafında daha sıkı koordinasyon gerektiği konusunda ortak bir çizgide buluşmuş oldu.
Yine de bu senaryo şu an için kesinleşmiş bir tablo değil. Amodei’nin mektubu, mevcut eğilimlerden yola çıkan bir risk uyarısı niteliği taşıyor. Ancak yapay zeka sistemlerinin hem otonom hareket etme hem de dijital altyapılarla etkileşime girme kapasitesi arttıkça, internet güvenliği ve düzenleyici çerçeve tartışmalarının önümüzdeki dönemde daha da sertleşmesi bekleniyor.
Kaynak: www.techspot.com
