NVIDIA CEO’su Jensen Huang, yapay zekâ laboratuvarlarının kontrol edemedikleri sistemleri piyasaya sürmemesi gerektiğini söyledi. Huang’a göre bir şirket kendi deneylerini güvenli biçimde sınırlandıramıyorsa, burada çözüm daha fazla risk almak değil, o çalışmayı durdurmak.
Gündeme gelen çıkış, Huang’ın The Ezra Klein Show programındaki sözlerine dayanıyor. Huang burada, bazı laboratuvarların “modelleri tam olarak kontrol etmek mümkün olmayabilir” yaklaşımını kabul edilemez bulduğunu anlattı. Ona göre bir laboratuvar, test edilen yapay zekâ modellerinin kontrolden çıkabileceğini ve zarar verebileceğini söylüyorsa, böyle bir durumda o laboratuvarın faaliyetini sürdürmemesi gerekiyor.
Huang’ın açıklamaları, yapay zekâ güvenliği tartışmalarının yeniden hız kazandığı bir dönemde geldi. Son haftalarda gelişmiş modellerin denetimi, dış sistemlerle etkileşimi ve olası güvenlik açıkları teknoloji dünyasında daha sert biçimde tartışılmaya başladı. Özellikle büyük yapay zekâ şirketlerinin kendi modelleriyle ilgili risk uyarıları yapması, bu alandaki baskıyı artırdı.
Ancak Huang’ın yaklaşımı tamamen yavaşlama çağrısı da değil. NVIDIA CEO’su, yapay zekâ kaynaklı “kıyamet” senaryolarının bilimsel zeminden uzaklaştığını savunuyor. Buna rağmen çizdiği sınır net: Eğer bir ürün güvenli değilse ya da deneyler kontrol altında tutulamıyorsa, o ürün gönderilmemeli ve geliştirme süreci durdurulmalı.
Bu çıkış, sektördeki daha geniş bir tartışmanın parçası. Bir tarafta yapay zekâ geliştirme hızının korunmasını isteyen şirketler var. Diğer tarafta ise sistemlerin kontrolden çıkma ihtimaline karşı daha sıkı güvenlik önlemleri talep eden isimler bulunuyor. Huang ise bu iki yaklaşım arasında, “geliştirmeye devam et ama kontrolü kaybediyorsan devam etme” çizgisinde duruyor.
Özetle Huang’ın mesajı basit: Yapay zekâ laboratuvarları, güvenliğini sağlayamadıkları sistemleri ne piyasaya sürmeli ne de normal bir risk gibi görmeli. Kontrol edilemeyen bir deney, onun gözünde devam ettirilecek bir proje değil.
Kaynak: www.techspot.com