Sam Altman: Tek bir kişi veya şirketin elindeki güçlü yapay zekâ, distopik bir geleceğe yol açabilir

Yapay zekâdaki ilerlemenin çok kötü sonuçlanabileceği ve kaçınmamız gereken iki yol var.

Birincisi, geleceğin kontrolünü yapay zekâya kaybedebiliriz. Bu kabul edilemez; biz tereddütsüz insanlığın tarafındayız ve yapay zekâ her zaman insanlara hizmet etmeli. Bunu sağlamak için, uyum ve güvenlik tekniklerinin modellerin yeteneklerindeki ilerlemenin önünde kalmasını sağlayacak yollar bulmalıyız.

İkincisi, gücün aşırı derecede merkezileştiği bir dünyayla karşılaşabiliriz. Olağanüstü güçlü bir yapay zekâ, tek bir kişi veya şirket tarafından kendi dünya görüşünü herkese dayatmak için kullanılırsa sonuçlar son derece distopik olabilir.

Bu iki tehditten kaçınmak, dar bir orta yolda ilerlemeyi gerektiriyor. Örneğin, tek bir ülke çok fazla güç kazanabilir. Bir başka örnek de tek bir yapay zekâ laboratuvarının aşırı güç sahibi olması.