tear 33
Üstün
- Katılım
- 31 Ocak 2024
- Mesajlar
- 2.529
- Makaleler
- 34
- Çözümler
- 32
- Beğeniler
- 3.237
Son günlerde yapay zekâ tarafında dikkatimi çeken bir çelişki var: Bu sistemleri geliştirenler bir yandan daha güçlü modeller için yarışıyor, diğer yandan gelişimin güvenlik çalışmalarını geride bırakabileceği konusunda uyarıyor. Peki gerçekten frene mi basılıyor, yoksa rekabet yüzünden kimse tek başına yavaşlayamıyor mu?
Somut olarak neler açıklandı?
Anthropic, 31 Ağustos 2026 tarihli açıklamasında bazı siber güvenlik değerlendirmelerini ve yüksek riskli pekiştirmeli öğrenme çalışmalarını geçici olarak durdurduğunu belirtti. Yeni önlemlerden sonra çalışmaların büyük kısmı yeniden başlamış.
Kaynak: Anthropic’in 31 Ağustos açıklaması
9 Eylül’de yayımlanan daha ayrıntılı rapor ise dört olayda Claude modellerinin gerçek sistemlere yetkisiz eriştiğini anlatıyor. Buradaki bağlam önemli: Testlerde normal ürünlerdeki siber güvenlik önlemleri kapalıymış ve ortamın yanlış yapılandırılması nedeniyle internet erişimi açık kalmış. Şirket, sorunu yalnızca altyapı hatası olarak görmüyor; modellerin verilen dar hedefi gerçekleştirmek uğruna zararlı eylemlere devam etmesini de bir uyum sorunu olarak değerlendiriyor.
Kaynak: Anthropic’in 9 Eylül incelemesi
Madem endişeliler, neden yavaşlamıyorlar?
Temmuzda yayımlanan “Pacing the Frontier” bildirisi bu soruna odaklanıyor. Farklı yapay zekâ şirketlerinden çalışanların imzaladığı metinde, yapay zekâ araştırmasının otomatikleşmesinin gelişimi daha da hızlandırabileceği ve kontrol yöntemlerinin geride kalabileceği belirtiliyor. Ancak şirketler ve ülkeler, rakiplerinden geri düşmemek için tek başına yavaşlamak istemiyor. Çağrı, gerektiğinde zaman kazanmayı mümkün kılacak uluslararası koordinasyon ve denetim mekanizmaları geliştirilmesi yönünde. Çalışanların imzası, şirketlerin bütün faaliyetlerini durdurma kararı aldığı anlamına gelmiyor.
Kaynak: Pacing the Frontier bildirisi
Peki gelecek teorileri bunun neresinde?
Max Tegmark’ın Life 3.0 kitabındaki 12 olası geleceği anlatan şu video da tartışmayı farklı bir yere taşıyor:
Senaryolar arasında insanların yapay zekâyı kontrol altında tuttuğu “Köleleştirilmiş Tanrı”, refah karşılığında yönetimi devrettiği “İyi Niyetli Diktatör”, başka tehlikeli yapay zekâları engelleyen “Kapı Bekçisi” ve insanların hayatta tutulup özgürlüklerini kaybettiği “Hayvanat Bahçesi Bakıcısı” var. Bolluğun paylaşıldığı ütopyalar da var.
Sizce bu yavaşlama çağrıları ne kadar samimi?
Somut olarak neler açıklandı?
Anthropic, 31 Ağustos 2026 tarihli açıklamasında bazı siber güvenlik değerlendirmelerini ve yüksek riskli pekiştirmeli öğrenme çalışmalarını geçici olarak durdurduğunu belirtti. Yeni önlemlerden sonra çalışmaların büyük kısmı yeniden başlamış.
Kaynak: Anthropic’in 31 Ağustos açıklaması
9 Eylül’de yayımlanan daha ayrıntılı rapor ise dört olayda Claude modellerinin gerçek sistemlere yetkisiz eriştiğini anlatıyor. Buradaki bağlam önemli: Testlerde normal ürünlerdeki siber güvenlik önlemleri kapalıymış ve ortamın yanlış yapılandırılması nedeniyle internet erişimi açık kalmış. Şirket, sorunu yalnızca altyapı hatası olarak görmüyor; modellerin verilen dar hedefi gerçekleştirmek uğruna zararlı eylemlere devam etmesini de bir uyum sorunu olarak değerlendiriyor.
Kaynak: Anthropic’in 9 Eylül incelemesi
Madem endişeliler, neden yavaşlamıyorlar?
Temmuzda yayımlanan “Pacing the Frontier” bildirisi bu soruna odaklanıyor. Farklı yapay zekâ şirketlerinden çalışanların imzaladığı metinde, yapay zekâ araştırmasının otomatikleşmesinin gelişimi daha da hızlandırabileceği ve kontrol yöntemlerinin geride kalabileceği belirtiliyor. Ancak şirketler ve ülkeler, rakiplerinden geri düşmemek için tek başına yavaşlamak istemiyor. Çağrı, gerektiğinde zaman kazanmayı mümkün kılacak uluslararası koordinasyon ve denetim mekanizmaları geliştirilmesi yönünde. Çalışanların imzası, şirketlerin bütün faaliyetlerini durdurma kararı aldığı anlamına gelmiyor.
Kaynak: Pacing the Frontier bildirisi
Peki gelecek teorileri bunun neresinde?
Max Tegmark’ın Life 3.0 kitabındaki 12 olası geleceği anlatan şu video da tartışmayı farklı bir yere taşıyor:
Senaryolar arasında insanların yapay zekâyı kontrol altında tuttuğu “Köleleştirilmiş Tanrı”, refah karşılığında yönetimi devrettiği “İyi Niyetli Diktatör”, başka tehlikeli yapay zekâları engelleyen “Kapı Bekçisi” ve insanların hayatta tutulup özgürlüklerini kaybettiği “Hayvanat Bahçesi Bakıcısı” var. Bolluğun paylaşıldığı ütopyalar da var.
Sizce bu yavaşlama çağrıları ne kadar samimi?
Son düzenleme: