Anthropic Araştırmacısı, Yapay Zekânın ‘Kontrolden Çıktığı’ Endişesiyle İstifa Etti

tear

Üstün
Katılım
31 Ocak 2024
Mesajlar
2.600
Makaleler
34
Çözümler
33
Beğeniler
3.290

"Bugün Anthropic’ten istifa ettim. Son üç yılımı hem OpenAI hem de Anthropic’te ön eğitim (pretraining) araştırmaları yaparak geçirdim. İki şirketin de sorumlu davrandığını düşünmüyorum. Kendi kendini geliştirebilen süper zekâya doğru hızla yarışıyor ve hayatlarımızı riske atıyorlar."
 
Bağımsız test raporları adamı destekliyor, maalesef. Şantaj yapan agent mi dersin, GitHub projesine virüslü dosya gönderip sahibini ikna etmeye çalışması mı? Bakalım düzgün aksiyonlar alınacak mı şirketler tarafından.
 
Umarım yapay zeka kendi yaratıcısını yok eder de akılları başlarına gelir.

Eski Yunanlarda işkence aleti (Bronz Boğa) keşfeden adamın kendisini işkence aletine tıkayıp test etmişlerdi. Yesinler birbirini.
 
Son düzenleyen: Moderatör:
Bu siteyi kullanmak için çerezler gereklidir. Siteyi kullanmaya devam etmek için çerezleri kabul etmelisiniz. Daha Fazlasını Öğren.…