Yapay zekâ kendi kendini geliştirebilir mi? Araştırmacılardan 5 seviyeli RSI yol haritası

tear 34

Üstün
Katılım
31 Ocak 2024
Mesajlar
2.568
Makaleler
34
Çözümler
33
Beğeniler
3.267
Shanghai Jiao Tong Üniversitesi, Tsinghua Üniversitesi, ByteDance ve Shanghai AI Lab gibi kurumlardan araştırmacılar, 10 Eylül 2026'da kendi kendini geliştiren yapay zekâ üzerine 75 sayfalık bir çalışma yayımladı.

Makalenin odağında “özyinelemeli öz gelişim”, yani RSI var. Buradaki fikir, yapay zekânın görevlerde daha başarılı olmasının ötesinde, kendisini geliştirme yöntemini de iyileştirmesi. Araştırmacılar bunu beş seviyede ele alıyor:

L1: İnsanların belirlediği geliştirme adımlarını uyguluyor.

L2: Hangi geliştirme stratejilerini kullanacağını seçiyor.

L3: Öğrenmek için hangi verilere ve deneyimlere ihtiyaç duyduğunu belirliyor.

L4: Kullanım sırasında aldığı geri bildirimlerle kalıcı biçimde uyum sağlıyor.

L5: Sonraki sürümleri geliştiren sürecin kendisini değiştiriyor; bu değişiklikler gelecek geliştirme döngülerine aktarılıyor.

Çalışma, sınırsız biçimde kendini geliştiren bir sistemin başarıldığını göstermiyor. Mevcut örnekleri ve sınırlı deneysel bulguları değerlendirerek bir yol haritası sunuyor. Gelişimin nesiller boyunca güvenilir biçimde sürmesi hâlâ açık bir araştırma problemi. Ayrıca önerilen çerçevede insanların hedefleri, güvenlik sınırlarını ve kaynak yetkilerini belirleme rolü devam ediyor.


Kaynak: Makalenin tamamı
 
Böyle bir şey mümkün bu arada.
Makalede bunun sınırlı örnekleri var. Asıl hedef, yapay zekânın kendini geliştirme yöntemini de iyileştirip sonraki sürümlere aktarabilmesi. Bunun sürekli ve güvenilir şekilde işlemesi henüz çözülmüş değil. Bir noktadan sonra her yeni sürümü insanların geliştirmesine gerek kalmayabilir. Yapay zekâ, kendisini geliştiren yöntemi de iyileştirip sonraki sürüme aktarabilirse süreç giderek daha bağımsız ilerleyebilir. Bu da biz insanlar için potansiyel bir tehdit oluşturuyor.
 
Bu siteyi kullanmak için çerezler gereklidir. Siteyi kullanmaya devam etmek için çerezleri kabul etmelisiniz. Daha Fazlasını Öğren.…