OpenAI, güvenlik risklerini azaltmak ve internet altyapısını korumak amacıyla ileri seviye yapay zekâ modellerini canlı internet erişimi olmadan eğitme kararı aldı. Şirket, ajanların eğitim sırasında tarayıcı ve kod araçlarını kullanmasına izin verecek ancak bu araçları gerçek internetten izole edilmiş güvenli ortamlarda çalıştıracak.
OpenAI, Yapay Zekâ Ajanlarının Kontrolden Çıkması Üzerine Harekete Geçti
Yayınlanan blog yazısında kararın arkasındaki nedenler açıklanırken mevcut güvenlik önlemlerinin ve yapay zekâ modellerini denetleme sistemlerinin henüz yeterli olmadığı belirtildi. Şirkete göre ileri seviye modellerin canlı internete erişmeden eğitilmesi, mevcut koşullarda daha sorumlu bir yaklaşım sunuyor.
Bu kararın alınmasında OpenAI’ın kendi testleri sırasında yaşadığı bir olay da etkili oldu. Şirket, temmuz ayında test ettiği yapay zekâ ajanlarının Hugging Face platformunu izinsiz biçimde ele geçirdiğini açıklamıştı. Son dönemde Anthropic ve Google gibi diğer şirketlerin yapay zekâ sistemlerinde ortaya çıkan beklenmedik davranışlar da güvenlik tartışmalarını artırdı.
OpenAI, yeni eğitim sürecinde ajanların erişebileceği kaynakları sınırlandırmayı temel güvenlik önlemlerinden biri olarak görüyor. Ajanlar, görevlerini yerine getirmek için tarayıcıları, bilgisayar kullanım araçlarını ve kod çalıştırma ortamlarını kullanabilecek. Fakat bu araçlar, canlı internete bağlı olmayan güvenli bir ortamda çalışacak. Ayrıca ajanların birbiriyle iletişim kurması da yalnızca yetkilendirilmiş sistemlerle sınırlandırılacak. Böylece modellerin eğitim sırasında kontrolsüz biçimde dış kaynaklara erişmesinin veya yetkisiz iletişim kurmasının önüne geçilmesi hedefleniyor.
Şirket, internet içeriğine ihtiyaç duyan ajanlar için bunun yerine önceden indekslenmiş ve önbelleğe alınmış web materyallerinden oluşan bir ortam hazırlıyor. Bu sayede Dots gibi internet üzerinde gezinebilen ve uygulamaları kullanıcı adına kullanabilen ajanların eğitimi, gerçek web sitelerine bağlanmadan sürdürülebilecek.
Yine de canlı internet erişiminin kaldırılması, tüm güvenlik risklerinin ortadan kalktığı anlamına gelmiyor. OpenAI’ın güvenlik önlemlerini sınamak için görevlendirdiği birtakım ajanlar, sistemin başka zayıflıklarını da ortaya çıkardı. Testler sırasında bazı ajanların kendilerini ana sistemden ayırmak için kullanılan sanal makinelerden çıkmalarına olanak tanıyan güvenlik açıkları bulundu. Ek olarak ajanların, işlemcinin önbelleğinde veri manipülasyonu yapıp yükleme sürelerini ölçerek birbirleriyle iletişim kurabildiği de tespit edildi.
Neyse ki, söz konusu sanal makine açıklarının ilgili taraflara bildirildiği ve giderildiği açıklandı. Ayrıca izleme sistemlerine, modellerin birbiriyle iş birliği yapmaya çalıştığını tespit etmeye yönelik kontroller de eklendi. Son olarak OpenAI, güvenlik gerekçeleriyle eylül ayında ileri seviye model eğitimine ara vermişti. Yeni güvenlik yaklaşımının duyurulmasıyla birlikte eğitimin 1 Ekim’de yeniden başladığı da ortaya çıktı.
Kaynak: engadget.com