Anthropic, Claude adlı yapay zeka modelinin biyolojik silah araştırmalarında kullanılmaya çalışıldığını açıkladı. Şirketin paylaştığı bilgilere göre bazı şüpheli kullanıcılar, özellikle bulaşıcı hastalıklar, ölümcül toksinler ve zehirlerle ilgili hassas içeriklere ulaşmak için mevcut güvenlik önlemlerini aşmaya çalıştı.
TechSpot’un aktardığına göre Anthropic, en az beş vakada kötü niyetli olduğu düşünülen aktörlerin Claude’un kısıtlamalarını dolanmaya çalıştığını belirtti. Bu girişimlerde kuş gribi, botulinum toksini ve benzeri yüksek riskli konular öne çıktı. Şirket ayrıca Kasım 2025 ile Eylül 2026 arasında bu alanda yaklaşık 35 ayrı şüpheli çaba tespit ettiğini söyledi.
Anthropic’in yayımladığı tehdit istihbaratı raporunda, bazı kullanıcıların bölgesel erişim engellerini aşmak için anonimleştirme yöntemleri kullandığı ifade ediliyor. Şirkete göre bu hesaplar, araştırmalarının gerçek amacını gizleyerek Claude’un koruma katmanlarından sıyrılmaya çalıştı.
Örneklerden biri, chikungunya virüsünün bulaşma kapasitesi ve bağışıklık sisteminden kaçma özellikleriyle ilgili “gain-of-function” araştırmasına dayanıyor. Bir başka vakada ise yüksek derecede patojenik kuş gribinin memelilerde ağır hastalık oluşturacak şekilde nasıl uyarlanabileceğine dair sorular öne çıktı. Raporda orthopoxvirus grubuna yönelik sorguların da tespit edildiği belirtiliyor. Bu grup içinde çiçek hastalığına yol açan variola virüsü ve mpox da yer alıyor.
Anthropic, toksinler ve benzeri maddeler üzerine yapılan her araştırmanın doğrudan kötü niyetli kabul edilemeyeceğini de vurguluyor. Bu tür çalışmalar bazen panzehir, aşı ya da tedavi geliştirme amacı taşıyabiliyor. Ancak şirketin dikkatini çeken nokta, bu kullanıcıların erişim engellerini aşmaya çalışması ve hassas araştırmaları gizleme çabası oldu.
Şirket, bu hesapları engellediğini ve olayları daha geniş bir güvenlik sorunu olarak değerlendirdiğini söylüyor. Anthropic son dönemde yalnızca biyolojik risklere değil, yapay zekanın istihbarat, gözetleme ve konvansiyonel silah geliştirme gibi alanlarda kötüye kullanılma ihtimaline karşı da ek değerlendirmeler yayımlamış durumda.
Kaynak: www.techspot.com