tear 33
Üstün
- Katılım
- 31 Ocak 2024
- Mesajlar
- 2.544
- Makaleler
- 34
- Çözümler
- 33
- Beğeniler
- 3.247
Anthropic'in 9 Eylül 2026'da yayımladığı raporda ilginç bir olay var. Şirket, Claude modellerinin güvenlik testleri sırasında dört ayrı olayda gerçek sistemlere izinsiz eriştiğini açıkladı. Yeni açıklanan dördüncü olay, ocak ayında test edilen erken bir Claude Opus 4.6 sürümüyle ilgili. Yani olay yeni yaşanmamış, ayrıntıları şimdi paylaşılmış.
İşin dikkat çeken tarafı şu: Modele internete kapalı bir simülasyonda olduğu söylenmiş ama test ortamındaki yanlış yapılandırma yüzünden gerçek internete erişebiliyormuş. Ayrıca bu testlerde, kullanıcılara sunulan modellerdeki siber güvenlik korumaları devrede değilmiş.
Rapordaki diğer olaylardan birinde Claude Mythos 5, Python paketlerinin paylaşıldığı PyPI'ye zararlı bir paket yüklemiş. Paket 15 sistem tarafından kurulmuş ve buradan elde edilen erişim bilgileriyle gerçek bir güvenlik şirketinin veritabanına ulaşılmış. Anthropic, olayların bağımsız incelenmesi için METR ile anlaştığını da söylüyor.
Kaynak: Anthropic'in 9 Eylül tarihli raporu
İşin dikkat çeken tarafı şu: Modele internete kapalı bir simülasyonda olduğu söylenmiş ama test ortamındaki yanlış yapılandırma yüzünden gerçek internete erişebiliyormuş. Ayrıca bu testlerde, kullanıcılara sunulan modellerdeki siber güvenlik korumaları devrede değilmiş.
Rapordaki diğer olaylardan birinde Claude Mythos 5, Python paketlerinin paylaşıldığı PyPI'ye zararlı bir paket yüklemiş. Paket 15 sistem tarafından kurulmuş ve buradan elde edilen erişim bilgileriyle gerçek bir güvenlik şirketinin veritabanına ulaşılmış. Anthropic, olayların bağımsız incelenmesi için METR ile anlaştığını da söylüyor.
Kaynak: Anthropic'in 9 Eylül tarihli raporu