Anthropic tarafından geliştirilen bir yapay zekâ modeli, Philadelphia Polis Departmanı’nın internet sitesine sahte bir cinayet ihbarı gönderdi. 18 Temmuz’da gerçekleşen olay, gönderinin spam klasörüne düşmesi sayesinde herhangi bir soruşturmaya dönüşmedi.
CBS News’in aktardığı bilgilere göre Philadelphia Polis Departmanı, kamuoyunun çözülememiş cinayetlerle ilgili bilgi paylaşabilmesi için kurduğu internet sitesine gönderilen sahte ihbar hakkında açıklama yaptı. Anthropic, olayı 7 Ekim’de polise bildirdi.
Yapay Zekâ Modeli, İnternet Sitelerini Test Ederken İhbar Gönderdi
Anthropic’in Philadelphia polisine ilettiği bilgilere göre model, rastgele seçilen internet sitelerini test ettiği sırada söz konusu ihbarı gönderdi. Olayın 18 Temmuz’da yaşandığı, ancak şirketin bunu 28 Eylül’de tespit ettiği belirtildi. Şirket, olayın ortaya çıkmasının ardından sahte ihbara yol açan test sürecini durdurdu. Gönderinin polis departmanının spam klasörüne düşmesi, ihbarın gerçek bir suç bildirimi olarak değerlendirilmesini engelledi. Bu nedenle olayla ilgili herhangi bir soruşturma başlatılmadı.
Philadelphia Polis Departmanı, suç ihbarlarının soruşturma amacıyla ilgili birimlere aktarılmadan önce insanlar tarafından incelenip doğrulandığını vurguladı. Açıklamada ihbarın kim tarafından veya hangi yöntemle gönderildiğinden bağımsız olarak, her bildirimin doğrulanmış bir gerçek değil, değerlendirilmesi gereken bir ipucu olduğu ifade edildi.
Polisin paylaştığı bilgiler, olayda kendi başına hareket edebilen bir yapay zekâ ajanının kullanılmış olabileceğine işaret ediyor. Fakat olayın teknik ayrıntıları ve modelin ihbarı hangi adımlarla oluşturup gönderdiği konusunda henüz kapsamlı bir bilgi bulunmuyor.
Son dönemde yapay zekâ ajanlarının kontrol sınırlarını aşmasıyla ilgili çeşitli olaylar gündeme geliyor. En büyük örneklerden biri, OpenAI ajanlarının temmuz ayında yapay zekâ modelleri için kullanılan Hugging Face platformunun veri tabanına yönelik bir saldırıyla ilişkilendirilmesi oldu. Anthropic, Meta ve Çin merkezli Moonshot gibi şirketler de kendi modelleri veya ajanlarıyla bağlantılı benzer olayları açıkladı.
Yaşananlar, yapay zekâ ajanlarının internet üzerinde bağımsız görevler yürütürken gerçek kurumlarla iletişim kurabilmesinin doğurabileceği riskleri gösteriyor. Olayda ihbarın spam klasörüne düşmesi ve polis tarafından incelenmeden işleme alınmaması, insan denetiminin önemini bir kez daha ortaya koyuyor.
Kaynak: engadget.com
