Utah’taki Heber City Polis Departmanı, yapay zekâ destekli rapor yazılımını test ederken tuhaf bir hatayla karşılaştı: Sistem, bir polis memurunun “kurbağaya dönüştüğünü” yazdı. İnceleme, olay yerinde arka planda açık olan The Princess and the Frog filminin sesinin, beden kamerası kaydına karışıp rapora yanlış şekilde dahil edildiğini ortaya koydu.
Departman Aralık 2025’te iki aracı denemeye başladı: Axon’un Draft One’ı ve Code Four. Draft One, beden kamerası sesini çözüp ilk taslak anlatımı çıkarıyor; son onay ise memura ait. Code Four da benzer şekilde zaman damgalarıyla olayı döküyor. Amaç, masa başında harcanan süreyi azaltmak. Heber City’deki denemelerde bazı memurlar haftada 6–8 saat kazandıklarını söylüyor.
Hatalı metin hızla düzeltilse de olay, yapay zekânın “halüsinasyonları” resmi evraklara sızdığında ne olabileceğini somut biçimde gösterdi. Departman, “amfibi memurlarımız yok” diyerek durumu esprili biçimde netleştirdi.
Neden önemli?
- ABD’de pek çok birim, beden kamerası sesinden otomatik taslak üreten araçları pilot olarak kullanıyor. San Francisco’da da benzer bir deneme yürütülüyor. Verimlilik artsa da doğruluk ve şeffaflık hâlâ en büyük soru işareti.
- Utah’ta gündeme gelen bir yasa tasarısı, raporun tamamının ya da bir kısmının yapay zekâyla yazıldığının açıkça belirtilmesini ve memurun doğruluk sertifikasyonu yapmasını zorunlu kılmayı hedefliyor.
- Axon, Draft One’ın “memur onaylı” bir iş akışıyla çalıştığını, taslakların doğrudan sistemden gönderilemediğini vurguluyor. Buna rağmen bu olay, insan kontrolünün kağıt üzerinde kalmaması gerektiğini hatırlatıyor.
Kısacası, yapay zekâ destekli raporlama doğru kurallarla ciddi zaman kazandırabilir. Ancak arka plan gürültüsü gibi basit unsurlar bile metne masalsı yanlışlar ekleyebildiği için, tüm taslakların dikkatle okunup düzeltilmesi şart. Heber City’deki örnek, “taslağı yazan yardımcı”nın mahkemeye değil, sadece memurun denetimine girmesi gerektiğini bir kez daha gösteriyor.
Kaynak: www.techspot.com