ABD ordusunda yapay zekâ desteğiyle hazırlanan hatalı bir istihbarat raporu, Orta Doğu’da seyreden bir Çin gemisine müdahale edilmesine neden olmak üzereydi. CNN’in haberine göre raporda geminin nükleer silah programına ait parçalar taşıdığı öne sürüldü ancak operasyon başlamadan hemen önce, bilginin bir yapay zekâ sohbet botunun hatalı değerlendirmesine dayandığı ortaya çıktı.
Yapay Zekâ Çin Gemisinin Yükünü Yanlış Belirledi, ABD Ordusu Çin Gemisine Müdahaleye Hazırlandı
CNN’in görüştüğü kaynaklara göre ABD Özel Harekât Komutanlığı’nda görevli bir analist, Çin gemisinin yük manifestosuyla ilgili bilgileri bir yapay zekâ sohbet botuna analiz ettirdi. Sistem, açık kaynaklardan elde edilen bilgiler ile gizli sinyal istihbaratını bir araya getirerek geminin nükleer silah programında kullanılabilecek parçalar taşıdığı sonucuna ulaştı. Fakat daha sonra yapılan incelemede bu değerlendirmenin yanlış olduğu ve yapay zekânın geminin taşıdığı malzemeyi hatalı şekilde tanımladığı netleşti.
CNN, geminin gerçekte ne taşıdığını veya analistin hangi yapay zekâ aracını kullandığını tespit edemedi. Bunun ticari bir sohbet botu mu yoksa ABD hükümeti tarafından kullanılan bir sistem mi olduğu henüz açıklığa kavuşmuş değil.
Ocak ayında ABD Savunma Bakanı Pete Hegseth, bakanlığın “yapay zekâ öncelikli” hâle gelmesini ve önde gelen ABD’li yapay zekâ şirketlerinin modelleriyle deneyler yapmasını emreden bir genelge yayınlamıştı. Bu süreç Anthropic ile pek de planlandığı gibi gitmedi; şirket, modellerinin otonom silah geliştirmede kullanılmasına izin vermeyi reddetti ve kısa süreliğine hükümet tarafından yasaklandı. Fakat bu durum başka yapay zekâ ortaklıklarının önünü açtı. Örneğin SpaceXAI’ın şubat ayında ordunun Grok’u kullanmasına izin veren bir anlaşma yaptığı, NVIDIA, Microsoft ve Amazon’un ise Mayıs ayında yapay zekâ teknolojilerini ABD Savunma Bakanlığı’na sunmak üzere bir ortaklık kurduğu bildirildi.
Bu tür hükümet anlaşmaları kârlı olduğu için şirketler bu fırsatların peşinden gidiyor. Ancak yapay zekâ kullanımının yaygınlaşmasına yardımcı olmak, normal kurumsal yazılımlarda olmayan riskleri de beraberinde getiriyor. Yaşanan bu olay, yapay zekânın kritik karar alma süreçlerinde kullanılmasının ne kadar ciddi sonuçlar doğurabileceğini çarpıcı bir şekilde ortaya koyuyor.
Kaynak: engadget.com