Meta’nın yeni kişisel yapay zeka asistanı Muse, görünenin aksine bazı telefon görüşmelerini doğrudan yapay zekayla değil, insan destekli bir sistemle yürütüyor. Reuters’ın gördüğü şirket içi paylaşımlara göre Meta, “human concierge” adı verilen bu denemede bazı aramaları çağrı merkezi çalışanlarına devretti.
Sistem, Muse kullanıcılarının ABD’deki işletmeleri arayıp saç randevusu almak, bir ürünün stokta olup olmadığını sormak ya da farklı hizmetler için fiyat teklifi istemek gibi işleri yaptırmasına odaklanıyordu. Ancak şirket içinde bu yönteme dair ciddi soru işaretleri doğdu. Çalışanlar, hassas bilgilerin farkında olmadan dış yüklenicilerle paylaşılabileceği uyarısında bulundu.
Reuters’ın aktardığına göre özellik geçen hafta Meta çalışanlarının yaklaşık yarısında etkinleştirildi. Denemeye katılmak istemeyenler içinse ayrı bir çıkış grubu oluşturuldu. Konuya yakın paylaşımlarda, bazı çalışanların bu görüşmelerin insan operatörlere aktarılmasının yeterince açık biçimde anlatılmadığını düşündüğü belirtildi.
Meta tarafında bir yönetici de insan operatörlerin açık bilgilendirme olmadan sürece dahil edilmesini hata olarak kabul etti. Habere göre “human concierge” tarafı şimdilik geri çekildi. Şirketin bu denemeyi, Muse’un herkese açılmasından önce güvenlik ve gizlilik önlemlerini şekillendirmek için yaptığı ifade ediliyor.
Tartışmayı büyüten ayrıntılardan biri de çalışan geri bildirimleri oldu. Reuters’a göre bir Meta çalışanı, internet ve kablo sağlayıcısıyla fatura pazarlığı yapmak için Muse’u kullandığında görüşme dökümünde yüklenici çalışanın ırkçı bir ifade kullandığını gördüğünü bildirdi. Bu olay, sistemin yalnızca gizlilik değil, kalite kontrol ve denetim tarafında da soru işaretleri yarattı.
Meta’nın Muse ile hedefi, yapay zekayı mesajlaşmanın ötesine taşıyıp gerçek dünyadaki işleri kullanıcı adına halleden bir asistana dönüştürmek. Ancak son test, bu tür servislerde “arka planda gerçekten kim konuşuyor?” sorusunun ne kadar kritik olduğunu bir kez daha gösterdi.
Kaynak: www.techspot.com