OpenAI, ChatGPT’nin piyasaya sürülmesinden bu yana yapay zeka dünyasında büyük adımlar atarak, kullanıcıların yapay zeka araçlarıyla etkileşimlerini ve bilgiye erişimlerini geliştirdi. Şirketin sunduğu kolaylıklar geniş çapta kabul görse de, özellikle iş yerlerinde ve akademik kurumlarda yapay zekanın kötüye kullanımı konusunda endişeler artıyor. Bu sorunları çözmek amacıyla OpenAI, son bir yıl içinde bir tespit aracı geliştirdi, ancak bu aracı yayınlama konusunda çekimser davranıyor.
OpenAI, ‘Tedbirli Bir Yaklaşım’ Benimseyerek AI Metin Tespit Aracını Yayınlamadı
ChatGPT, yapay zeka dünyasında bilgi üretme ve kullanma yöntemlerini köklü bir şekilde değiştirdi. Bu model, bilgiye erişimi ve sunumunu geliştirirken, öğrencilerin kopya çekmek için bu aracı kullanmaları ve içerik üreticilerinin yapay zeka tarafından oluşturulan metinleri özgün gibi göstermeleri gibi yeni riskler ortaya çıkardı.
Bu sorunları azaltmak için OpenAI, ChatGPT ile üretilen metinleri tespit edebilecek bir araç geliştirdi. Ancak, bu sorunların yaygın olmasına rağmen, şirket aracı piyasaya sürme konusunda tereddüt yaşıyor ve potansiyel etkilerini değerlendiriyor. Wall Street Journal’a göre, OpenAI bu aracı piyasaya sürüp sürmeme konusunda iç tartışmalar sürdürüyor.
OpenAI, AI tarafından üretilen içerikleri tespit eden aracını ve filigranlama yöntemini tanıttığı blog yazısını güncelledi. Bu teknik, yerel değişiklikler (örneğin, başka kelimelerle ifade etme) karşısında etkili olmasına rağmen, daha geniş çaplı değişiklikler (örneğin, yeniden yazma) durumlarında aynı başarıyı gösteremeyebilir. Bu nedenle OpenAI, kötü niyetli kullanıcıların bu araca karşı çözümler geliştirebileceğinden ve ana dili İngilizce olmayan kullanıcıların bu aracı kullanmaktan çekinebileceğinden endişe ediyor.
OpenAI, bu yöntemin doğruluğunun yüzde 99,9’a yakın olduğunu TechCrunch’a belirtti. Ancak şirket, yine de ‘Tedbirli Bir Yaklaşım’ izlemeye devam ediyor. Şirket sözcüsü, bu kararı şu şekilde açıkladı:
“Yöntemin karmaşıklıkları ve OpenAI dışındaki daha geniş ekosistem üzerindeki olası etkiler dikkate alınıyor.”
OpenAI’nin aracı yayınlama konusundaki tereddütünün bir başka nedeni, filigranlama sisteminin uygulanması durumunda ChatGPT kullanıcılarının azalabileceği endişesi. Kullanıcıların yaklaşık yüzde 30’u, filigranlama sistemi devreye girdiğinde aracı eskisi kadar sık kullanmayabileceklerini ifade etti.
OpenAI ayrıca, kriptografik olarak imzalanmış ve yanlış pozitifleri önleyebilecek bir alternatif olarak metin metadatasını araştırdıklarını da blog gönderisinde belirtti. Ancak, bu yöntemin ne kadar etkili olacağı ve ne tür sonuçlar doğuracağı konusunda kesin bir bilgiye sahip olmak için henüz erken.
Kaynak: wccftech.com
