Yapay zekâyla kopya çekmeyi tespit etmek için ilginç bir yöntem kullanan bir üniversite hocası, ara sınavda çok sayıda öğrenciyi bu yolla yakaladı. Olayın merkezinde, Alcorn State University’de tarih dersi veren Dr. Jason Gibson var.
Gibson, çevrim içi bir tartışma gönderisinde öğrencilerinden Sanayi Devrimi hakkında yanıt hazırlamalarını istedi. Ancak sorunun içine, öğrencilerin normalde görmeyeceği gizli bir komut da ekledi. Bu komut, metin doğrudan bir yapay zekâ aracına yapıştırılırsa modelin alakasız ya da açıkça hatalı bir cevap üretmesini hedefliyordu.
İddiaya göre iki sınıfta toplam 35 öğrenciden 32’si, bu tuzağa takılarak sınavın ilgili bölümünde başarısız oldu. Çünkü gönderdikleri yanıtlar, soruyla ilgisi olmayan ve gizli komutun devreye girdiğini gösteren içerikler taşıyordu. Böylece metni okuyup kendi cevabını hazırlamak yerine soruyu doğrudan yapay zekâya veren öğrenciler kolayca ortaya çıktı.
Bu yöntemin temelinde, son dönemde sıkça konuşulan “gizli komut” ya da “prompt injection” yaklaşımı yer alıyor. İnsan gözüyle fark edilmesi zor olan ek talimatlar, metin yapay zekâ sistemine taşındığında modelin davranışını etkileyebiliyor. Gibson’ın kullandığı yöntem de tam olarak bu açık noktadan yararlanıyor.
Olay, üniversitelerde yapay zekâ kullanımının sınırlarıyla ilgili tartışmayı yeniden gündeme taşıdı. Bir yanda bu araçları tamamen yasaklamak yerine nasıl doğru kullanılacağının öğretilmesi gerektiğini savunanlar var. Diğer yanda ise özellikle çevrim içi ödev ve sınavlarda öğrencilerin düşünme sürecini tamamen yapay zekâya bırakmasının akademik dürüstlüğü zedelediği görüşü öne çıkıyor.
Bu örnek, sadece yapay zekâ tespit araçlarına güvenmenin yeterli olmadığını da gösteriyor. Bazı eğitimciler artık klasik dedektörler yerine, öğrencinin gerçekten konuyu anlayıp anlamadığını ölçen daha farklı değerlendirme yöntemlerine yöneliyor. Gibson’ın denemesi de bu değişimin dikkat çeken örneklerinden biri oldu.
Kaynak: www.techspot.com
