Akademik Yayınlarda Gizli Yapay Zeka Komutları Ortaya Çıktı!
Akademik alanda araştırma makalelerinin değerlendirilme süreçlerine yönelik yeni bir yapay zeka manipülasyon yöntemi belirlendi. Nikkei Asia’nın aktardığına göre, İngilizce yazılmış bilimsel ön baskı (preprint) makalelerinde bazı araştırmacılar, değerlendirme sürecinde yapay zeka araçlarından olumlu geri dönüş almak amacıyla metin içerisine gizli komutlar ekliyor. Bu makaleler, dünya genelinde 14 farklı akademik kurumdan bilim insanları tarafından hazırlandı.
İnceleme süreci manipüle mi ediliyor?
Japonya’nın Waseda Üniversitesi, Güney Kore’den KAIST, ABD’den Columbia Üniversitesi ve Washington Üniversitesi gibi prestijli kurumların da yer aldığı çalışmalarda, toplamda 17 makalede bu tür gizli komutlara rastlandı. Bu makalelerin çoğu bilgisayar bilimi alanında yayınlanmış durumda.
Gizli komutlar genellikle bir ila üç cümle uzunluğunda olup, beyaz yazı rengiyle veya çok küçük puntolarla gizlenmiş olarak karşımıza çıkıyor. Komutların içeriğinde, yapay zeka destekli bir inceleme aracına rastlanırsa çalışmanın “yalnızca olumlu değerlendirilmesi”, “etkileyici katkıları, metodolojik titizliği ve özgünlüğü” nedeniyle övülmesi yönünde açık ifadeler yer alıyor.
Bu durum, özellikle ön değerlendirme süreçlerinde artan şekilde kullanılan yapay zeka tabanlı değerlendirme sistemlerine karşı yeni bir etik sorun yaratıyor. Bazı akademisyenler, bu tür yönlendirmeleri savunurken, bunların tembel veya yapay zekayı bilinçsizce kullanan hakemleri dengelemek amacıyla yazıldığını dile getiriyor.
Nikkei Asia’ya konuşan Waseda Üniversitesi’nden bir profesör, birçok konferansın makale değerlendirmelerinde yapay zeka kullanımını yasakladığını belirterek, gizli komutların “AI kullanan dikkatsiz hakemlere karşı bir savunma aracı” olarak yerleştirildiğini ifade etti.
Ancak bu uygulama, hakemlik sisteminin güvenilirliğini sarsma riski taşıyor. Yayın sürecinde tarafsızlık, bilimsel tutarlılık ve eleştirel değerlendirmenin sağlanması kritik öneme sahiptir. Yapay zeka destekli sistemlerin gelişmesiyle birlikte metin içinde yer alan bu tür yönlendirme komutlarının değerlendirme sürecine etkisi giderek artabilir. arXiv üzerinde tespit edilen örnekler, bu tür içeriklerin halihazırda sisteme sızmış olabileceğini gösteriyor.
