Yapay zeka tarafından üretilen metinlerin her geçen gün artması, bu metinlerin insanlar tarafından mı yoksa makineler tarafından mı yazıldığının nasıl belirleneceği konusunda bir sorun meydana getiriyor. GPT-3’ün bir türü olan ChatGPT, internet kullanıcılarının dikkatini çekerken bu tür yapay zeka araçlarının ürettiği metinler insanlar tarafından yazılmış metinlerle karıştırılabiliyor. Yapay zeka modellerinin tehlikesi, ürettiği metinler konusunda oluşan yanılsamada yatıyor. Kimi zaman bir metnin insan ürünü olup olmadığını tespit etmek zorlaşıyor. Bu noktada yapay zeka dedektörü kullanmanın gerekliliği öne çıkıyor.
Yapay Zeka Dedektörü Bir Metni Nasıl Tarar?
Yapay zeka tarafından üretilen metinleri insanlar tarafından yazılmış metinlerden ayırmak için araçlara ihtiyaç duyuluyor. Bu konuda farklı çalışmalar da bulunuyor. Araştırmacılar, yapay zeka tarafından üretilen metinleri belirlemek için yazılımlar kullanarak metnin farklı özelliklerini analiz etmek gibi çeşitli yöntemler deniyor. Örneğin, metnin ne kadar akıcı olduğu, belirli kelimelerin ne sıklıkta kullanıldığı veya noktalama veya cümle uzunluğunda farklılıklar olup olmadığı gibi özellikler incelenebilir. Bu bağlamda Daphne Ippolito (Google Brain derin öğrenme araştırma biriminden) gibi araştırmacılar, büyük dil modellerinin tahminlerinin sıklıkla ortaya çıkan kelimeleri kullandığını ve bu nedenle “the” kelimesinin çok sık kullanıldığını tespit ettiler. Ancak bu tür metinlerin temiz olduğu ve daha az hata içerdiği izlenimi verdiği için yine de insanların yapay zeka tarafından üretilen metinleri ayırt etmede zorlanabilecekleri belirtiliyor. Aynı araştırmacılar insan yazımı metinlerin hatalarla dolu olduğunu ve farklı tarzları – argo ifadeleri içerirken dil modellerinin çok nadir hata yaptığını söylüyorlar.
Bir başka tespit unsuru olarak büyük dil modelleri, bir cümledeki bir sonraki kelimeyi tahmin ederek çalıştıkları için, nadir kullanılan sözcükler yerine “the”, “it” veya “is” gibi yaygın kelimeleri kullanma eğiliminde oluyorlar.
British Columbia Üniversitesi’nde doğal dil işleme ve makine öğrenimi çalışmaları yürüten Muhammad Abdul-Mageed’e göre bunu yapmanın en iyi yollarından biri, insanlar tarafından yazılan bazı metinleri ve diğerlerini makine tarafından oluşturulanlarla yeniden eğitmek, böylece aralarındaki farkı öğretmektir.
Yapay Zekâ Dedektörlerinden Kaçmak Mümkün müdür?
Chatbotlar tarafından yazılan metinlerin bu tür uygulamalardan kaçması mümkündür. Bu nedenle, bazı chatbotlar, insanlar tarafından yazılmış metinlere benzer görünümlü metinler üretmek için özel olarak tasarlanmıştır. Ancak, bu chatbotlar bile, yukarıda belirtildiği gibi tamamen insan yazımı gibi görünen metinler üretmekte tam olarak başarılı değildirler ve bu nedenle yapay zekayı tespit eden uygulamalar tarafından tespit edilebilirler.
Chatbotlar tarafından yazılan metinlerin yapay zekayı tespit eden uygulamalardan kaçması, metinlerin ne kadar gerçekçi göründüğüne bağlıdır. Eğer chatbotlar tarafından yazılan metinler, gerçek insanların yazdığı metinlerle neredeyse aynı görünüyor ve doğal dil kullanımı, anlamsal tutarlılık ve dilbilgisi açısından gerçekçi görünüyorlarsa uygulamalar tarafından tespit edilmeleri daha zor olabilir.
Farklı uygulamalar bu tespitlerinde bazen yanılmaktadır. Örneğin OpenAI, kendi ürünü olan ChatGPT’nin yazdığı metinlerin insan tarafından mı yapay zeka tarafından mı yazıldığını her zaman tespit edememektedir. Özetle bir metni oluşturmadan önce makinenin nasıl yönlendirildiği, girdiler, amaç gibi unsurlar yapay zeka dedektörlerinin gözünden kaçmada önemli noktalar olabilir.
