Yapay Zeka ile Yazılan İçeriği Tespit Etmek; ChatGPT’nin arkasındaki AI araştırma firması OpenAI, AI tarafından oluşturulan ve insan tarafından oluşturulan metin arasında ayrım yapmak için yeni bir araç yayınladı.
Yapay zeka tarafından yazılmış metni %100 doğrulukla tespit etmek imkansız olsa da teknoloji OpenAI, yeni aracının, insanların yapay zeka tarafından oluşturulan içeriği yazdığına dair yanlış iddiaları hafifletmeye yardımcı olabileceğine inanıyor.
Bir duyuruda OpenAI, yeni AI Metin Sınıflandırıcısının otomatik yanlış bilgi kampanyaları yürütme, akademik dolandırıcılık için AI araçlarını kullanma ve sohbet robotlarıyla insanları taklit etme yeteneğini sınırlayabileceğini söylüyor.
Araç, bir dizi İngilizce metin üzerinde test edildiğinde, metnin yapay zeka tarafından yazılıp yazılmadığını %26 oranında doğru bir şekilde söyleyebildi. Ancak yanlış bir şekilde, insan tarafından yazılan metinlerin %9 oranında yapay zeka tarafından yazıldığı düşünülüyordu.
OpenAI, aracının metin ne kadar uzun olursa o kadar iyi çalıştığını söylüyor, bu yüzden bir testi çalıştırmak için en az 1.000 karakter gerektirebilir. Yeni OpenAI Metin Sınıflandırıcının diğer sınırlamaları şunları içerir:
- Hem AI tarafından oluşturulan hem de insanlar tarafından yazılan metinleri yanlış etiketleyebilir.
- AI tarafından oluşturulan metin, küçük düzenlemelerle sınıflandırıcıdan kaçabilir.
- Çocuklar tarafından yazılan metinlerde ve İngilizce olmayan metinlerde bazı şeyler ters gidebilir, çünkü bu öncelikle yetişkinler tarafından yazılmış İngilizce içerik üzerine eğitilmiştir.
OpenAI’nin AI Metin Sınıflandırıcısını Kullanma
OpenAI’den AI Metin Sınıflandırıcı’nın kullanımı basittir. Giriş yapın, test etmek istediğiniz metni yapıştırın ve gönder düğmesine basın. Araç, gönderdiğiniz metni yapay zekanın oluşturma olasılığını değerlendirecektir. Sonuçlar aşağıdakiler arasında değişir:
- pek olası değil
- Olası olmayan
- olup olmadığı belli değil
- muhtemelen
- Büyük ihtimalle
ChatGPT’den SEO hakkında bir makale yazmasını isteyerek ve ardından metni kelimesi kelimesine AI Metin Sınıflandırıcıya göndererek test ettim.
Yapay Zeka ile Yazılan İçeriği Tespit Etmek
Grammarly’nin önerdiği küçük düzenlemeleri uygulayarak, derecelendirmeyi muhtemelen’den belirsiz’e düşürdüm. OpenAI, sınıflandırıcıdan kaçmanın kolay olduğunu söylerken haklı. Ancak, yapay zekanın bir şeyler yazdığına dair tek kanıt bu değildir. Sayfanın altındaki bir SSS bölümünde OpenAI şunları belirtir:
“Yapay Zeka Metin Sınıflandırıcıyı kullanma amacımız, insanlar tarafından yazılan ve yapay zeka tarafından oluşturulan içerik arasındaki ayrım hakkında konuşmayı teşvik etmektir. Sonuçlar yardımcı olabilir, ancak bir belgenin yapay zeka ile oluşturulup oluşturulmadığına karar verirken tek kanıt olmamalıdır. Model, insan eliyle yazılmış her türlü metni temsil etmeyebilecek çeşitli kaynaklardan gelen insan eliyle yazılmış metinler üzerinde eğitilmiştir.”
Sayfanın altındaki bir SSS bölümünde OpenAI
OpenAI, aracın AI ve insan tarafından yazılmış metinlerin bir kombinasyonunu içeren içeriği algılamak için kapsamlı bir şekilde test edilmediğini ekliyor.
Nihayetinde, AI Metin Sınıflandırıcı, potansiyel olarak AI tarafından oluşturulmuş metni işaretlemek için değerli bir kaynak olabilir, ancak bir karar vermek için kesin bir ölçü olarak kullanılmamalıdır.
