Stanford araştırmacıları, ChatGPT tarafından üretilen metinlere karşı savaşabilecek ve fayda sağlayabilecek yeni bir araç olan DetectGPT’yi duyurdu.
ChatGPT gibi büyük dil modellerinin (LLML’ler) kullanımı çok hızlı bir şekilde artıyor. Bunun nedeni ise işlerini çok iyi bir şekilde yapıyor olmalarından kaynaklı. Ayrıca üniversitelerdeki dersler için ikna edici ve açık makaleler oluşturulabiliyor. Bu sebepten ötürü artık, makine tarafından oluşturulan yazıları algılayabilen sistemlere ihtiyaç duyuluyor.
ChatGPT’yi tespit eden yeni bir teknoloji geliştirildi
Bir süre önce Standford’daki bir grup araştırmacı DetectGPT adında (sıfır atış) yeni bir yöntem önerdi ve bu yöntemin yüksek öğretimde üretilen metinlerle mücadelede kullanılacak ilk araçlardan biri olmasını hedefliyor. Yöntem, LLML’ler tarafından üretilen metinlerin tipik olarak modelin olasılık fonksiyonunun negatif eğrilik bölgelerinin belirli bölgeleri etrafında dolaştığı fikrine dayanıyor. Bu görüş sayesinde ekip, metnin makine tarafından üretilip üretilmediğini değerlendirmek için bir yapay zekayı eğitmeye veya metni karşılaştırmak için büyük veri kümeleri toplamaya dayanamayan yeni bir yöntem geliştirdi.
“Sıfır atış” olarak adlandırılan bu yöntem, DetectGPT’nin makine tarafından yazılmış metni, onu üretmek için kullanılan yapay zeka hakkında herhangi bir bilgi olmadan tespit etmesini sağlıyor. Eğitim sınıflandırıcıları gerçek ve üretilmiş pasajlardan oluşan veri kümeleri gerektiren diğer yöntemlerin tam aksine çalışıyor.
Ekip, DetectGPT sistemini bir dizi sahte haber makalesinde kullandı ve sistem sahteleri ayıklamak açısından diğer tanımlama yöntemlerinden çok daha iyi bir iş çıkardı. DetectGPT makineler tarafından üretilmiş olan metinleri en iyi tespit edebilecek sistem olduğu düşünülüyor.
News
