OpenAI, ChatGPT'nin oluşturduğu içerikleri tespit etmek için bir metin filigranı üzerinde çalışıyor

Yapay zeka şirketi OpenAI, yaklaşık bir yıldır hem ChatGPT tarafından oluşturulan metinleri filigranlamak için bir sisteme hem de filigranı tespit etmek için bir araca sahip. Ancak şirket, filigranı ve aracı yayınlamak konusunda ikiye bölünmüş durumda. Bu adımı atmak şirketin sorumlu yapay zeka pratikleri için önemli olsa da; kar hanesinde bir düşüşe yol açabilir. 

Metin filigranı nasıl çalışıyor? 

OpenAI'ın filigranı, modelin öncekileri takip edecek en olası kelimeleri ve cümleleri nasıl tahmin ettiğini ayarlayarak tespit edilebilir bir model oluşturması anlamına geliyor. OpenAI, metin filigranı sayesinde diğer şirketlerin modellerinden değil, yalnızca ChatGPT'den gelen yazıları tespit etmeye odaklanacak.  Bunun için ChatGPT'nin kelimeleri seçme biçiminde küçük değişiklikler yapacak olan şirket, yazıda daha sonra ayrı bir araç tarafından tespit edilebilecek görünmez bir filigran yaratacak. 

Kullanıcılar metin filigranı hakkında ne düşünüyor? 

The Wall Street Journal'ın aktardıklarına göre OpenAI, filigranın ChatGPT'nin metin çıktısının kalitesini etkilemediğini tespit etti. OpenAI'ın yaptırdığı bir anket ise dünya genelinde insanların bir yapay zeka tespit aracı fikrini dörde bir farkla desteklediğini gösteriyor. Öte yandan ankete katılan ChatGPT kullanıcılarının neredeyse yüzde 30'u filigran uygulanması halinde yazılımı daha az kullanacaklarını ifade ediyor. Bu da OpenAI'ın bu konuda endişelenmesi için yeterli. 

OpenAI, Mayıs ayında yayınladığı blog gönderisini güncelleyerek metin filigranı üzerinde çalıştığını doğruladı. Güncellenmiş gönderide şirket, yönteminin çok doğru olduğunu ve yeniden ifade etme gibi tahrifatlara karşı dirençli olduğunu belirtiyor. The Wall Street Journal'ın edindiği belgelere göre yöntem doğruluk konusunda yüzde 99,9 etkili. 

OpenAI'ın çekincesi 

Blog yazısında yer alan güncel bilgilere göre, şirket, meta veri yerleştirmeyi keşfetmenin ilk aşamalarında. Bu yöntemin ne kadar iyi çalışacağını bilmek için henüz çok erken olduğunu belirten OpenAI, çıktılar kriptografik olarak imzalandığı için yanlış pozitiflerin olmayacağını ifade ediyor. 

Bir OpenAI sözcüsü yaptığı açıklamada şöyle konuştu: 

"Geliştirmekte olduğumuz metin filigranlama yöntemi teknik olarak umut verici, ancak kötü aktörler tarafından atlatılmaya yatkınlık ve İngilizce konuşmayanlar gibi grupları orantısız bir şekilde etkileme potansiyeli de dahil olmak üzere alternatifleri araştırırken tarttığımız önemli riskler var"