OpenAI, yapay zeka ile yazılmış metinleri algılayan sistemini kapattı

OpenAI, şubat ayında yapay zeka tarafından yazılmış metinleri belirlemek için bir araç yayınlamıştı. Bu araç ile belirli bir metin parçasının insanlar tarafından mı yoksa bir yapay zeka oluşturucu tarafından mı yazıldığını anlamaya çalışılıyordu. Nitekim şirket bu konuda beklenen başarıyı yakalayamadı. Sonunda OpenAI, doğruluğuna yönelik eleştirilerin ardından yapay zeka tarafından oluşturulan metni tanımlamak için tasarlanmış aracını kapattı.

Şirket tarafından paylaşılan açıklamada şu ifadeler yer aldı:

20 Temmuz 2023 itibarıyla, yapay zeka sınıflandırıcı düşük doğruluk oranı nedeniyle artık kullanılamamaktadır. Geri bildirimleri dahil etmek için çalışıyoruz ve şu anda metin için daha etkili kaynak tekniklerini araştırıyoruz. Kullanıcıların ses veya görsel içeriğin yapay zeka tarafından üretilip üretilmediğini anlamalarını sağlayan mekanizmalar geliştirmeyi ve uygulamayı taahhüt ettik.

Şu anda kapalı halde olan araç, OpenAI'ın insanların işitsel mi yoksa görsel içeriğin yapay zeka tarafından mı üretildiğini anlamalarına yardımcı olan yapay zeka sınıflandırıcı araçları geliştirme çabalarının bir parçası olarak hayata geçirilmişti. Dil özelliklerini analiz ederek ve bir olasılık derecesi atayarak metin pasajlarının bir insan tarafından mı yoksa yapay zeka tarafından mı yazıldığını tespit etmeyi amaçlıyordu. 

Araç popülerlik kazanmış olsa da insan ve makine yazısını ayırt etme yeteneğindeki eksiklikleri nedeniyle başarısız sonuçları sunmaya başladı ve bu da aracın sonunu hazırladı. 

OpenAI'ın bu aracı kapatması akıllarda bazı soru işaretlerinin oluşmasına neden oluyor. Bu sorulardan biri, yapay zeka sistemleri ile üretilen içeriklerin ne kadar güvenilir olduğu. Zira araştırmacılar, yanlışlıkların istenmeyen sonuçlara yol açabileceği söylüyor. Bu nedenle herhangi bir içerik tespit aracıyla yapay zeka tarafından yazıldığı iddia edilen bir içeriği gerçekten birçok kez kontrol etmek gerekiyor. 

Sonuç olarak yapay zeka tarafından oluşturulan içerikler daha yaygın hale geldikçe, güven oluşturmak için sınıflandırma sistemlerini geliştirmeye devam etmek de önem teşkil ediyor.