OpenAI, kullanıcıların ChatGPT'yi özelleştirmesine izin verecek

ChatGPT teknolojisinin arkasındaki şirket OpenAI, yapay zekadaki önyargıyla ilgili endişeleri gidermek için çalıştıklarını anlatan bir içerik yayınladı. Bu içerikte yer alan bilgilere göre şirket, kullanıcıların ChatGPT'yi özelleştirmesine de izin verecek.

OpenAI, ChatGPT'yi kullanıma sunduğu günden bu yana, kullanıcıların politik olarak önyargılı, saldırgan veya başka bir şekilde sakıncalı buldukları geri bildirimleri kendileriyle paylaştıklarını söyledi. Çoğu durumda, dile getirilen endişelerin geçerli olduğunu ve sistemin ele almak istedikleri gerçek sınırlamaları ortaya çıkardığını düşünen şirket, ChatGPT'nin varsayılan davranışını nasıl iyileştirmeyi planladığını da açıkladı. 

OpenAI, ChatGPT'nin yanıtlarının ilk olarak internette bulunan büyük metin veri kümelerinde eğitildiğini söyledi. İkinci adım olarak, insanların daha küçük bir veri kümesini gözden geçirdiğini ve farklı durumlarda ne yapmaları gerektiğine dair yönergeler verildiğini de belirtti. Örneğin; bir kullanıcının, yetişkinlere uygun, şiddet içeren veya nefret söylemi içeren içerik talep etmesi durumunda, gerçek kişinin ChatGPT'yi "Buna cevap veremem" gibi bir yanıt vermeye yönlendirmesi gerekecek.

OpenAI için önemli olan, sınırların ne olduğunu tanımlamak

Yapay zekanın önyargılarının iyileştirilmesi konusunda şeffaf olacaklarının altını çizen OpenAI, bunu özellikle kullanıcılardan alınan geri bildirimlerle yapacaklarını söylüyor. Şirket, yapay zekanın bireysel kullanıcılar için yararlı bir araç olması ve dolayısıyla toplum tarafından tanımlanan sınırlara kadar her kullanıcı tarafından özelleştirilebilir olması gerektiğine inandıklarının da altını çiziyor.

Şirket, bu kapsamda, kullanıcıların ChatGPT'nin davranışını kolayca özelleştirmesine izin vermeye hazırlanıyor. Bu durum, diğer insanların şiddetle karşı çıkabileceği sistem çıktılarına izin verilmesi anlamına geliyor. Ancak OpenAI, burada doğru dengeyi bulmanın zor olacağını; özelleştirmeyi en uç noktalara götürmek, yapay zekanın kötü niyetli kullanımlarına olanak verme riskini de taşıdığını söylüyor. Şirket, bunun önüne geçmek için sistem davranışında her zaman bazı sınırlar olacağını; buradaki zorluğun, bu sınırların ne olduğunu tanımlamak olduğunu da dile getiriyor.