OpenAI, ChatGPT kullanıcılarının olası kriz anlarında destek alabilmesini hedefleyen yeni Trusted Contact (güvenilir kişi) özelliğini duyurdu. Yeni özellik sayesinde kullanıcılar, bir arkadaşını ya da aile üyesini ChatGPT hesaplarına güvenilir kişi olarak ekleyebilecek.
Sistem, kullanıcının kendine zarar verme veya intihar eğilimiyle ilişkili ciddi konuşmalar gerçekleştirdiğini tespit ettiğinde devreye giriyor. Bu durumda ChatGPT, öncelikle kullanıcıyı doğrudan güvenilir kişisiyle iletişime geçmeye teşvik ediyor ve konuşmayı başlatmaya yardımcı olacak öneriler sunuyor.
OpenAI’ın açıklamasına göre süreç tamamen otomatik ilerlemiyor. Şirket bünyesindeki özel eğitimli insan inceleme ekibi, ilgili konuşmayı değerlendiriyor. Eğer riskin ciddi olduğu sonucuna varılırsa, kullanıcının daha önce belirlediği güvenilir kişiye e-posta, SMS veya uygulama içi bildirim gönderiliyor.
Şirket, gönderilen bildirimlerin sınırlı bilgi içerdiğini belirtiyor. Buna göre güvenilir kişiye yalnızca genel düzeyde bir güvenlik endişesi aktarılıyor; sohbet kayıtları veya konuşma özetleri paylaşılmıyor.
Özelliği kullanabilmek için kullanıcıların 18 yaşından büyük bir kişiyi davet etmesi gerekiyor. Davet edilen kişinin sistemi aktif hale getirebilmesi için bir hafta içinde daveti kabul etmesi şart. Güney Kore’de ise yaş sınırı 19 olarak uygulanıyor.
OpenAI, güvenlik bildirimlerini bir saatten kısa sürede incelemeyi hedeflediğini belirtirken, özelliğin geliştirilme sürecinde klinisyenler, araştırmacılar ve intiharı önleme alanında çalışan kuruluşlarla birlikte çalıştığını aktardı. Yeni özellik, yapay zeka sohbet botlarının ruh sağlığı üzerindeki etkilerine yönelik tartışmaların yoğunlaştığı bir dönemde geliyor.
Hatırlatmak gerekirse son yıllarda ChatGPT ile yapılan konuşmalar sonrası yaşanan bazı trajik olaylar, teknoloji şirketlerinin bu alandaki güvenlik önlemlerini artırmasına yönelik baskıyı artırmıştı.
İlk Yorumu yazmak ister misiniz?
Yorum Yazmak için Giriş Yap