Meta, çocuk güvenliği baskılarının ardından yapay zeka politikalarını değiştiriyor

Meta, şirketin reşit olmayanlar için yapay zeka güvenlik önlemlerinin eksikliğine ilişkin bir araştırma raporunun ardından, yapay zeka sohbet robotlarını gençlerin güvenliğini öncelikli hale getirmek için eğitim yöntemini değiştirdi. Yaklaşık 2 hafta önce Reuters'ın araştırması, şirketin sohbet robotlarının reşit olmayan kullanıcılarla cinsel içerikli sohbetler yapmasına izin veren bir Meta iç politika belgesini ortaya çıkarmıştı. 

Raporun yayınlanmasından kısa bir süre sonra Senatör Josh Hawley, şirketin yapay zeka politikaları hakkında resmi bir soruşturma başlattı. Ayrıca, 44 eyalet başsavcısından oluşan bir koalisyon, Meta dahil olmak üzere bir grup yapay zeka şirketine mektup yazdı ve çocuk güvenliğinin önemini vurguladı. Bu gelişmelerin ardından Meta, eğitim yöntemini değiştirdiğini açıklarken, gençler için sohbet robotlarına erişim kısıtlamaları getirdi. 

Meta'nın açıklamasına göre şirket, artık sohbet robotlarını, kendine zarar verme, intihar, yeme bozukluğu veya potansiyel olarak uygunsuz romantik konuşmalar konusunda genç kullanıcılarla iletişim kurmamaları için eğitecek. Bunların geçici değişiklikler olduğunu belirten Meta, şirketin gelecekte reşit olmayanlar için daha sağlam ve uzun süreli güvenlik güncellemeleri yayınlayacak. 

Meta sözcüsü Stephanie Otway'in belirttiğine göre Meta, sohbet robotlarının daha önce tüm bu konuları şirketin uygun gördüğü şekilde gençlerle konuşabildiğini kabul ederken, şimdi bu yaklaşımın bir hata olduğunu düşünüyor. Stephanie Otway konuyu şöyle aktarıyor: 

Topluluğumuz büyüdükçe ve teknoloji geliştikçe, gençlerin bu araçlarla nasıl etkileşime girebileceğini sürekli olarak öğreniyor ve korumalarımızı buna göre güçlendiriyoruz. Sistemlerimizi geliştirmeye devam ederken, ekstra bir önlem olarak daha fazla koruma önlemi ekliyoruz. Bunlar arasında, yapay zekamızı gençlerle bu konular hakkında konuşmamak, ancak onları uzman kaynaklara yönlendirmek ve gençlerin erişimini şimdilik belirli bir grup yapay zeka karakteriyle sınırlamak için eğitmek de bulunuyor. Bu güncellemeler halihazırda devam ediyor ve gençlerin yapay zeka ile güvenli, yaşlarına uygun deneyimler yaşamalarını sağlamak için yaklaşımımızı uyarlama çalışmalarına devam edeceğiz.

Ayrıca şirket, gençlerin uygunsuz konuşmalar yapabilecek belirli yapay zeka karakterlerine erişimini kısıtlayacak. Bu noktada Meta'nın Instagram ve Facebook'ta kullanıma sunduğu kullanıcı tarafından oluşturulan yapay zeka karakterleri arasında cinsel içerikli sohbet robotlarının da yer aldığını belirtelim. Bunun yerine genç kullanıcılar, yalnızca eğitim ve yaratıcılığı teşvik eden yapay zeka karakterlerine erişebilecek.