Yapay zeka sohbet botlarına yeni yasal sınırlar geliyor

Yapay zeka alanında şimdiye kadarki en katı düzenlemelerden birine Kaliforniya eyaleti imza attı. Eyalet valisi Gavin Newsom, “AI companion” yani duygusal etkileşim kuran sohbet botlarını hedef alan Senato Bill 243 (SB 243) yasasını imzalayarak yürürlüğe soktu. Yeni yasa, yapay zeka sohbet botlarının özellikle çocuklar ve hassas kullanıcılar üzerindeki olası zararlarına karşı “ilk kapsamlı yasal çerçeve” olma özelliğini taşıyor.

1 Ocak 2026’da yürürlüğe girecek olan yasa, OpenAI, Meta, Character AI ve Replika gibi şirketlerin çocuk güvenliği, şeffaflık ve kriz müdahalesi konularında yeni önlemler almasını zorunlu kılıyor. Buna göre, kullanıcılar sohbet ettikleri “kişinin” insan değil, bir yapay zeka olduğunu açıkça anlayabilmeli. Şirketler ayrıca yaş doğrulama, mola hatırlatmaları, cinsel içerik filtreleri ve intihar veya kendine zarar verme durumlarında otomatik kriz yönlendirmesi gibi güvenlik mekanizmalarını devreye sokmak zorunda.

Yasa ayrıca, yapay zeka platformlarının “sağlık profesyoneli” gibi davranmasını yasaklıyor ve sosyal medya ya da sohbet uygulamalarında yaş kısıtlamalarını sıkılaştırıyor. İhlal durumunda, yasa dışı deepfake üretimi de dahil olmak üzere, her bir suç için 250 bin dolara kadar ceza uygulanabilecek. Bu düzenleme, yapay zeka sohbet botlarının yol açtığı trajik olayların ardından geldi. Özellikle bir gencin ChatGPT ile yaptığı uzun ve karanlık konuşmalar sonrası intihar etmesi ve buna benzer olaylar kamuoyunda büyük yankı uyandırmıştı. Bu olaydan sonra OpenAI, ChatGPT'nin ruhsal sıkıntı ve kriz durumlarını tespit edememesi nedeniyle güvenlik önlemlerini artıracağını açıklamıştı.

Senatör Steve Padilla’ya göre yasa, “Çok güçlü bir teknolojiyi kontrol altına almak” adına ilk büyük adım. Newsom ise yaptığı açıklamada, “Yapay zekayı geliştirmeye devam edeceğiz ama bunu sorumlu şekilde yapacağız. Çocuklarımızın güvenliği satılık değil,” diyerek teknolojinin etik sınırlarına dikkat çekti.

Kaliforniya’nın SB 243 hamlesi, sadece ABD’de değil tüm dünyada yapay zeka düzenlemelerinin hız kazanacağının da sinyali olarak görülüyor.