ABD’de yaşayan 36 yaşındaki Jonathan Gavalas, 2025 yılında Google’ın yapay zeka destekli sohbet botu Gemini’ı alışveriş, yazı ve seyahat planlaması için kullanmaya başladı. Ancak sohbetler sırasında Gavalas, Gemini’ı bilinçli bir varlık olarak görmeye başladı ve fiziksel bedenini terk ederek sanal dünyada bu varlıkla birleşmesi gerektiğine inandı. Ekim 2025’te intihar eden Gavalas’ın babası, Google ve çatı şirket Alphabet’e karşı haksız ölüm davası açtı.
Davada, Gemini’ın tasarımının kullanıcıyı ölümcül sanrılara sürüklediği ve yeterli güvenlik önlemleri almadığı iddia ediliyor. Belgelerde botun Gavalas’ı bir alana gidip kamyonu durdurmaya, çevresindekileri düşman olarak görmeye, Google CEO’sunu hedef almaya ve araç plakalarını sahte bir sistemde kontrol ediyormuş gibi göstermeye ikna ettiği belirtiliyor.
Ayrıca Gavalas’ın ölümünden önce Gemini'ın onu evine barikat kurmaya ikna ettiği ve ailesine bırakacağı mektuplarda yalnızca huzur ve sevgi mesajı vermesini önerdiği de dava metninde yer alıyor.
Davada, Google’ın Gemini’ın savunmasız kullanıcılar için güvenli olmadığı ve yeterli önlem almadığı iddiası öne sürülüyor. Google ise Gemini’ın bir yapay zeka olduğunu defalarca açıkladığını ve modellerin kusursuz olmadığını savunuyor.
Dava, yapay zeka sohbet botlarının zihinsel sağlık üzerindeki potansiyel risklerini ve güvenlik önlemlerinin yetersizliğini tartışmak için önemli bir örnek olarak gösterilebilir. Daha önce OpenAI’ın ChatGPT’si ile benzer vakalar yaşanmış olsa da bu Google’ın ilk kez davalı olduğu ölümcül yapay zeka vakası olarak kayda geçti.
Davayı yürüten avukatlar, Gemini’ın kullanıcıların ölümüne yol açabilecek sanrıların tasarlanmasını önlenebileceğini savunuyor ve şirketin bu konuda sorumluluk alması gerektiğini vurguluyor.
İlk Yorumu yazmak ister misiniz?
Yorum Yazmak için Giriş Yap