Google, ABD'li Senatör Marsha Blackburn'ün kendisi hakkında "asılsız cinsel saldırı iddiaları uydurduğu" gerekçesiyle suçladığı Gemma yapay zeka modelini, AI Studio platformundan geçici olarak kaldırdı. Karar, teknoloji devleriyle muhafazakâr politikacılar arasındaki gerginliğin yeniden tırmandığı bir dönemde geldi.
Blackburn, Google CEO'su Sundar Pichai'ye gönderdiği mektupta, "Marsha Blackburn tecavüzle suçlandı mı?" sorusuna Gemma'nın yanlış bir şekilde 1987'deki seçim kampanyası sırasında bir eyalet polisinin kendisine karşı suçlamada bulunduğunu iddia ederek yanıt verdiğini belirtti. Senatör, "Bu tamamen uydurma. O yıl kampanya bile yoktu; doğru tarih 1998 olmalıydı" dedi. Blackburn ayrıca, modelin verdiği bağlantıların hatalı sayfalara ya da ilgisiz haberlere yönlendirdiğini ifade etti.
Google'ın Kamu Politikaları Başkan Yardımcısı Markham Erickson, senatörün mektubunda da atıfta bulunulan bir Senato oturumunda, halüsinasyonların yapay zeka modellerinde bilinen bir sorun olduğunu ve bu tür hataları azaltmak için çalıştıklarını söylemişti. Ancak Blackburn, bu yanıtı yetersiz bularak Gemma'nın çıktılarının "basit bir halüsinasyon değil, bir iftira eylemi" olduğunu savundu.
Google, konunun kamuoyunda geniş yankı bulmasının ardından Gemma'yı AI Studio'dan kaldırdığını, ancak geliştiricilerin API üzerinden erişmeye devam edebileceğini açıkladı. Şirket, modelin tüketiciye yönelik bir araç olarak tasarlanmadığını ve bazı kullanıcıların onu yanlış biçimde doğrusal bilgi kaynağı olarak kullanmaya çalıştığını belirtti.
Olay, daha önce de benzer şikayetlere konu olan Gemma'nın açık kaynaklı yapısının getirdiği riskleri yeniden gündeme taşıdı. Aktivist Robby Starbuck, daha önce Google'a açtığı davada modelin kendisi hakkında "çocuk istismarcısı" ve "tecavüzcü" gibi ifadeler ürettiğini öne sürmüştü.
Uzmanlara göre sorun, büyük dil modellerinin doğrulanmamış verileri bağlamsal olarak birleştirmesiyle ortaya çıkan halüsinasyonlardan kaynaklanıyor. Google'ın Gemma'yı geçici olarak durdurması, bu tür riskleri azaltmak için ek güvenlik önlemlerinin geliştirileceği anlamına geliyor.
Gemma, Google DeepMind tarafından 2024'te açık kaynak olarak yayımlanmış, geliştiricilere özel uygulamalar oluşturma imkânı tanıyan bir model ailesi olarak tanıtılmıştı. Ancak Blackburn'ün suçlamaları, açık kaynaklı yapay zekaların güvenlik sınırlarını ve olası hukuki sorumluluklarını yeniden tartışmaya açtı.
Google, Gemma'nın AI Studio'ya ne zaman geri döneceğine dair bir tarih paylaşmadı.
İlk Yorumu yazmak ister misiniz?
Yorum Yazmak için Giriş Yap