Google, yanıltıcı bilgiler nedeniyle sağlık konusunda AI Overviews özelliğini kaldırıyor

Google, sağlıkla ilgili bazı aramalarda yapay zeka destekli AI Overviews özetlerini kaldırdı. Karar, The Guardian tarafından yayımlanan ve özetlerin kullanıcıları yanlış yönlendirme riski taşıdığını ortaya koyan bir araştırmanın ardından geldi.

The Guardian’ın incelemesine göre Google, “karaciğer kan testleri için normal değerler nedir?” gibi sorgularda bağlamdan kopuk sayısal aralıklar sunarak, ciddi sağlık sorunları olan kişilerin sonuçlarını yanlış yorumlamasına neden olabilecek özetler gösteriyordu. Uzmanlara göre bu tür bilgiler; yaş, cinsiyet, etnik köken ve test türü gibi değişkenleri hesaba katmadığı için özellikle riskliydi. Yanlış bir “normal” algısı, hastaların takip randevularını ertelemesine veya tamamen iptal etmesine yol açabilirdi.

Bu bulguların ardından Google, söz konusu sorgular için AI Overviews gösterimini devre dışı bıraktı. Ancak mesele bununla sınırlı değil. The Guardian ve sağlık kuruluşları, aynı sorunun küçük varyasyonlarla sorulması durumunda sistemin hala yapay zeka destekli özetler sunabildiğine dikkat çekiyor. Bu da problemin tekil örneklerden ziyade, sağlık alanında üretken yapay zekanın nasıl konumlandırıldığıyla ilgili daha yapısal bir sorun olduğuna işaret ediyor.

British Liver Trust yetkilileri, kaldırma kararını olumlu bir adım olarak değerlendirirken, Google’ın yalnızca spesifik sorguları kapatmak yerine sağlık içerikleri için daha kapsamlı bir yaklaşım geliştirmesi gerektiğini vurguluyor. Benzer kaygılar, kanser ve ruh sağlığı gibi başka hassas alanlar için de dile getiriliyor.

Google cephesinde ise şirket, AI Overviews özelliğinin yalnızca “yüksek güven” duyulan sorgularda gösterildiğini ve içeriklerin dahili klinik ekipler tarafından incelendiğini söylüyor. Buna rağmen yaşananlar, arama sonuçlarının en üstünde konumlanan yapay zeka özetlerinin, özellikle sağlık gibi yüksek riskli alanlarda hata payının çok daha ağır sonuçlar doğurabildiğini bir kez daha gösteriyor.

Bu tablo, Google’ın üretken yapay zekayı arama deneyiminin merkezine yerleştirme stratejisinde, özellikle sağlık gibi yüksek hassasiyet gerektiren alanlar için güvenlik, doğruluk ve sorumluluk çerçevesini yeniden değerlendirmesini zorunlu kılıyor.