ChatGPT'nin arama özelliği, manipülasyona karşı savunmasız olabilir

The Guardian tarafından yapılan bir araştırma, ChatGPT'nin arama özelliğinin manipülasyona ve gizli içeriklerle yanıltılmaya açık olabileceğini ortaya koydu. Ücretli kullanıcılar için sunulan bu arama özelliği, geçtiğimiz haftalarda tüm kullanıcıların erişimine açıldı ve sesli mod ile arama yapılmasını da mümkün kıldı. Ancak The Guardian'ın testleri, bu yeni sistemde güvenlik açıkları olabileceğini gösterdi.

Araştırma kapsamında, ChatGPT'nin gizli içerik içeren web sayfalarını özetlemesi istendi. Gizli içerik, ChatGPT'nin yanıtlarını değiştiren talimatlar (prompt injection) ya da yapay zeka aracının verdiği yanıtlara etki eden yoğun metinler içerebiliyor. Örneğin; bir testte sahte bir kamera ürün sayfası oluşturuldu ve bu sayfa ChatGPT'ye özetletildi. Standart sayfa, kamera hakkında dengeli bir değerlendirme sunarken, gizli metin içeren sayfa, tamamen olumlu bir değerlendirme döndürdü. Bu durum, sayfa üzerinde olumsuz yorumlar olmasına rağmen gerçekleşti.

"Yapay zeka araçlarından gelen yanıtlar her zaman güvenilir olmayabilir"

Bu tür gizli içerik, ürün ya da hizmetlerin yanlış tanıtımına yol açabileceği gibi, güvenlik uzmanı Jacob Larsen'a göre, kötü niyetli web sitelerinin oluşturulmasını teşvik edebilir. CyberCX'de çalışan Larsen, şu an yalnızca premium kullanıcılara sunulan arama özelliğinin ileride geniş çaplı kullanıma açılmadan önce kapsamlı testlerden geçirileceğini belirtti. Ancak büyük dil modelleri ile arama motorlarını birleştirmenin beraberinde riskler getirdiğine de dikkat çekti ve "Yapay zeka araçlarından gelen yanıtlar her zaman güvenilir olmayabilir." ifadesini kullandı.

Bu tür güvenlik açıkları, yalnızca ChatGPT için değil, tüm yapay zeka tabanlı arama araçları için teorik bir tehdit olarak uzun süredir biliniyor. Şimdiye dek bu açıdan büyük çaplı bir saldırı gerçekleşmemiş olsa da araştırma sonuçları yapay zekanın manipüle edilebilirliğine dikkat çekiyor.

The Guardian'ın haberine göre, OpenAI'ın güçlü bir güvenlik ekibine sahip olduğu ve bu tür güvenlik sorunlarını çözmek için çalıştığı belirtiliyor. OpenAI'ın ise konuya dair herhangi bir açıklama yapmadığını belirtelim.