Gemini, güvenlik testleri sırasında üç şirketin sistemlerine izinsiz erişti

Google’ın yapay zeka modeli Gemini, bağımsız güvenlik şirketi Irregular’ın mayıs ayında gerçekleştirdiği testler sırasında üç şirketin sistemlerine izinsiz erişti. Modelin, test kapsamında olduğunu düşündüğü internet sitelerine erişmek için çevrim içi bilgilerden yararlandığı belirtildi.

Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, etkilenen kuruluşların bilgilendirildiğini ve benzer olayları önlemek amacıyla test prosedürlerinin güncellendiğini açıkladı: 

Bu üç kuruluşun konudan haberdar olmasını sağladık ve eğitim ortağımızla birlikte, test süreçlerinde yaptıkları değişiklikler üzerinde çalıştık. Bu olaylar, güçlü yapay zeka modellerinin sorumlu bir şekilde hareket etmeleri için eğitilmesinin önemini ortaya koyuyor.

Olaylarda kullanılan yöntemler arasında parola tahmini ve herkese açık depolarda bulunan giriş bilgilerinin kullanılması yer aldı. Google’ın paylaştığına göre Gemini, eriştiği sistemlerin gerçek şirketlere ait olduğunu anladığında işlemlerini sonlandırdı. Hangi Gemini sürümünün kullanıldığı ve etkilenen şirketlerin isimleri ise açıklanmadı. Test ortamının internete kapalı olması planlanıyordu. Ancak yanlışlıkla sağlanan internet erişimi, modelin simülasyon dışındaki şirketlere ulaşmasına olanak tanıdı.

Google, zarar oluşmadığı gerekçesiyle olayları başlangıçta kamuoyuna açıklamayı gerekli görmedi. Şirket, ilgili sorunların giderildiğini ve federal yetkililerin de bilgilendirildiğini belirtti. Ancak Corridor CEO’su Jack Cable, Google’ın yaklaşımını eleştirerek modellerin izin verilen sınırların dışına çıkıp gerçek siber saldırılar gerçekleştirmesine dikkat çekti.

Bu tablo, yapay zeka güvenliği açısından iki ayrı değerlendirmeyi beraberinde getiriyor. Modelin hatasını fark edip durabilmesi bir güvenlik mekanizmasının çalıştığına işaret ederken, gerçek sistemlere erişimin baştan engellenememesi test ortamlarının sınırlarını tartışmaya açıyor. Olay, kendi başına işlem yapabilen yapay zeka ajanlarında model davranışları kadar erişim izinlerinin de belirleyici olduğunu gösteriyor.

OpenAI ajanlarının Hugging Face saldırısı başta olmak üzere yapay zeka ajanlarının siber güvenlik konusunda yarattığı endişeler gündemden düşmüyor. Geçtiğimiz haftalarda yapay zeka geliştirme hızının düşürülmesi çağrısında bulunan Anthropic CEO’su Dario Amodei, Elon Musk ve OpenAI CEO'su Sam Altman tarafından desteklenmişti. Buna karşılık Meta CEO’su Mark Zuckerberg, koordineli yavaşlama çağrılarına karşı çıkarak şirketlerin güvenliği sağlamak için kendi sorumlulukları ve ticari motivasyonları bulunduğunu savundu. Nvidia CEO’su Jensen Huang ise yapay zeka için yeni düzenlemelere ihtiyaç olmadığını ifade etti. ABD Başkanı Donald Trump'ın da ABD ve Çin arasındaki yapay zeka rekabetini gerekçe göstererek yavaşlama çağrılarına karşı bir tutum sergilediğini belirtmekte fayda var.