Kabul edilemez riskler yarattığı belirlenen yapay zeka sistemleri AB'de yasaklandı

2024'ün ağustos ayında Avrupa Birliği'nin "Yapay Zeka Yasası"nın yürürlüğe girdiğini sizlere aktarmıştık. Kuruluşların uyum sağlaması için son tarih olan 2 Şubat'tan itibaren, AB düzenleyicileri kabul edilemez risk teşkil eden yapay zeka sistemlerinin kullanımını yasaklayabilecek.

Yapay Zeka Yasası, yapay zeka uygulamalarını risk seviyelerine göre minimum, sınırlı, yüksek ve kabul edilemez olmak üzere kategorize ediyor. Bu bağlamda kabul edilemez riskler yarattığı belirlenen yapay zeka uygulamalarını kullanan şirketlerin ağır cezalarla karşı karşıya kalması söz konusu. Yasanın kabul edilemez olarak değerlendirdiği uygulamalar arasında sosyal puanlama için kullanılan yapay zeka sistemleri, kararların aldatıcı manipülasyonu, bireyler arasındaki güvenlik açıklarının istismarı ve kolluk kuvvetleri amacıyla biyometrik verilerin toplanması yer alıyor.

Bu tür uygulamalar yasaklanmanın ötesinde bunları işleten kuruluşlar için para cezalarına da neden olacak. Bu anlamda yasayı ihlal edenler 35 milyon euroya veya bir önceki mali yıla ait yıllık gelirlerinin yüzde 7'sine kadar para cezasına çarptırılabilir. Şirketler bu iki rakamdan hangisi daha büyükse ona göre ceza ödeyecek. 

Amazon, Google ve OpenAI gibi önemli oyuncuların da aralarında bulunduğu 100'den fazla şirket, yasanın ilkelerine önceden uyum sağlamak için AB Yapay Zeka Paktı'nı imzaladı. Bununla birlikte, Meta ve Apple gibi bazı büyük teknoloji şirketleri, bu anlaşmayı imzalamamayı tercih etti. 

Öte yandan yasa çerçevesinde, özellikle kolluk kuvvetleri için bazı istisnalar tanındığını belirtelim. Örnek vermek gerekirse; biyometri toplayabilen sistemler, hedefli aramalar yapmak veya güvenliğe yönelik yakın tehditleri ele almak gibi katı koşullar altında kullanılabilecek. Ancak bu tür eylemler uygun yönetim yetkisi gerektirmekte. 

Yasanın yanı sıra Avrupa Komisyonu'nun 2025 yılının başlarında ek kılavuzlar yayınlaması beklenmekte. Yapay Zeka Yasası aynı zamanda kişisel veri gizliliğini koruyan Genel Veri Koruma Yönetmeliği (GDPR) ve siber güvenliği sağlamayı amaçlayan ek direktifler de dahil olmak üzere diğer yasal çerçevelerle iç içe geçiyor. Bu düzenlemelerin çakışmasının, firmalar uyum sağladıkça olası zorluklara yol açması bekleniyor.