Anthropic, yapay zeka modellerinden alınan yanıtların gerçekten belirtilen model tarafından üretildiğini doğrulamayı sağlayacak açık kaynaklı bir sistem üzerinde çalışıyor. FlashProve adı verilen prototip, her yanıtın belirli bir modelden geldiğini kriptografik kanıtlarla göstermeyi amaçlıyor. Böylece kullanıcılar, hizmet sağlayıcının maliyetleri düşürmek için daha ucuz bir modeli devreye alıp almadığını veya bir saldırganın yanıtları değiştirip değiştirmediğini kontrol edebilecek.
Sistemin çalışma prensibi, modelin ağırlıklarını açığa çıkarmadan ona özgü bir parmak izi yayımlanmasına dayanıyor. Sağlayıcı, model için önceden bir taahhüt oluşturuyor. Ardından her yanıtla birlikte, ilgili girdinin ve çıktının bu model tarafından üretildiğini gösteren bir kanıt sunuluyor. Kullanıcılar bu kanıtı modelin ağırlıklarına veya yüksek işlem gücüne ihtiyaç duymadan doğrulayabiliyor. Anthropic, doğrulamanın kullanıcının kendi cihazında yapılabilecek kadar hafif tasarlandığını belirtiyor.
FlashProve’un olası kullanım alanları yalnızca son kullanıcılarla sınırlı değil. Üçüncü taraf hizmetler, bir yazılımın güvenlik taramasının gelişmiş bir modelle yapıldığını kanıtlayabilir. Bağımsız değerlendiriciler ve düzenleyiciler de hizmete sunulan modelin beyan edilen model olup olmadığını denetleyebilir.
Anthropic, sistemi 400 milyar parametreli Llama 4 Maverick üzerinde test etti. Tek bir H100 GPU ile saniyede yaklaşık 110 token için kanıt üretilebiliyor. 1024 tokenlık istek başına kanıt dosyası yaklaşık 19 MB boyutunda. Bu işlem, modeli doğrudan çalıştırmaya kıyasla GPU süresini 70 ila 95 kat artırıyor.
Şirket teknik raporu, protokol tanımını ve çalışan kodu Apache 2.0 lisansıyla yayımladı. FlashProve henüz tamamlanmış bir ürün olmadığını belirtelim ve Anthropic’in şu an için sistemi devreye alma planı bulunmuyor.
İlk Yorumu yazmak ister misiniz?
Yorum Yazmak için Giriş Yap