Anthropic, yapay zeka modellerinden alınan yanıtların gerçekten belirtilen model tarafından üretildiğini doğrulamayı sağlayacak açık kaynaklı bir sistem üzerinde çalışıyor. FlashProve adı verilen prototip, her yanıtın belirli bir modelden geldiğini kriptografik kanıtlarla göstermeyi amaçlıyor. Böylece kullanıcılar, hizmet sağlayıcının maliyetleri düşürmek için daha ucuz bir modeli devreye alıp almadığını veya bir saldırganın yanıtları değiştirip değiştirmediğini kontrol edebilecek.
Sistemin çalışma prensibi, modelin ağırlıklarını açığa çıkarmadan ona özgü bir parmak izi yayımlanmasına dayanıyor. Sağlayıcı, model için önceden bir taahhüt oluşturuyor. Ardından her yanıtla birlikte, ilgili girdinin ve çıktının bu model tarafından üretildiğini gösteren bir kanıt sunuluyor. Kullanıcılar bu kanıtı detaylı ⇒
Alıntının kaynağı: Webrazzi