Anthropic chce dać modelom AI dowód tożsamości. FlashProve ma kończyć z „podmiankami”

Wyobraź sobie, że dostajesz odpowiedź od „najlepszego modelu na rynku”, ale nie masz żadnego sposobu, by sprawdzić, czy rzeczywiście z niego pochodzi. Anthropic twierdzi, że ma na to lekarstwo. W opublikowanym we wtorek wpisie badawczym firma przedstawiła FlashProve — otwartoźródłowy system, który ma dostarczać dowodu kryptograficznego, iż dany wynik wygenerował konkretny model, a nie jego tańszy, słabszy lub po prostu inny sobowtór.

Ideę tę badacze nazywają „provable inference”, czyli dowodliwym wnioskowaniem. W praktyce chodzi o matematyczną gwarancję dołączoną do odpowiedzi modelu — coś na kształt podpisu kryptograficznego w mailach, który pozwala odbiorcy upewnić się, że nadawca jest tym, za kogo się podaje. FlashProve ma być odporny na próby podszycia się pod cudzy model, i to nawet wtedy, gdy oszustem jest samo laboratorium, które model zbudowało i utrzymuje.

To nie jest wyłącznie problem akademicki. Autorzy wskazują na scenariusze, w których dostawca AI po cichu podmienia drogi model na tańszy, by obniżyć koszty, albo odwrotnie — sięga po model droższy, by podbić wyniki benchmarków. System miałby też weryfikować twierdzenia stron trzecich: że bibliotekę kodu przeskanowano pod kątem luk przez czołowy model cyberbezpieczeństwa albo że biznesplan zatwierdził odpowiednio zaawansowany model. Dziś takie deklaracje przyjmujemy na słowo; FlashProve miałby dać narzędzie do ich sprawdzenia.

Mechanizm opiera się na publikowaniu przez laboratoria „odcisku palca” każdego wydanego modelu, który później można dopasować do konkretnych wyników i zweryfikować kryptograficznie. Kluczowe zastrzeżenie: odcisk nie ujawnia wag modelu, czyli wewnętrznych liczb definiujących jego zachowanie, które Anthropic i OpenAI trzymają w tajemnicy. Dzięki temu twórcy modeli zamkniętych mogliby publikować odciski bez oddawania swojego najcenniejszego aktywa. System zaprojektowano też jako lekki — weryfikacja ma być możliwa na lokalnym urządzeniu.

Wraz z zapowiedzią badacze udostępnili szczegółową specyfikację techniczną oraz działający kod poszczególnych elementów systemu na licencji open source w serwisie GitHub. To sygnał, że Anthropic nie buduje tu własnego, zamkniętego standardu, lecz zaprasza do współpracy innych graczy — także konkurencję.

Na razie nie ma jednak mowy o wdrożeniu. Prace trwają, a Anthropic nie planuje uruchomienia FlashProve u siebie ani w żadnym innym laboratorium. „Ten wpis ma na celu podzielenie się pośrednim postępem, a nie kompletnym programem badawczym” — tłumaczą autorzy, dodając, że publikują wyniki właśnie po to, by inni je przejrzeli, przejęli i ulepszyli.

Podsumowanie: FlashProve to ambitna próba wprowadzenia kryptograficznej przejrzystości do rynku modeli AI — z potencjałem, by ukrócić podmianki i niepoparte dowodami deklaracje. Otwarta licencja i brak planów wdrożeniowych pokazują jednak, że to dopiero pierwszy krok w długiej dyskusji o tym, kto i jak ma poświadczać tożsamość maszyn, którym coraz częściej wierzymy na słowo.