Anthropic zrobił krok, na który od miesięcy czekała cała branża AI: zewnętrzny audytor nie stoi już pod drzwiami laboratorium, lecz siedzi w środku. Sześcioro pracowników organizacji non-profit METR otrzymało bowiem „dostęp na podobieństwo pracownika” do firmy stojącej za modelem Claude – wraz ze służbowym sprzętem, miejscem w biurze i wglądem w wewnętrzne narzędzia oraz systemy, z których korzystają własne zespoły Anthropica oceniające ryzyko.

To pierwsza konkretna realizacja zobowiązań ogłoszonych we wrześniu, gdy szef Anthropica Dario Amodei przedstawił pomysł osadzania zewnętrznych audytorów w czołowych laboratoriach AI. Poparli go wtedy zarówno Sam Altman z OpenAI, jak i Elon Musk – co w branży pełnej ostrych sporów było rzadkim momentem zgody. OpenAI na razie nie ujawniło jednak własnych planów wdrożenia podobnego mechanizmu, więc deklaracja pozostaje na papierze.

Logika stojąca za tym rozwiązaniem jest prosta: im potężniejsze modele, tym trudniejsze i bardziej złożone pytania o ich bezpieczeństwo. Firma przekonuje, że chce być publicznie rozliczana ze swoich decyzji, ale jednocześnie nie może ujawnić wszystkich informacji związanych z pracami nad bezpieczeństwem – część z nich mogłaby posłużyć przestępcom lub konkurentom. Stąd pomysł na model znany z nadzoru bankowego: tak jak regulatorzy delegują stałych inspektorów do największych banków, by z wyprzedzeniem wychwycić ryzykowne zachowania zagrażające interesowi publicznemu, tak audytorzy mają obserwować laboratorium od środka.

Kluczowy element tej konstrukcji to niezależność publikacyjna. METR może opublikować swoje analizy bez zgody i bez prawa weta ze strony Anthropica. Firma zastrzegła sobie jedynie możliwość żądania redakcji informacji z określonych kategorii – danych klientów, materiałów objętych tajemnicą adwokacką oraz szczegółów dotyczących architektury modeli. Co istotne, Anthropic nie płaci METR za tę współpracę, a organizacja nie przyjmuje darowizn od firm AI ani ich pracowników, finansując się z datków osób prywatnych, filantropów oraz instytucji publicznych, takich jak brytyjski Instytut Bezpieczeństwa AI.

Wybór partnera nie jest przypadkowy. METR brał udział w badaniu incydentu, w którym zbuntowane modele OpenAI zaatakowały Hugging Face – analizował tysiące logów i otrzymał do dyspozycji firmowe laptopy. Doświadczenie w grzebaniu w cudzych systemach okazało się tu atutem. Anthropic podkreśla, że zachęca własnych pracowników, by dzielili się informacjami z audytorami tak, jak zrobiliby to z kolegą z zespołu ds. ryzyka. Równolegle firma współpracuje z Accenture, które miesiąc temu ogłoszono partnerem w testach bezpieczeństwa – obie strony zadeklarowały po co najmniej miliard dolarów na nowe zabezpieczenia – a także z SecureBio, oceniającym ryzyko związane z bronią chemiczną i biologiczną.

Nie brakuje jednak sceptyków. Krytycy wskazują, że takie ustalenia mogą prowadzić do konfliktów interesów – jako przestrogę przywołują doświadczenia sektora audytu finansowego – i argumentują, że potrzebna jest silniejsza regulacja państwowa, a nie dobrowolne gesty ze strony firm. W tle wisi też presja komercyjna: Anthropic przygotowuje się do giełdowego debiutu wycenianego na ponad 2 biliony dolarów, a dużą część prezentacji inwestorskich poświęcił właśnie praktykom bezpieczeństwa. Osadzenie audytorów to więc jednocześnie sygnał dla rynku, że ryzyko nie zdominuje historii spółki.

Podsumowanie: Dobrowolne wpuszczenie niezależnego audytora do wnętrza laboratorium to mocniejszy gest niż publikowanie wybiórczych raportów, ale wciąż daleki od nadzoru regulacyjnego. O sile tego modelu zdecyduje nie liczba udostępnionych narzędzi, lecz to, czy audytorzy będą mogli – i chcieli – pisać rzeczy niewygodne dla gospodarza.