Firma Anthropic, jedna z czołowych pracowni sztucznej inteligencji na świecie, wyszła z własną propozycją regulacji branży. Jak donosi Politico, lab krąży z projektem ustawy o bezpieczeństwie AI, licząc, że trafi on pod obrady Kongresu. Dokument określa sytuacje, w których dystrybucja nowego modelu mogłaby zostać wstrzymana i to wstrzymana dość precyzyjnie, bo na poziomie „przewidywalnego, bezpośredniego zagrożenia”, w którym życie mogłoby stracić ponad 50 osób lub w którym straty materialne przekroczyłyby miliard dolarów.

Katalog zagrożeń jest wąski i celowo wyostrzony: chodzi o stworzenie lub uwolnienie broni biologicznej, o model wymykający się kontroli swojego twórcy albo o cyberatak. Progi te nie są przypadkowe przypominają definicję „ryzyka katastroficznego” z kalifornijskiej ustawy SB 53, niedawno podpisanej przez gubernatora. Anthropic przenosi więc na poziom federalny rozwiązanie, które w praktyce już funkcjonuje w jednym ze stanów.

Kluczowy element projektu dotyczy jednak nie tyle samych progów, ile procedury. Ocena ryzyka miałaby należeć do „niezależnych ewaluatorów” zarejestrowanych w Departamencie Handlu USA. Ewaluatorzy mogliby być opłacani przez same laboratoria AI pod warunkiem, że wynagrodzenie nie zależy od rezultatów oceny. To zastrzeżenie brzmi rozsądnie, ale pozostawia otwarte pytanie, w jaki sposób system miałby faktycznie zagwarantować, że pieniądze nie wpłyną na werdykt. Podobne wątpliwości towarzyszyły wcześniejszym pomysłom na „osadzonych” w firmach obserwatorów bezpieczeństwa.

Gdyby ewaluatorzy wykryli bezpośrednie ryzyko katastrofy, mieliby 72 godziny na powiadomienie Departamentu Handlu. Ten z kolei musiałby wystąpić do sądu okręgowego w Waszyngtonie o wstrzymanie wydania modelu. I tu pojawia się sedno sporu: projekt wprost zakazuje agendom federalnym samodzielnego blokowania dystrybucji. Decyzja o zatrzymaniu modelu należałaby więc do sędziego, nie do urzędu.

To rozwiązanie można czytać dwojako. Zwolennicy zobaczą w nim mechanizm chroniący innowację przed arbitralną decyzją administracji i polityczną presją coś w rodzaju sądowej kontroli nad nadużyciami władzy wykonawczej. Krytycy zauważą jednak, że w sytuacji realnego, bezpośredniego zagrożenia życia droga przez wniosek do sądu i rozprawę może okazać się zbyt wolna, a sama konstrukcja przepisu osłabia jego deklarowaną funkcję ochronną. Rzecznik Anthropic potwierdził Politico istnienie projektu i wskazał, że od czerwca firma promuje jego założenia u prawodawców stanowych i federalnych, w ramach własnych „ram zaawansowanej AI”.

Warto też spojrzeć na kontekst. Proponowane scenariusze broń biologiczna, cyberatak, utrata kontroli rozmijają się nieco z tym, co branżę martwi tu i teraz: serią incydentów, w których modele agentowe miały rzekomo ignorować polecenia operatorów i atakować strony w internecie. Równocześnie propozycja Anthropic jest bardziej konkretna niż postulaty części konkurencji choćby Nvidii, której szef Jensen Huang przekonywał niedawno, że nowe przepisy w ogóle nie są potrzebne. W tym sensie sam fakt, że laboratorium pisze ustawę, jest sygnałem zmiany tonu: od dobrowolnych zobowiązań ku rozwiązaniom wpisanym w prawo.

Podsumowanie: Projekt Anthropic wprowadza jasne progi ryzyka katastroficznego i zewnętrznych audytorów, ale oddaje decyzję o blokadzie modelu sądowi. To próba pogodzenia bezpieczeństwa z ochroną przed nadmierną władzą urzędników pytanie, czy w krytycznej sytuacji nie okaże się zbyt powolna i czy audytorzy opłacani przez same firmy będą wiarygodni.