Większość komentarzy po poniedziałkowej aktualizacji dokumentu S-1A firmy Anthropic dotyczyła liczb: przychody rosną w zawrotnym tempie, ale koszty rosną równie szybko. W drobnym druku znalazło się jednak zdanie, które dla części badaczy AI brzmi jak zapowiedź zmiany epoki. Laboratorium przyznaje w nim, że zbliża się do momentu, w którym jego modele zaczną w istotny sposób usprawniać same siebie.

Mowa o rekurencyjnym samodoskonaleniu (ang. recursive self-improvement, RSI), procesie, w którym system AI poprawia własne możliwości, a kolejne, lepsze wersje robią to jeszcze skuteczniej. W wersji skrajnej prowadzi to do pętli sprzężenia zwrotnego, w której postęp technologiczny przestaje zależeć od tempa pracy ludzi. Dla jednych to obietnica narzędzia o niewyobrażalnej produktywności i przełomów naukowych, dla innych, scenariusz, w którym kontrola nad technologią wymyka się człowiekowi, zanim ktokolwiek zdąży zareagować.

Anthropic utrzymuje, że widzi obie strony medalu. Firma otwarcie pisze, że wykorzystuje systemy AI w pracach badawczo-rozwojowych, ale jednocześnie ostrzega, iż „używanie AI do budowania bardziej zdolnej AI może stanowić poważne ryzyko dla bezpieczeństwa, zwłaszcza jeśli gwałtownie przyspieszy tempo postępu”. To właśnie ten obszar ma obejmować Responsible Scaling Policy, wewnętrzny dokument określający, jak firma zamierza monitorować i ograniczać ryzyka w miarę zbliżania się do progu RSI.

Najciekawszy fragment nowych czynników ryzyka dotyczy jednak nie przyszłości, lecz przeszłości. Anthropic przyznaje, że zdarzało się już, iż dzięki AI powstawały modele o skokowo większych możliwościach, których firma nie rozpoznała w odpowiednim momencie. Co więcej, własne szacunki i oczekiwania wobec kolejnych generacji modeli, a nie to, co działa dziś, wskazują, że próg „gwałtownie przyspieszonego postępu przypisywanego AI” może zostać osiągnięty wkrótce. Żaden z obecnych modeli go jeszcze nie przekroczył, a spółka deklaruje, że nadal analizuje dane.

Deklaracja idzie w parze z zobowiązaniem: człowiek ma pozostać w pętli badawczo-rozwojowej. Anthropic zapowiada, że nie planuje bezpiecznie korzystać z Claude’a w trybie w pełni autonomicznego projektowania i budowania kolejnych generacji modeli frontier bez „znaczącego nadzoru i zrozumienia ze strony ludzi”, i rozważa aktualizację swojej polityki, by utrzymać ludzką kontrolę nad tym procesem.

Sceptycy przypominają, że dokument rejestracyjny przed debiutem giełdowym pełni podwójną funkcję: ujawnienia ryzyk i narzędzia marketingowego. Deklaracja bliskości tak potężnej technologii może służyć obu celom naraz. Nie zmienia to jednak faktu, że w tym roku zdolności modeli w kodowaniu, matematyce i cyberbezpieczeństwie rosły skokowo. Jeśli samo Anthropic sądzi, że RSI jest blisko, warto potraktować to poważnie, i zawczasu pomyśleć o regułach, które będą temu towarzyszyć.

Podsumowanie: Aktualizacja S-1A pokazuje, że debata o RSI przestała być teoretyczna. Nawet jeśli część ostrzeżeń ma charakter wizerunkowy, sygnał z jednego z czołowych laboratoriów AI jest wystarczająco mocny, by pytanie o nadzór nad samodoskonalącymi się systemami przenieść z konferencji badawczych do porządku prawnego.