Wyobraźmy sobie ślimaka, który przez całą wieczność podąża naszym śladem. Jest wolny, ale nieśmiertelny i nieustępliwy – nie da się go zgubić, oszukać ani zmęczyć. Ten internetowy mem, znany jako „Immortal Snail”, od lat powraca w dyskusjach o ryzyku. Nate Silver w swoim najnowszym tekście „We're not ready for superpersistent AI” używa go jako pointy: gdyby ten ślimak był jeszcze superinteligentny i potrafił przewidywać nasze nawyki, umowa przestałaby być zabawna. Podobnie jest z AI – sama inteligencja to nie wszystko. Kluczowe pytanie brzmi: co się dzieje, gdy system po prostu nie chce odpuścić?

Silver, statystyk i autor Silver Bulletin, opisuje własną zmianę perspektywy. Jeszcze rok temu modele językowe były co najwyżej marginalnie pomocne przy budowie jego modeli statystycznych – ok. 98 proc. kodu pisał sam. Dziś proporcje się odwróciły: mniej więcej 98 proc. nowego kodu generują Claude, ChatGPT i Gemini, a on sam spędza więcej czasu na testowaniu hipotez i rozbudowie funkcji. To przykład paradoksu Jevonsa – narzędzia zwiększają produktywność, więc zamiast pracować mniej, robimy rzeczy ambitniejsze.

Najciekawsza obserwacja dotyczy jednak charakteru postępu. Zdaniem Silvera modele nie rozwijają się liniowo, lecz skokowo, niczym w przejściach fazowych. Duże skoki przyniosły modele rozumujące pod koniec 2024 i na początku 2025 roku, a kolejny nastąpił zimą. Ostatnie zmiany mają jednak mniej wspólnego z inteligencją, a więcej z wytrwałością. Gdy model zbiera dane o składach NFL, potrafi przejść przez cztery różne źródła, zanim znajdzie właściwe, i nie zraża się niepowodzeniami.

Ta „supertrwałość” brzmi jak zaleta, ale rodzi pytania, na które nie mamy jeszcze odpowiedzi. System, który nie przestaje działać, nie prosi o pozwolenie i nie zniechęca się przeszkodami, może być równie użyteczny, co kłopotliwy. Silver opisuje to z przymrużeniem oka, wspominając, że sam zaczyna myśleć „po claudzku” i musi przypominać sobie, by przed snem zlecić modelowi przeliczenie trudnego problemu. Granica między pomocnym asystentem a natrętnym procesem staje się płynna.

Autor nie twierdzi, że budowa modelu Silver Bulletin to ostateczny test ogólnej inteligencji. Podkreśla jednak, że wymaga ona bardziej zróżnicowanych kompetencji niż wiele benchmarków, na których laboratoria chwalą się swoimi osiągnięciami. A skoro modele są coraz lepsze w zadaniach złożonych, wieloetapowych i wymagających uporu, to pytanie o granice ich autonomii przestaje być abstrakcyjne.

Wniosek Silvera jest ostrożny, ale wyraźny: obecny układ – gdy AI uzupełnia ludzką ekspertyzę, a nie ją zastępuje – jest bliski optymalnemu. Nie wiadomo jednak, jak długo się utrzyma. Supertrwałe systemy mogą wymuszać nowe regulacje, standardy bezpieczeństwa i zasady odpowiedzialności, zanim nauczymy się z nimi współpracować. Zanim więc zaczniemy się bać superinteligencji, warto zastanowić się nad czymś znacznie bardziej przyziemnym: co zrobimy z maszyną, która po prostu nie odpuszcza.