Raport METR: Anthropic przyspiesza rozwój AI dzięki samej AI

Anthropic buduje potężniejsze modele sztucznej inteligencji za pomocą sztucznej inteligencji, i, jak wynika z najnowszego raportu organizacji badawczej METR, idzie jej to zaskakująco dobrze. Modele firmy mają rozwijać się około dwa razy szybciej niż rok temu, a badacze nie dostrzegają wyraźnych sygnałów spowolnienia. To jedna z najmocniejszych jak dotąd przesłanek, że AI zaczyna napędzać własny rozwój.

Raport powstał po jedenastotygodniowym śledztwie wewnątrz firmy i jest odrębny od programu, w którym badacze bezpieczeństwa otrzymują „pracowniczy” dostęp do systemów po głośnych incydentach związanych z cyberbezpieczeństwem z minionego lata. Kluczowy wniosek METR jest jednoznaczny: w ciągu ostatniego roku Anthropic miała zaliczyć mniej więcej dwa lata historycznego postępu, a tempo to nie wynika wyłącznie z dokładania mocy obliczeniowej, która dotąd była głównym motorem rozwoju modeli. Według badaczy większość przyspieszenia, na październik, pochodzi właśnie z AI, a jej udział z czasem rośnie.

Wewnętrzne sondaże na Slacku i rozmowy z pracownikami potwierdzają skalę zjawiska. Osoby korzystające z najzdolniejszego wewnętrznego modelu Anthropic deklarowały średnio około dwunastokrotny wzrost produktywności w porównaniu z pracą bez wsparcia AI, czyli około dwa razy więcej niż kilka miesięcy wcześniej, gdy używano modelu Mythos 5. Na razie przyspieszenie w dużej mierze polega na wspieraniu ludzkich badaczy, ale METR ostrzega, że pojawiają się sygnały, iż wkrótce większą rolę zaczną odgrywać w pełni autonomiczne wkłady. Co istotne, nie znaleziono dowodów na malejące zwroty ani bariery, które miałyby zahamować jeszcze szybsze tempo.

Raport uchyla też rąbka tajemnicy na temat tego, czym dysponują badacze Anthropic. W ciągu ostatnich sześciu miesięcy firma miała zakończyć trening trzech nienazwanych publicznie modeli, Model 2, Model 3 i Model 4, ukończonych kolejno w lipcu, na przełomie sierpnia i września oraz września i października. METR zidentyfikował również nieudostępniony model z 2022 roku. To właśnie te wewnętrzne systemy odpowiadają za znaczną część opisanych zysków wydajności.

Równie wymowne jest jednak to, czego w raporcie nie ma. Anthropic mogła, w ramach umowy z METR, zastrzec fragmenty końcowego dokumentu i, jak ocenia The Verge, skorzystała z tego prawa hojnie. Rodzi to pytania o to, jak wiele opinia publiczna faktycznie wie o tempie i ryzyku rozwoju frontier AI. Kontekst jest przy tym wyjątkowo nerwowy: firma przygotowuje się do wejścia na giełdę, a jej dyrektor generalny Dario Amodei publicznie apeluje do laboratoriów o przyhamowanie tempa prac nad AI.

Napięcie między deklaracjami a praktyką jest tu trudne do przeoczenia. Z jednej strony największe laboratoria świata przekonują, że potrzebne są dobrowolne hamulce i nadzór, z drugiej, wewnętrzne modele napędzają spiralę przyspieszenia, której nikt do końca nie widzi, bo kluczowe dane pozostają za redakcyjną cenzurą. Dla badaczy bezpieczeństwa to sygnał ostrzegawczy: jeśli AI zacznie usprawniać samą siebie na skalę, o jakiej mówi METR, okno na wprowadzenie skutecznych zabezpieczeń może się zamykać szybciej, niż zakładano.

Podsumowanie

Raport METR dostarcza mocnych dowodów na to, że AI realnie przyspiesza prace badawcze nad kolejnymi modelami, w przypadku Anthropic około dwukrotnie względem poprzedniego roku, przy dużym udziale nienazwanych systemów wewnętrznych. Jednocześnie zastrzeżone fragmenty dokumentu pokazują, że publiczna wiedza o tempie i ryzyku rozwoju frontier AI pozostaje mocno ograniczona. To mieszanka, która powinna skłonić do refleksji nie tylko regulatorów, ale i inwestorów przed planowanym IPO firmy.