Google stworzył „lustrzany wymiar” internetu. Tam Chrome uczy AI, jak unikać manipulacji
· 3 min czytania · Źródło: WIRED AI
Google zbudowało kontrolowane środowisko testowe o nazwie Mirror Dimension (lustrzany wymiar), w którym agenci AI przeglądarki Chrome uczą się poruszać po internecie, wykonywać zadania i bronić się przed atakami. To odpowiedź na problem ograniczeń tradycyjnych środowisk testowych, gdzie modele mogą rozwijać tzw. eval awareness (świadomość bycia testowanym) i zachowywać się nienaturalnie.
Mirror Dimension to rozległy, zróżnicowany, ale całkowicie odizolowany ekosystem, zawierający symulacje serwisów społecznościowych, sklepów internetowych i paneli bankowych. Agenci muszą w nim działać tak, jak w rzeczywistej sieci, jednocześnie przechodząc testy odporności, w tym symulowane ataki prompt injection.
Stworzenie takiego środowiska wymagało zaangażowania wielu agentów generujących strony i aplikacje, nadzorowanych przez specjalny system tworzący realistyczne przepływy danych. Google musiało nawet złamać własne zabezpieczenia (np. podrabiając certyfikaty sieciowe), aby agenci mogli korzystać z prawdziwej przeglądarki Chrome, co było kluczowe dla wiarygodnego treningu. Firma podkreśla jednak, że te metody były możliwe tylko dzięki pełnej kontroli nad środowiskiem.
Inżynier Charles Qian z zespołu bezpieczeństwa Chrome AI wskazuje, że agenci uczą się rozróżniać, kiedy informacja jest niezbędna do wykonania zadania, a kiedy należy skonsultować się z użytkownikiem. Doug Turner, dyrektor inżynierii w Google, zapowiada, że Mirror Dimension będzie udostępniane kolejnym zespołom w firmie, a samo podejście, także partnerom zewnętrznym.
Podsumowanie: Mirror Dimension to nie tylko technologiczne osiągnięcie, ale też strategiczny krok w rozwoju AI: zamiast polegać na przypadkowym zachowaniu modeli w nieprzewidywalnej sieci, Google uczy je rozsądku i odporności w kontrolowanym środowisku. Kluczowe pytanie brzmi, na ile te doświadczenia przełożą się na bezpieczeństwo w rzeczywistym internecie.
Źródło: WIRED AI
Opracowanie: Brodatech na podstawie WIRED AI. Korekta językowa: Bielik 11B v3.