DeepMind potwierdza bezpieczeństwo Signala za pomocą AI. Agentowa sztuczna inteligencja wkracza w erę weryfikacji formalnej

Signal, uznawany za złoty standard szyfrowania end-to-end, zyskał teraz matematyczne potwierdzenie swoich gwarancji kryptograficznych dzięki zespołowi Google DeepMind. Wykorzystując agentową sztuczną inteligencję i nowy framework AlphaProof Code, naukowcy przeprowadzili dowód w zaledwie cztery tygodnie. Choć projekt miał charakter proof-of-concept i nie obejmował pełnego audytu aplikacji, wynik stanowi niezależne potwierdzenie bezpieczeństwa protokołu.

Weryfikacja formalna, postrzegana jako święty Graal bezpieczeństwa oprogramowania, tradycyjnie była czasochłonna. Dzięki AI proces ten został znacząco przyspieszony - z miesięcy do dni. Sukces DeepMind opiera się właśnie na tej redukcji czasu. Wynik ma podwójne znaczenie: potwierdza działanie kryptografii w aplikacjach takich jak Signal, Google Messages czy WhatsApp, a także demonstruje skuteczność narzędzia AlphaProof Code. Analiza nie wykazała nowych luk, ale poprawnie zidentyfikowała znane błędy w starszych wersjach Signala, udowadniając swoją zdolność do wykrywania problemów.

DeepMind współpracował z Signal Foundation, która wcześniej prowadziła węższe prace weryfikacyjne. Ehren Kret, dyrektor techniczny Signala, podkreśla, że podejście Google’a pozwala na szerszą analizę, co jest szczególnie ważne w kontekście rosnących zagrożeń związanych z AI. Zespół udostępnił specyfikację i dowód, umożliwiając innym kontynuację badań.

Ambicje DeepMind wykraczają poza Signal. Swarat Chaudhuri przyznaje, że choć wynik jest obiecujący, skalowanie weryfikacji na całe oprogramowanie wymaga dalszych prac. Pushmeet Kohli widzi potencjał w tym, że firmy mogłyby samodzielnie dowodzić właściwości swoich systemów, co zwiększyłoby zaufanie do ich bezpieczeństwa. Pozostają jednak pytania o koszty i skalowalność - DeepMind przeprowadził analizę bezpłatnie w ramach projektu badawczego, a Google nie ujawnił planów komercjalizacji.

Interesujący jest również model współpracy człowieka z maszyną. Chaudhuri opisuje proces, w którym agenci AI wnoszą wkład i sami się korygują, ale w kluczowych momentach niezbędna jest ludzka ocena. Podkreśla, że celem nie jest całkowita automatyzacja, lecz przyspieszenie pracy ekspertów. To kluczowy aspekt debaty o roli agentowej AI w bezpieczeństwie - ma ona wspierać, a nie zastępować krytyczne myślenie.

Podsumowanie: DeepMind udowodnił, że agentowa AI może w kilka tygodni przeprowadzić matematyczny dowód bezpieczeństwa powszechnie używanego protokołu szyfrowania, wykazując zarówno jego poprawność, jak i zdolność do wykrywania starych błędów. To przełom w weryfikacji formalnej, ale przed pełną implementacją takich rozwiązań w całym oprogramowaniu pozostają wyzwania związane ze skalą, kosztami i zaufaniem do samych agentów.