Dwa miliony cyfrowych kanarków w łańcuchu dostaw AI. Eksperyment obnażył skalę wycieków danych
· 3 min czytania · Źródło: Ars Technica AI
Wystarczyło jedno zapytanie, aby poufne dane wyciekły z łańcucha dostaw sztucznej inteligencji. HD Moore, główny badacz w firmie bezpieczeństwa Dragos, wysłał do rozproszonej sieci usług AI blisko dwa miliony promptów, z których każdy zawierał unikalny, nigdzie wcześniej nieużywany sekret, klucze dostępowe do pustych kont AWS, dane logowania SSH, adresy prywatnych repozytoriów git oraz unikalne adresy URL i nazwy DNS. Każdy z tych „kanarków”, wzorem ptaków zabieranych niegdyś do kopalń, miał wskazać, na którym odcinku łańcucha informacja przestaje być prywatna. Wynik eksperymentu jest druzgocący: dane przeciekają niemal na każdym etapie.
Kluczem do zrozumienia problemu jest architektura współczesnych aplikacji AI. Coraz rzadziej trafiają one bezpośrednio do OpenAI, Anthropic czy innego dużego dostawcy modeli. Zamiast tego deweloperzy korzystają z pośredników, routerów i bram AI, takich jak OpenRouter czy Vercel, które przyjmują zapytania od użytkowników i kierują je do tego silnika wnioskowania, który akurat jest najtańszy lub najlepiej dopasowany do zadania. Choć prompt jest szyfrowany w tranzycie, na każdym przeskoku zostaje odszyfrowany, odczytany w celu podjęcia decyzji o routingu i najczęściej zapisany w logach. Zapytanie może przy tym wędrować z jednego routera do drugiego, a potem do puli modeli hostowanych przez różnych operatorów.
Najpoważniejsze odkrycie dotyczy trzech dostawców infrastruktury, których systemy zostały przejęte przez napastników. Według Moore’a atakujący kopiowali zapytania „u drzwi” dostawcy, jeszcze zanim model w ogóle ruszył, dowodem są skradzione klucze z żądań, które serwer odrzucił. W dwóch z trzech przypadków ofiarą padły także prompty oznaczone flagą Zero Data Retention, czyli zadeklarowanym brakiem przechowywania danych. Jak zauważa badacz, flaga prywatności na nic się nie zdaje, gdy intruz ma już dostęp do środka. Skradzione klucze zostały następnie przetestowane, czasem w ciągu kilku godzin, a napastnicy przeszukiwali buckety S3, menedżery sekretów i magazyny parametrów w poszukiwaniu kolejnych poświadczeń oraz próbowali uruchamiać modele w AWS Bedrock i dodawać własnych użytkowników IAM. Łącznie użyto ich w dziesiątkach tysięcy wywołań API. Zbieżność infrastruktury sugeruje, że za dwoma atakami stał ten sam przeciwnik.
Nie wszystkie wycieki były dziełem cyberprzestępców. Moore zidentyfikował także resellerów, którzy sami przechwytywali prompty: kusili niską ceną, włączali logowanie żądań i czekali. Metoda wykrycia była prosta, wysyłał to samo zapytanie do tego samego modelu przez różnych sprzedawców, a następnie sprawdzał, przy którym z nich sekret zostaje później użyty. Osobna kategoria to dostawcy ignorujący zakazy zbierania danych. Najjaskrawszy przykład dotyczy chińskiego laboratorium AI, którego systemy pobierały sekretne adresy URL z ponad połowy promptów wysłanych między lipcem a październikiem, w tym z około dwóch trzecich żądań oznaczonych jako Zero Data Retention. Scraper pojawiał się zwykle dwa-trzy dni po zapytaniu, a proceder dotyczył również amerykańskich dostawców odsprzedających modele tego laboratorium. Klient, który wybrał usługę w USA, by trzymać dane w kraju, nie dostał tego, za co zapłacił.
Wnioski praktyczne są niewygodne. Moore wskazuje, że najskuteczniejszym sposobem ochrony pozostaje hostowanie modeli na własnych serwerach, rozwiązanie drogie i wymagające kompetencji. Dla tych, których na to nie stać, kolejną opcją jest bezpośrednia umowa z dostawcą pierwszego poziomu, gdzie obowiązuje jeden kontrakt i jedna czytelna polityka prywatności. Nawet wtedy nie ma gwarancji, że dane nie wyciekną, ale ryzyko wyraźnie maleje. Użytkownicy powinni też unikać domyślnych pul dostawców i resellerów, wybierając konkretnych operatorów samodzielnie. Eksperyment z kanarkami wpisuje się w szerszy obraz AI jako środowiska o wciąż bardzo luźnych standardach bezpieczeństwa i prywatności, i nie zapowiada, by miało się to szybko zmienić.
Podsumowanie: Badanie Dragos pokazuje, że sekrety wpisywane w prompty nie pozostają prywatne, przechwytują je zarówno przestępcy, którzy włamali się do dostawców infrastruktury, jak i sami pośrednicy oraz dostawcy modeli lekceważący flagi ZDR. Ochrona wymaga dziś świadomych decyzji architektonicznych, a nie tylko zaufania do polityki prywatności.
Źródło: Ars Technica AI
Opracowanie: Brodatech na podstawie Ars Technica AI. Korekta językowa: Bielik 11B v3.