„Uważajcie na paczki chipsów”. Uczniowie pozywają szkołę i policję po fałszywym alarmie AI o broni

· 3 min czytania · Źródło: Ars Technica AI

Czterech uczniów z Baltimore County zostało zatrzymanych i skuto kajdankami po tym, jak system AI wykrywania broni wziął paczkę Doritos za pistolet. Pozew wskazuje, że ponad 99 proc. alarmów w tamtejszych szkołach było fałszywych.

Wystarczyła paczka chipsów Cool Ranch i kilka minut po treningu futbolowym, by czterech nastolatków z Baltimore County przeżyło scenę, której nie zapomną. W październiku 2025 roku system AI do wykrywania broni w szkole oznaczył jednego z uczniów trzymającego chipsy jako potencjalnego napastnika. Pracownicy szkoły rozpoznali pomyłkę w ciągu dwóch minut i anulowali alarm — ale na miejsce i tak wysłano policję.

Według pozwu złożonego przez Takiego Allena, Yui-Osę Ogbeide, Devona Thompsona Jr. i Keitha Winfielda III, na kampus przyjechało co najmniej sześć radiowozów na sygnale, a część funkcjonariuszy wysiadła z bronią w ręku. Uczniowie nie usłyszeli, o co są podejrzewani. Zostali rozdzieleni, zmuszeni do klęczenia na betonie, skuci kajdankami i przeszukani. Dopiero gdy policja nie znalazła żadnej broni, nastolatkowie dowiedzieli się, że powodem interwencji był Omnilert — szkolny system detekcji broni oparty na sztucznej inteligencji.

Z relacji zawartych w skardze wynika, że jeden z funkcjonariuszy miał mruknąć pod nosem „głupie kamery AI” i „te pieprzone Omnilerty”, a inny przyznać, że „AI nie jest najlepsze”. Jeden z policjantów miał też podziękować uczniom, że nie uciekli, bo „to byłby prawdziwy problem”, a odchodząc zażartować, by pamiętali, żeby „uważać na paczki chipsów”. Pozew opisuje również fizyczne i psychiczne skutki zdarzenia: głębokie czerwone ślady po kajdankach, lęk, upokorzenie oraz plotki o rzekomej broni, które ciągną się za uczniami do dziś.

Sprawa nie ogranicza się do jednej pomyłki. Raport edukacyjnego biura inspektora generalnego (OIG) wykazał, że choć system Omnilert nie wykazywał „stronniczości”, to zawiodła procedura delegowania uprawnień w szkole Kenwood High. Dyrektorka Kate Smith miała zauważyć alert, nie dostrzec jego anulowania i po 15 minutach wysłać wiadomość do szkolnego oficera policji — przyznając w niej, że obiekt na nagraniu to „może nie” broń. Według OIG dyrektorka nigdy nie została przeszkolona z obsługi systemu.

Kluczowy jest jednak inny wątek: jak podkreślają powodowie, ponad 99 proc. alarmów Omnilerta w Baltimore County Public Schools okazało się fałszywych i nie wymagało interwencji policji. To właśnie ta statystyka stała się podstawą zarzutu o „celową obojętność” władz szkoły wobec konstytucyjnych praw uczniów. Pełnomocnicy nastolatków z Lawyers' Committee for Civil Rights Under Law domagają się zakazu korzystania z Omnilerta, dopóki szkoła i policja nie wypracują procedur, które uniemożliwią wysyłanie funkcjonariuszy do anulowanych alarmów. Ich zdaniem nadmierne zaufanie do AI w połączeniu z nieudolną komunikacją między urzędnikami tworzy „toksyczną mieszankę”.

Producent systemu odpiera zarzuty, podkreślając, że narzędzie ma kierować potencjalne zagrożenia do przeglądu przez przeszkolonych ludzi, bo przeoczenie prawdziwej broni byłby najgorszym scenariuszem. Szkoła odmówiła komentarza, odsyłając do oświadczenia dla rodziców, w którym nie znalazły się przeprosiny, ale obietnica wsparcia psychologicznego i działań zapobiegawczych. Tymczasem OIG rekomenduje m.in. szkolenia dwa razy w roku, ograniczenie kręgu osób otrzymujących alerty oraz korzystanie z aplikacji zamiast wiadomości SMS — właśnie dlatego, że anulowanie alarmu łatwo przeoczyć w zwykłym okienku czatu.

Historia z Baltimore to więcej niż anegdota o chipsach. Pokazuje, jak cienka jest granica między „wsparciem technologii” a automatyzacją decyzji o użyciu siły wobec dzieci — i jak wiele zależy od ludzi, którzy mają te systemy obsługiwać.

Źródło: Ars Technica AI

Opracowanie: Brodatech na podstawie Ars Technica AI.