Vanniall, twórczyni z OnlyFans mieszkająca w Nowym Jorku, od lat zmaga się z dwoma problemami naraz: jej wizerunek krąży po sieci w postaci hiperrealistycznych deepfake'ów, których nie potrafi usunąć, a jej konto na Instagramie z ponad 100 tysiącami obserwujących jest obecnie ograniczone i niedostępne bez logowania. Gdy dowiaduje się, że Meta pozwala swojemu agentowi AI o nazwie Muse na prowadzenie explicytnych rozmów z dorosłymi użytkownikami, reaguje złością. „To nie w porządku, że wyciągają pieniądze od ludzi za pomocą seksualnie aktywnego agenta AI, a jednocześnie nie pozwalają prawdziwym ludziom, prawdziwym dorosłym, na żadną zmysłowość czy seksualność” — mówi w rozmowie z WIRED.

To powtarzający się zarzut wśród twórców treści dla dorosłych. Zastanawiają się, dlaczego ich profile na platformach Meta są regularnie ograniczane, podczas gdy firmowy chatbot może bez przeszkód „brudno mówić” z milionami dorosłych odbiorców. Rzeczniczka Meta Tracy Clayton broni tego rozróżnienia: prywatna, jeden na jednego rozmowa dorosłego z indywidualnym agentem AI w aplikacji dostępnej wyłącznie dla osób pełnoletnich to coś zupełnie innego niż marketing i promocja usług na platformie społecznościowej.

Muse to pierwszy stale aktywny agent AI, który wyszedł poza wąskie grono wczesnych użytkowników z San Francisco. Aplikacja działa jak wątek w komunikatorze: podaje się jej dostęp do kalendarza czy poczty, a ona sama proaktywnie szuka sposobów na pomoc — na przykład odwołuje zajęcia fitness kolidujące z rezerwacją na kolację. Dystrybucja przez Instagram i Facebook pomogła jej wskoczyć na szczyty rankingów pobrań w pierwszym miesiącu. Meta utrzymuje, że nie zamierza „blokować legalnych zachowań dorosłych”, a Muse generuje wyłącznie tekst, nie obrazy ani wideo.

Twórcy zwracają jednak uwagę na szerszy kontekst moderacji. Jiz Lee, prowadzący konto na OnlyFans i od lat pracujący w branży queerowego porno, przypomina, że jego posty na Instagramie były już oznaczane do usunięcia, a problemy z cenzurą wywodzi od ustawy FOSTA-SESTA z 2018 roku, która zmieniła zasady odpowiedzialności platform i skłoniła wiele serwisów do wycinania treści dla dorosłych. Lee pyta też, na jakich danych wytrenowano Muse i czy ktokolwiek za nie zapłacił. „Uważam, że już widzimy, jak AI może więcej niż ludzie” — mówi.

Tony Genius, również twórca z OnlyFans i aktor filmów dla dorosłych, przyznaje, że jest na siódmym koncie na Instagramie w ciągu pięciu lat. Choć dostrzega użyteczność AI w automatyzacji marketingu, choćby przy wycinaniu klipów do mediów społecznościowych, obawia się, że w pełni generowane porno może wypchnąć ludzi z rynku. Pyta, dlaczego Meta potrafi stworzyć aplikację z ograniczeniem 18+, ale nie tworzy analogicznej przestrzeni w mediach społecznościowych. Sam chętnie zgodziłby się na współpracę przy cyfrowej wersji siebie, którą fani mogliby zaczepiać — pod warunkiem, że ludzie nie zostaną z tego rynku wycięci.

Na razie twórcy pozostają w klinczu: platformy Meta są dla nich frustrujące, ale trudne do obejścia, jeśli chcą zachować widoczność. Część przeniosła się na X i Bluesky, gdzie treści dla dorosłych są dozwolone. Vanniall nie ma jednak wątpliwości co do samej aplikacji: „Przestańcie ją pobierać. Nie musicie dawać Meta kolejnych pieniędzy ani kolejnych swoich danych osobowych. Oni mają już wystarczająco dużo”.

Podsumowanie

Sprawa Muse pokazuje pęknięcie w polityce moderacji: to, co dla algorytmu jest niedozwoloną seksualnością prawdziwej osoby, dla agenta AI staje się legalnym produktem. Dopóki Meta nie wyjaśni spójnie, gdzie przebiega ta granica, twórcy treści dla dorosłych będą traktować ją jako podwójny standard — i jako sygnał, że w wyścigu o uwagę maszyna ma dziś więcej praw niż człowiek.