Na TikToku krążą deepfake’i z policjantami molestującymi zatrzymane kobiety - alarm Copyleaks

👁 116 przeczytań

Firma Copyleaks wykryła na TikToku filmy, w których prawdziwe nagrania policyjnych zatrzymań przerobiono sztuczną inteligencją tak, by funkcjonariusze całowali i obmacywali zatrzymane osoby. O sprawie poinformował serwis Futurism, który zgłosił przykłady takich treści platformie - TikTok je usunął.

Prawdziwe zatrzymania, fałszywe sceny seksualne

Mechanizm opisany przez Copyleaks i Futurism jest prosty i wyjątkowo cyniczny. Twórcy biorą autentyczne materiały z policyjnych zatrzymań - według ustaleń Futurism część z nich pochodzi pierwotnie z programów typu reality TV, takich jak „D.U.I.” stacji TLC - a następnie modyfikują je narzędziami AI. Efekt: funkcjonariusze są pokazywani, jak całują i dotykają w sposób seksualny osoby zatrzymane podczas kontroli drogowej.

Ofiarami manipulacji są przede wszystkim kobiety, ale w materiale wskazano też kilku mężczyzn. Zatrzymani często widoczni są w kajdankach, przy radiowozie, w nim lub przyciśnięci do niego - i właśnie w tych kadrach dorabiana jest nieistniejąca aktywność seksualna. W części filmów osoby obmacywane i całowane mają na twarzy uśmiech, co sugeruje, że dobrowolnie uczestniczą w zachowaniach funkcjonariuszy, którzy w tym samym momencie dokonują zatrzymania.

Deepfake jako przynęta na scrollujących

Najważniejszy jest sposób montażu. Spreparowane fragmenty są doklejane na początku dłuższych nagrań z zatrzymań. To klasyczna taktyka farm zaangażowania: szokująca scena ma zatrzymać kciuk użytkownika przewijającego kolejne filmy i skłonić go do obejrzenia całości. Deepfake nie jest tu celem samym w sobie - jest haczykiem na uwagę i zasięgi.

Część materiałów ma oznaczenie treści generowanych przez AI oraz zastrzeżenie, że klipy służą wyłącznie rozrywce i nie mają szkodliwych intencji. Futurism punktuje, że takie zastrzeżenie brzmi pusto: zseksualizowane deepfake’i tworzone z wizerunków realnych osób bez ich zgody są szkodliwe z samej swojej natury, niezależnie od dopisku pod filmem.

• bazą są autentyczne nagrania zatrzymań, nie materiały w pełni syntetyczne,
• na nagraniach występują prawdziwi policjanci i prawdziwi obywatele,
• przerobione sceny trafiają na początek filmu, by zatrzymać uwagę,
• oznaczenie AI i disclaimer nie usuwają szkody wizerunkowej.

Co mówi Copyleaks, co zrobił TikTok

Współzałożyciel i szef Copyleaks Alon Yamin w oświadczeniu ocenił, że to niepokojący przykład wykorzystywania narzędzi AI do tworzenia deepfake’owych wersji prawdziwych materiałów po to, by zdobywać uwagę i zaangażowanie w mediach społecznościowych. Podkreślił, że na filmach występują realni ludzie - zarówno funkcjonariusze, jak i obywatele - pokazywani w sytuacjach, które nigdy nie miały miejsca. Dodał, że jest to „concerning”, czyli niepokojące, dla wszystkich, którzy się na tych nagraniach znaleźli.

Po kontakcie ze strony Futurism TikTok usunął konkretnie wskazane przykłady takich treści i odesłał do zasad platformy dotyczących wyraźnego oznaczania realistycznych materiałów generowanych przez AI. W materiale źródłowym nie podano, ile takich filmów znaleziono, jak długo były dostępne ani jakie miały zasięgi. Nie podano też stanowiska amerykańskich służb ani reakcji osób, których wizerunki wykorzystano.

Dlaczego to problem także w Polsce

Schemat jest przenośny jeden do jednego. W polskim internecie krąży mnóstwo autentycznych nagrań z interwencji - z kamer przechodniów, z wideorejestratorów, z programów interwencyjnych i z kanałów publikujących materiały z patroli. Każde z nich może posłużyć jako surowiec do tej samej manipulacji: wystarczy dokleić spreparowaną scenę na początku, by zbudować zasięg na szoku.

Skutki uderzają w dwie grupy naraz. Funkcjonariusz pokazany w sfabrykowanej scenie molestowania ma problem służbowy i wizerunkowy, mimo że nic takiego nie zrobił. Osoba zatrzymana - często w najgorszym momencie swojego życia, w kajdankach, rozpoznawalna dla sąsiadów i pracodawcy - zostaje dodatkowo upokorzona treścią o charakterze seksualnym, na którą nigdy nie wyraziła zgody. W polskim porządku prawnym to obszar ochrony dóbr osobistych, wizerunku i danych osobowych, a w grę mogą wchodzić zarówno roszczenia cywilne, jak i zawiadomienia do prokuratury czy zgłoszenia do organów nadzorczych, takich jak UODO. Problem w tym, że dochodzenie praw wobec anonimowego konta farmiącego zasięgi jest znacznie wolniejsze niż samo rozprzestrzenianie się filmu.

Z perspektywy platform działających na polskim rynku kluczowe jest to, czego dotyczy odpowiedź TikToka: etykietowanie realistycznych treści AI. Opisany przypadek pokazuje jednak granicę tego podejścia - oznaczenie było, disclaimer był, a materiał i tak krzywdził realne osoby. Sama etykieta nie rozwiązuje problemu, jeśli treść narusza wizerunek i godność bez zgody zainteresowanych.

Na co uważać, oglądając nagrania z interwencji

Opisany przypadek daje kilka praktycznych wskazówek dla odbiorcy, który trafia na takie filmy w rekomendacjach.

• Jeśli początek nagrania jest sensacyjny, a dalsza część nagle „normalna”, to może być sklejka z deepfake’owym haczykiem.
• Dopisek o treści wyłącznie rozrywkowej nie oznacza, że materiał jest nieszkodliwy ani legalny.
• Obecność prawdziwych, rozpoznawalnych osób to sygnał, że szkoda jest realna, nawet gdy scena jest fikcyjna.
• Udostępnienie takiego filmu zwiększa zasięg, czyli dokładnie to, o co chodzi twórcom farm zaangażowania.

Najbardziej niepokojące w tej historii nie jest to, że AI potrafi dorobić nieistniejącą scenę. Chodzi o to, że opłaca się to robić na cudzym, autentycznym materiale - bo algorytm nagradza zatrzymaną uwagę, a koszt ponoszą ludzie, którzy nigdy nie prosili o to, by znaleźć się w kadrze.