Setki zwykłych aplikacji AI ukrywały funkcje do tworzenia deepfake’ów z przemocą seksualną

Ten news ukazał się 3 godziny po komunikacie źródła.

👁 116 przeczytań

Sieć ponad 400 aplikacji i domen podszywała się pod zwykłe usługi - generatory portretów zwierząt, aplikacje do nauki języków czy coache fitness - a jednocześnie w ukryty sposób udostępniała narzędzia do tworzenia seksualnych deepfake’ów, w tym scen z przemocą. Ujawniło to śledztwo magazynu Wired opublikowane w lipcu 2025 roku, przeprowadzone wspólnie z kilkoma niezależnymi badaczami.

Przykładem jest aplikacja Viefur, reklamująca się jako narzędzie do tworzenia portretów zwierząt domowych w stylu antropomorficznym. Za zakupione w aplikacji cyfrowe monety - około 4 dolarów za 130 sztuk - użytkownik mógł przerobić zdjęcie chomika na wizerunek siedzącego przy basenie w hawajskiej koszuli. To jednak była tylko fasada. Po zainstalowaniu aplikacja po cichu nawiązywała połączenie z serwerem i na podstawie przesyłanych danych - skąd pochodzi użytkownik, jaki język ustawiony jest na urządzeniu, jaki unikalny identyfikator - serwer decydował, czy załadować niewinny interfejs, czy ten drugi: pozwalający generować materiały eksplicytne.

Czytasz Promptowego częściej? Dodaj go do preferowanych źródeł w Google, a nowe teksty będą wyżej w Twoich wynikach.

Jak działało ukrywanie treści

Mechanizm kamuflażu był przemyślany. Aplikacje przechodziły weryfikację w sklepach Apple i Google, bo w momencie przeglądu przez moderatorów pokazywały wyłącznie bezpieczne funkcje. Dopiero po instalacji, gdy serwer ocenił profil użytkownika jako właściwy - na przykład na podstawie źródła pobrania lub ustawień językowych - aplikacja ładowała ukryty interfejs webowy z dostępem do treści takich jak scena opisana jako „bedroom rape” lub „threatening knife”, gdzie mężczyzna przystawia kobiecie nóż do szyi. Płatności obsługiwały Apple Pay i Google Pay.

Za siecią stoi prawdopodobnie podmiot KeLing Technology Limited zarejestrowany w Hongkongu, a aplikacje wydają się być tworzone przez chińskich deweloperów - wynika to z analizy domen i sposobu działania usług przeprowadzonej przez Wired. Sieć publikowała nowe aplikacje przez co najmniej rok, czasem po kilkadziesiąt tygodniowo, tworząc rodzaj fabryki jednorazowych produktów trudnych do zablokowania. Adresy e-mail powiązane z podmiotem nie odpowiedziały na prośby o komentarz, jednak po tym, jak Wired się z nimi skontaktował, publiczne powiązania między KeLing Technology Limited a narzędziami do deepfake’ów zaczęły znikać z sieci.

Śledztwo Wired ruszyło po analizie tysięcy reklam wideo zawierających eksplicytne treści deepfake, opublikowanych na Facebooku i Instagramie. Jak magazyn opisywał już w poprzednich miesiącach, część z tych reklam zawierała wygenerowane przez AI materiały z seksualnym wykorzystaniem dzieci - w tym wizerunki prawdziwych dzieci i członka europejskiej rodziny królewskiej. Reklamy dotarły do dziesiątek tysięcy użytkowników i wywołały postępowania regulatorów w kilku krajach.

Paul Bouchaud, główny badacz w organizacji non-profit AI Forensics, który tropił tę sieć, opisuje ją wprost:

„To zorganizowana, komercyjnie prowadzona operacja: jeden operator stojący za setkami jednorazowych aplikacji i domen, ukryty tak, żeby przejść weryfikację App Store, i wpychany przez dziesiątki tysięcy reklam na Meta pod fałszywymi nazwami płatników. Nie spodziewają się, że egzekwowanie przepisów ich dopadnie - i do tej pory tak się nie stało.”

Apple, Google i Meta deklarują, że ich zasady zabraniają szkodliwych treści deepfake i są egzekwowane. Praktyka pokazała, że sieć działała bez przeszkód przez co najmniej rok, cały czas publikując nowe produkty. Badacze znaleźli ją, śledząc linki z reklam - nie przez wewnętrzne systemy moderacji platform.

W związku z publikacją Wired sprawą zainteresowały się regulatory z kilku krajów. Jak długo potrwa reakcja Apple’a i Google’a na usunięcie pozostałych aplikacji z tej sieci ze swoich sklepów - tego na razie nie wiadomo.