Grok i 7000 obrazów. Jak chatbot stał się narzędziem do krzywdzenia dzieci
Kobieta dołączyła do pozwu przeciwko xAI, twierdząc, że jej ojczym użył Groka do wygenerowania ponad 7000 eksplicitnych wersji jej zdjęcia z dzieciństwa.
👁 144 przeczytań
Felieton ma sens tylko wtedy, gdy temat naprawdę wymaga czegoś więcej niż suchego newsa. Sprawa Jane Doe 4 kontra xAI jest właśnie taka - bo za suchymi liczbami stoi mechanizm, który domaga się nazwania rzeczy po imieniu.
7000 obrazów z jednego zdjęcia
Kobieta, której tożsamość w dokumentach sądowych ukryta jest pod pseudonimem Jane Doe 4, dołączyła do pozwu złożonego przez troje nastolatków z Tennessee przeciwko xAI, spółce Elona Muska stojącej za chatbotem Grok. Zgodnie z relacją „The Washington Post”, jej ojczym miał użyć Groka do przetworzenia fotografii, na której widniała jako jedenastolatka - w efekcie powstało ponad 7000 eksplicitnych obrazów. Mężczyzna odebrał sobie życie dwa dni po tym, jak policja odnalazła te materiały podczas przeszukania.
Liczba 7000 nie jest abstrakcją. To 7000 osobnych aktów cyfrowej przemocy seksualnej wobec konkretnego dziecka, wygenerowanych przez narzędzie, które można było po prostu zapytać. Nie trzeba było umiejętności programistycznych, sieci darknet ani specjalistycznego oprogramowania. Wystarczył dostęp do Groka.
„Nieograniczony dostęp do tych narzędzi rozprzestrzenia się tak szybko. Bierze codzienne życie i zamienia je w seksualne wykorzystywanie dzieci.”
- powiedziała kobieta, cytowana przez „The Washington Post”.
Zaniechanie, które ma nazwę
Prawnicy reprezentujący powodów zarzucają xAI - formalnie wchłoniętej już przez SpaceX - niepodjęcie podstawowych środków ostrożności zapobiegających wykorzystaniu Groka do generowania eksplicitnych wizerunków rzeczywistych osób, w tym nieletnich. To nie jest zarzut, że ktoś złamał kodeks etyczny zapisany drobnym drukiem. To twierdzenie, że firma wiedziała lub powinna była wiedzieć, do czego jej produkt może służyć, i nie zrobiła nic wystarczającego.
Sygnały były. Wcześniej w tym roku X - platforma Muska - została zalana milionami generowanych przez Groka seksualizowanych obrazów. To nie był incydent w niszowym zakamarku internetu; to był widoczny, dokumentowany wybuch treści, które platforma zaczęła usuwać dopiero pod medialną presją. Firma miała dane. Miała ostrzeżenia. W czerwcu 2026 roku wyszło na jaw, że xAI zwolniło inżyniera, który wewnętrznie alarmował o problemach z bezpieczeństwem Groka - to osobna sprawa sądowa, ale wpisuje się w ten sam wzorzec.
Technologia bez tarcia
Nie przepłacaj za te subskrypcje
Prowadzę sklep z rocznymi dostępami do narzędzi AI - te same konta, o których piszę wyżej, tylko taniej niż w cenniku producenta.
Jest w tej sprawie coś, co powinno niepokoić niezależnie od ostatecznego werdyktu sądowego: próg wejścia w wyrządzenie tej konkretnej krzywdy był bliski zeru. Zdjęcie z rodzinnego albumu. Jedno zapytanie. Siedem tysięcy obrazów. Klasyczna produkcja CSAM - material z seksualnym wykorzystaniem dzieci - wymagała fizycznej obecności sprawcy przy ofierze, dokumentowała zbrodnie, które już się wydarzyły. Generatywna AI odrywa tę produkcję od fizycznego kontaktu. Sprawca nie musi mieć dostępu do dziecka. Wystarczy mu jeden plik z dysku twardego albo portalu społecznościowego.
To jakościowa zmiana, a nie jedynie kolejny krok na tej samej skali. I dobrze by było, żeby twórcy modeli rozumieli tę różnicę - a przynajmniej żeby rozumiały ją sądy.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Co dalej z pozwem
Prawnicy powodów dążą do nadania sprawie statusu pozwu zbiorowego. Jeśli im się uda, xAI może stanąć twarzą w twarz z klasą ofiar o potencjalnie trudnej do oszacowania liczebności. Na razie TechCrunch nie otrzymał odpowiedzi od firmy na prośbę o komentarz.
Wynik tej sprawy będzie sygnałem - dla branży, dla regulatorów, dla prawników szukających precedensów. Ale dla Jane Doe 4 wyrok to nie jedyna rzecz, która się liczy. Liczy się też to, że w ogóle musiała opowiedzieć tę historię publicznie, żeby cokolwiek ruszyło z miejsca.
Narzędzie, które w ciągu kilku minut przetwarza zdjęcie dziecka w tysiące obrazów pornograficznych, nie jest neutralne technologicznie - jest niezabezpieczone. I tę różnicę ktoś musi wreszcie wycenić.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Google Pics - nowe narzędzie AI do tworzenia i edycji obrazów w WorkspaceNewsy
ChatGPT 5.5 zmienia zasady gry. To już nie tylko chatbot, ale narzędzie do realnej pracyPremium
Fałszywe zgłoszenia praw autorskich jako narzędzie wymuszeń: policzyłem, ile kosztuje odzyskanie konta na InstagramieMagazynPodobne tematy na Promptowym
