Twoja twarz nie jest już dowodem

👁 196 przeczytań

Wyobraź sobie telefon o drugiej w nocy. Głos twojej córki, roztrzęsiony, mówi, że miała wypadek, że potrzebuje pieniędzy, że nie może teraz rozmawiać dłużej. Rozpoznajesz ten głos w ułamku sekundy - bo przez całe życie uczyłeś się go rozpoznawać. Problem w tym, że to nie jest twoja córka. To trzydzieści sekund jej nagrania z Instagrama, przepuszczone przez model, który kosztuje mniej niż miesięczna subskrypcja Netflixa. I właśnie w tej sekundzie, między „halo” a decyzją, rozgrywa się cała stawka tego tekstu.

Przez większość historii cywilizacji obowiązywała cicha umowa: jeśli coś widziałeś na własne oczy albo słyszałeś na własne uszy, to się wydarzyło. Zdjęcie było dowodem. Nagranie było dowodem. Film był niepodważalny. Ta umowa właśnie się kończy, i to nie w jakiejś odległej przyszłości z filmów science fiction, tylko teraz, w tym roku, na urządzeniu, które trzymasz w ręce.

Jak to w ogóle działa - bez ściemy

Nie muszę ci tłumaczyć matematyki, żebyś zrozumiał zagrożenie. Wystarczy jedna intuicja. Kiedyś, żeby podrobić czyjś głos albo twarz, potrzebowałeś studia dźwiękowego, zespołu speców od efektów i budżetu Hollywood. Podmiana twarzy w „Forreście Gumpie” to była praca miesięcy. Dziś klonowanie głosu z kilku sekund nagrania to funkcja aplikacji. Podmiana twarzy na wideo w czasie rzeczywistym - podczas rozmowy - przestała być demem z konferencji, a stała się narzędziem.

Zmieniły się trzy rzeczy naraz, i to ich zbieg jest naprawdę groźny. Po pierwsze - jakość. Fałszywki przekroczyły próg, za którym ludzkie oko i ucho przestają wyłapywać różnicę. Po drugie - dostępność. To już nie jest wiedza tajemna, tylko przycisk. Po trzecie, i to najważniejsze - koszt spadł do zera. A kiedy coś kosztuje zero, przestaje być wyjątkiem, a staje się tłem.

To ostatnie jest kluczem do zrozumienia całego problemu. Dopóki fałszowanie rzeczywistości było drogie, było rzadkie. Rzadkie oszustwo można wyłapać, bo się wyróżnia. Ale kiedy podrobienie głosu jest tańsze niż kawa, oszustwo przestaje się wyróżniać. Staje się szumem. A w szumie giną wszystkie sygnały - także te prawdziwe.

Kto na tym zyskuje, a kto płaci rachunek

Każda technologia ma swoich beneficjentów i swoje ofiary, i warto nazwać ich po imieniu, zamiast machać rękami nad „wyzwaniami przyszłości”.

Zyskują przede wszystkim oszuści. To pierwsza fala, ta najbardziej oczywista. Scenariusz z telefonem od „córki” nie jest hipotezą, to już rutyna call center przestępczych, tyle że zautomatyzowana. Klonowanie głosu prezesa firmy, który dzwoni do księgowej z poleceniem pilnego przelewu, przestało być anegdotą. Tu mechanizm jest brutalnie prosty: technologia obniżyła koszt wywołania zaufania. A zaufanie zawsze było najcenniejszą walutą oszusta.

Drugą grupą beneficjentów są ci, którzy chcą upokarzać. Zdecydowana większość deepfake’ów krążących w sieci to nie sfingowane przemówienia polityków, tylko pornografia bez zgody - twarze prawdziwych kobiet doklejone do scen, które nigdy się nie wydarzyły. To najbrudniejszy, najczęściej przemilczany fragment tej rewolucji. Ofiarami są nastolatki, koleżanki z klasy, byłe partnerki. Narzędzie zemsty stało się darmowe i bezkarne.

Trzecim beneficjentem - i to jest paradoks, który spędza mi sen z powiek - są kłamcy z prawdziwymi grzechami na sumieniu. Bo skoro wszystko może być fałszywe, to każdy prawdziwy dowód można teraz zakwestionować.

Największym zagrożeniem nie jest fałszywe nagranie, które weźmiemy za prawdziwe. Największym zagrożeniem jest prawdziwe nagranie, które odrzucimy jako fałszywe. Deepfake nie zabija prawdy jednym ciosem - rozpuszcza samo pojęcie dowodu.

Nazwano to „dywidendą kłamcy”. Polityk przyłapany na korupcji na nagraniu wideo mówi po prostu: to deepfake. I nie musi nawet udowadniać, że tak jest. Wystarczy, że zasieje wątpliwość, bo teraz wątpliwość jest darmowa i wiarygodna. Kiedyś kłamca musiał się tłumaczyć z dowodu. Dziś może go po prostu unieważnić.

Dlaczego prawo zawsze będzie o krok za późno

Naturalny odruch to powiedzieć: potrzebujemy regulacji. I owszem, potrzebujemy. Ale muszę być uczciwy - prawo w tej dziedzinie strukturalnie skazane jest na spóźnienie, i nie z powodu lenistwa ustawodawców.

Po pierwsze, tempo. Ustawa powstaje latami, model powstaje w tygodnie. Zanim regulator zdefiniuje „deepfake”, zdefiniowana rzecz zdąży się trzy razy zmienić. Po drugie, jurysdykcja. Serwer stoi w kraju, którego nasze prawo nie dosięga, oprogramowanie jest otwarte i skopiowane w tysiącach miejsc naraz. Nie da się zdelegalizować matematyki. Po trzecie, dwuznaczność samej technologii. To samo narzędzie, które klonuje głos oszusta, przywraca głos osobie po operacji krtani, dubbinguje film na czterdzieści języków, ożywia postać w grze. Nie można tego zakazać, bo zakazujemy jednocześnie rzeczy pięknych i potwornych, które są tym samym kodem.

Unia Europejska poszła w stronę oznaczania - treści generowane przez AI mają być jawnie etykietowane. To ruch w dobrą stronę i popieram go. Ale nie miejmy złudzeń: etykieta powstrzyma uczciwych, a oszust jej po prostu nie doklei. Znakowanie deepfake’a przez oszusta jest jak proszenie włamywacza, żeby zostawił wizytówkę. Regulacja porządkuje rynek tych, którzy i tak chcieli grać fair. Reszta działa poza nią z definicji.

Nie mówię tego, żeby zniechęcać do prawa. Mówię, żeby nikt nie łudził się, że ustawa nas uratuje. Prawo jest konieczne, ale niewystarczające. Będzie łapać sprawców po fakcie, ustali zasady dla platform, da ofiarom narzędzie w sądzie. Ale nie zatrzyma fali, bo fala jest szybsza od paragrafu.

Wyścig detektorów, którego nie da się wygrać

Skoro nie prawo, to może technologia sama się obroni? Skoro AI tworzy fałszywki, to inna AI je wykryje?

Chciałbym w to wierzyć, ale tu też muszę ostudzić entuzjazm. Wykrywanie deepfake’ów to gra w kotka i myszkę, w której mysz ma strukturalną przewagę. Za każdym razem, gdy powstaje detektor rozpoznający jakiś artefakt fałszywki - nienaturalne mruganie, dziwny cień, drganie na krawędzi twarzy - ta sama wiedza służy do wytrenowania lepszego generatora, który tego błędu już nie popełnia. Detektor uczy fałszerza. To wbudowana pętla, z której nie ma wyjścia po stronie czysto technicznej.

Dlatego bardziej wierzę w odwrócenie problemu. Zamiast udowadniać, że coś jest fałszywe - co jest coraz trudniejsze - budujmy systemy, które udowadniają, że coś jest prawdziwe. To filozoficznie zupełnie inne podejście. Aparat, który podpisuje kryptograficznie każde zdjęcie w momencie zrobienia. Łańcuch pochodzenia treści, który pokazuje, skąd plik przyszedł i czy był edytowany. To nie jest science fiction, standardy takie już powstają. Zamiast polować na kłamstwo, poświadczamy prawdę u źródła.

Ale nawet to nie jest cudowny lek. Bo domyślnie ludzie nie sprawdzają metadanych. Nikt nie klika w certyfikat pochodzenia zdjęcia, tak jak prawie nikt nie czyta warunków usługi. Technologia da nam narzędzie, ale narzędzie leżące nieużywane w szufladzie niczego nie chroni.

Co naprawdę możemy zrobić - i to my, nie „oni”

Dochodzę więc do sedna, i moja teza jest może niepopularna, ale konsekwentna: najważniejsza obrona przed fałszywą rzeczywistością nie jest techniczna ani prawna, tylko kulturowa. Musimy przebudować nasze nawyki poznawcze, i to szybciej niż zwykle robi to społeczeństwo.

Zacznę od rzeczy najprostszej, bo działa od jutra. Ustal z bliskimi hasło. Słowo, którego nie ma w sieci, którego nie da się wygooglować ani wywnioskować z twoich postów. Kiedy zadzwoni roztrzęsiony głos twojej córki z prośbą o pieniądze, poproś o to słowo. Głos można sklonować z Instagrama. Wspólnej tajemnicy z dzieciństwa - nie. To jest banalne i to jest skuteczne, a broni przed najczęstszym, najbardziej dotkliwym atakiem.

Druga rzecz to przesunięcie domyślnego nastawienia. Przez całe życie uczono nas ufać obrazowi. Teraz musimy nauczyć się, że obraz i dźwięk to już nie dowód, tylko poszlaka. To nie znaczy popadać w paranoję i nie wierzyć w nic - to droga do drugiego, groźniejszego świata, w którym cyniczne „wszystko może być fałszywe” prowadzi do „nic nie ma znaczenia”. Chodzi o coś zdrowszego: pytać o źródło. Skąd to mam? Kto to opublikował pierwszy? Czy potwierdza to więcej niż jedno niezależne miejsce? To odruch dziennikarski, którego musimy się wszyscy nauczyć, bo wszyscy jesteśmy teraz wydawcami tego, co przekazujemy dalej.

Trzecia rzecz dotyczy szkoły i rodziny. Dziecko, które dorasta dziś, musi wiedzieć o klonowaniu głosu i podmianie twarzy tyle samo, ile o przechodzeniu przez jezdnię. To nowa zasada ruchu drogowego dla rzeczywistości cyfrowej. Nie da się tego odłożyć na „kiedyś”, bo dla nastolatka fałszywe intymne zdjęcie kolegi z klasy to nie abstrakcja z gazety, tylko realne narzędzie przemocy dostępne w telefonie sąsiada z ławki.

I wreszcie rzecz najtrudniejsza, bo wymagająca cierpliwości. Musimy odbudować zaufanie do instytucji, które poświadczają prawdę - do rzetelnych mediów, do niezależnych ekspertów, do procedur weryfikacji. Brzmi staroświecko, wiem. Ale w świecie, gdzie każdy piksel może kłamać, wraca na znaczeniu pytanie nie „co widzę”, tylko „komu ufam, że mi to pokazuje”. Autorytet oparty na powtarzalnej wiarygodności staje się cenniejszy niż kiedykolwiek. Paradoksalnie era deepfake’ów może być erą renesansu prawdziwego dziennikarstwa - o ile zdążymy je uratować, zanim utonie w szumie.

Wniosek, który nie da się schować

Rozłożyłem ten problem na części, więc pozwolę sobie go teraz z powrotem złożyć w jedno zdanie. Nie stracimy prawdy przez jeden spektakularny fałszywy film, który zmieni wynik wyborów. Stracimy ją przez tysiąc drobnych fałszywek, które nauczą nas, że sprawdzanie nie ma sensu, bo i tak nic nie wiadomo. To nie eksplozja, to erozja. I dlatego

Najczęściej zadawane pytania

Co to jest 'dywidenda kłamcy' w kontekście deepfake'ów?

’Dywidenda kłamcy’ to sytuacja, w której osoba przyłapana na czymś kompromitującym może po prostu stwierdzić, że dowód jest deepfake’iem, i zasiać wątpliwość bez udowadniania swojej wersji. Największym zagrożeniem nie jest więc fałszywe nagranie wzięte za prawdziwe, ale prawdziwe nagranie odrzucone jako fałszywe - deepfake rozpuszcza samo pojęcie dowodu.

Dlaczego regulacje prawne nie wystarczą, żeby zatrzymać deepfake'i?

Prawo strukturalnie skazane jest na spóźnienie, bo ustawa powstaje latami, a model - w tygodnie. Dodatkowo serwery stoją w krajach poza zasięgiem lokalnego prawa, a oprogramowanie jest otwarte i skopiowane w wielu miejscach. Etykietowanie treści AI, jak proponuje Unia Europejska, powstrzyma uczciwych, ale oszust po prostu nie doklei wymaganego oznaczenia.

Do czego w praktyce wykorzystywane są deepfake'i?

Wykorzystywane są przede wszystkim przez oszustów - na przykład do klonowania głosu prezesa firmy, który rzekomo dzwoni do księgowej z poleceniem pilnego przelewu. Zdecydowana większość deepfake’ów krążących w sieci to jednak pornografia bez zgody, czyli twarze prawdziwych kobiet doklejane do scen, które nigdy się nie wydarzyły, a ofiarami są między innymi nastolatki i byłe partnerki.

// czytaj dalejChatfishing, czyli twoja randka pisze przez ChatGPT - i nikt tego nie zatrzymaNewsyCzy AI utrzyma tę samą twarz? 10 modeli, jeden bohater, 4 scenyPojedynki AIWorld Press Photo daje definicję zdjęcia w epoce AI. Fotografia znowu staje się dowodemPremium