Deepfake, który wygra wybory w Polsce, nie będzie deepfakiem

👁 115 przeczytań

Wyobraźmy sobie sobotni wieczór na trzy dni przed ciszą wyborczą. Na jednym z serwisów pojawia się nagranie: znany polityk, kiepskie światło, jakby kręcone telefonem z ukrycia, mówi zdanie, które przekreśla jego karierę. Głos się zgadza. Mimika się zgadza. Do rana ma dwa miliony wyświetleń, a sztaby przeciwników udają oburzenie, jednocześnie ciesząc się w duchu. W poniedziałek eksperci ogłaszają, że to falsyfikat. Tyle że w poniedziałek nikogo to już nie obchodzi, bo emocja została skonsumowana w sobotę, a sprostowanie ma zasięg wilgotnej zapałki.

Ta scena jest zmyślona - piszę to wprost, żeby nie było wątpliwości. Ale nie jest nieprawdopodobna. Pytanie, które chcę tu rozłożyć na części, brzmi: czy w Polsce naprawdę grozi nam deepfake, który zmieni wynik wyborów? A jeśli tak, to kiedy, jak i przez kogo. Odpowiedź, do której dojdę, jest mniej efektowna, niż sugerują nagłówki, i znacznie bardziej niepokojąca.

Technologia jest gotowa. To akurat najnudniejsza część

Zacznijmy od tego, co najłatwiej sprawdzić. Czy da się dziś zrobić przekonujący deepfake polskiego polityka? Tak. I to jest zdanie, które wypowiadam bez cienia dramatyzmu, bo ono przestało być ciekawe jakieś dwa lata temu.

Klonowanie głosu wymaga dziś kilkudziesięciu sekund czystego nagrania, a polityk to zawód, w którym człowiek produkuje setki godzin publicznych wypowiedzi rocznie. Twarz jest trudniejsza, zwłaszcza w ruchu, przy dynamicznej mimice i pod dobrym oświetleniem, ale ruch to właśnie miejsce, gdzie deepfake maskuje swoje słabości. Kiepska jakość nie jest wadą - jest alibi. Nikt nie oczekuje, że kompromitujące nagranie z ukrycia będzie wyglądać jak reklama perfum.

I tu pojawia się pierwszy paradoks, który warto sobie przyswoić. Im gorsza jakość podróbki, tym większa jej wiarygodność. Mózg widza nie porównuje nagrania z ideałem. Porównuje je ze swoim wyobrażeniem o tym, jak wygląda „prawdziwy przeciek”. A prawdziwy przeciek zawsze jest ziarnisty, urwany, nagrany pod dziwnym kątem. Technologia nie musi być doskonała. Musi być wystarczająco niedoskonała we właściwy sposób.

Dlatego bagatelizuję warstwę techniczną. Nie dlatego, że jest błaha, tylko dlatego, że jest rozwiązana. Bariera wejścia spadła do poziomu, na którym liczy się już nie umiejętność, lecz intencja. A intencja to nie jest problem informatyczny. To problem ludzki, prawny i polityczny. I tam właśnie robi się naprawdę ciekawie.

Kto miałby to zrobić i po co - czyli mapa interesów

Deepfake nie spada z nieba. Ktoś musi zdecydować, że warto go wypuścić, i ponieść ryzyko. Rozłóżmy więc siły na planszy, bo bez tego cała rozmowa o technologii wisi w próżni.

Zacznijmy od głównych sztabów partyjnych. One są, wbrew pozorom, najmniej prawdopodobnym sprawcą. Nie z powodu skrupułów moralnych - byłbym naiwny, gdybym w to wierzył - lecz z powodu rachunku ryzyka. Duża partia ma zbyt wiele do stracenia. Wpadka z deepfakiem to nie tylko skandal, to prokurator, to utrata wiarygodności na lata, to prezent dla przeciwnika, który przez tydzień gra rolę ofiary. Profesjonalny sztab woli sprawdzone narzędzia: przeciek prawdziwy, cytat wyrwany z kontekstu, montaż na granicy manipulacji. Po co ryzykować więzienie, skoro półprawda działa równie dobrze i jest legalna?

Drugi gracz to podmioty zewnętrzne. Aktorzy, którym nie zależy na wygranej konkretnej strony, tylko na chaosie jako takim. Tu kalkulacja wygląda zupełnie inaczej. Dla kogoś, kto działa spoza polskiej jurysdykcji i którego celem jest samo osłabienie zaufania do instytucji, deepfake jest tani, bezpieczny i skuteczny. Nie musi nawet nikogo przekonać. Wystarczy, że zasieje wątpliwość.

Trzeci, najbardziej niedoceniany gracz, to samotny wariat z laptopem. Ktoś, kto robi to dla draki, dla zasięgów, dla poczucia sprawczości. Nie ma sztabu, nie ma strategii, nie ma nic do stracenia. I właśnie dlatego jest nieprzewidywalny. Historia polskiego internetu pokazuje, że najgłupsze rzeczy potrafią osiągnąć skalę, o jakiej najlepsi stratedzy mogą tylko pomarzyć.

Nie boję się genialnego deepfake’a stworzonego przez wrogie mocarstwo. Boję się byle jakiego filmiku sklejonego w niedzielne popołudnie przez znudzonego dwudziestolatka, który trafi w nastrój chwili lepiej niż wszystkie sztaby razem wzięte.

Bo prawda jest taka, że o sile dezinformacji nie decyduje jej autor ani jej jakość. Decyduje o niej grunt, na który pada. A polski grunt jest wyjątkowo żyzny.

Dlaczego Polska jest podatnym gruntem

Można mieć najlepszą ustawę i najszybszych fact-checkerów, a i tak przegrać, jeśli społeczeństwo jest podzielone tak głęboko, że fakty przestały być wspólną walutą. My jesteśmy blisko tego punktu.

Polska polityka od lat funkcjonuje w trybie plemiennym. Dwa główne obozy nie tyle się nie zgadzają, co żyją w dwóch osobnych rzeczywistościach, z osobnymi mediami, osobnymi autorytetami i osobnymi zestawami faktów. W takim układzie deepfake nie musi być przekonujący dla wszystkich. Musi być przekonujący dla tych, którzy i tak chcą w niego uwierzyć. A chcących nigdy nie brakuje.

To jest sedno, które umyka w panicznych dyskusjach o technologii. Deepfake nie zmienia poglądów. On je potwierdza. Jeśli ktoś nienawidzi danego polityka, nagranie, na którym ten polityk mówi coś obrzydliwego, nie jest dla niego rewelacją - jest ulgą. Wreszcie ma dowód na to, co czuł od zawsze. Racjonalna weryfikacja przegrywa z tą satysfakcją w przedbiegach. Nikt nie fact-checkuje rzeczy, które pasują mu do światopoglądu.

Do tego dochodzi tempo. Polski internet konsumuje emocję w godzinach, a nie w dniach. Cykl życia sensacji jest krótszy niż czas potrzebny na rzetelną analizę. Zanim ktokolwiek zdąży powiedzieć „to fałszywka i mamy na to dowody”, karawana ruszyła dalej, a nagranie przeszło już do fazy memów, w której nikt nie pyta o prawdziwość, bo śmieszność zwolniła je z tego obowiązku.

I ostatni składnik: zmęczenie. Ludzie są przebodźcowani, zmęczeni polityką, zmęczeni kłótniami. W tym stanie nie chce się weryfikować. Chce się poczuć, przewinąć dalej i mieć rację bez wysiłku. Deepfake obsługuje tę potrzebę idealnie.

Prawo, które biegnie za technologią i się zadyszy

Jest oczywiście warstwa regulacyjna, i tu muszę być uczciwy: robi się na tym polu więcej, niż sądzi przeciętny sceptyk. Unijne przepisy zmierzają w stronę obowiązkowego oznaczania treści generowanych przez sztuczną inteligencję. Platformy mają obowiązki w zakresie moderacji. Kodeks karny zna zniesławienie i inne narzędzia, które dają się zastosować także do syntetycznego wizerunku.

Problem w tym, że prawo działa po fakcie, a deepfake wyrządza szkodę w czasie rzeczywistym. Możesz ścigać sprawcę miesiącami, ale wyniku wyborów nie odkręcisz. Obowiązek oznaczania treści AI jest sensowny wobec uczciwych - a uczciwi nie są tu problemem. Ten, kto celowo montuje fałszywkę, żeby zaszkodzić, nie doda przecież grzecznie znaczka „wygenerowane przez sztuczną inteligencję”. Regulacja łapie tych, którzy i tak by nie zaszkodzili, a mija się z tymi, o których naprawdę chodzi.

Nie mówię, że regulacja jest bez sensu. Mówię, że jest jak zamek w drzwiach - odstraszy przypadkowego złodzieja, ale nie zdeterminowanego włamywacza. I że złudzeniem jest wiara, iż paragraf rozwiąże problem, który w gruncie rzeczy nie jest technologiczny ani prawny, tylko dotyczy tego, komu i dlaczego ufamy.

Prawdziwe zagrożenie nosi inne imię

Dochodzę do tezy, która wydaje mi się najważniejsza w całym tym tekście, i która przewraca do góry nogami sposób, w jaki zwykle rozmawiamy o deepfake’ach.

Największym zagrożeniem nie jest fałszywe nagranie, które weźmiemy za prawdziwe. Największym zagrożeniem jest prawdziwe nagranie, które weźmiemy za fałszywe.

Nazywa się to dywidendą kłamcy. Im więcej wiemy o istnieniu deepfake’ów, tym łatwiej każdemu przyłapanemu na czymś kompromitującym powiedzieć magiczne zdanie: „to deepfake, to wygenerowane przez AI, to atak na mnie”. I nagle autentyczny dowód traci moc. Skoro wszystko może być podróbką, to nic nie musi być prawdą. To jest wyjście awaryjne, które technologia właśnie zamontowała w każdym gabinecie.

Zwróćmy uwagę, jak wygodne jest to dla nieuczciwych. Wcześniej złapany na gorącym uczynku musiał tłumaczyć się z tego, co zrobił. Dziś wystarczy, że zakwestionuje samo nagranie. A ponieważ większość z nas nie ma narzędzi ani cierpliwości, by odróżnić prawdę od falsyfikatu, defensywna nieufność staje się racjonalną strategią odbiorcy. Przestajemy wierzyć w cokolwiek. I to jest zwycięstwo, tyle że nasze wspólne przegrane.

Deepfake nie zniszczy demokracji jednym spektakularnym nagraniem. Zniszczy ją, jeśli nauczy nas, że wideo nic już nie znaczy. Bo społeczeństwo, które utraciło zdolność ustalenia wspólnej podstawy faktów, nie jest w stanie prowadzić żadnej sensownej rozmowy - ani o polityce, ani o niczym innym. Zostaje mu tylko plemienna lojalność i przekonanie, że wszyscy kłamią, więc warto trzymać się swoich.

Więc kiedy, jak i czy w ogóle

Wróćmy do trzech pytań z tytułu, bo obiecałem wniosek, a nie zawieszenie głosu.

Czy jest możliwy? Tak, technicznie od dawna, i to bez wielkiego budżetu. To już nie jest pytanie o „czy”.

Jak? Nie przez efektowną, doskonałą podróbkę stworzoną przez tajemnicze mocarstwo, choć taki scenariusz sprzedaje się w mediach najlepiej. Raczej przez byle jaki, ziarnisty, „wyciekły” materiał, wrzucony w idealnym momencie kampanii, obliczony nie na przekonanie sceptyków, lecz na potwierdzenie tego, w co połowa kraju i tak chce wierzyć.

Kiedy? Zakładam, że takie przypadki zdarzały się już wcześniej na mniejszą skalę i będą się zdarzać częściej. Ale nie spodziewam się jednej Wielkiej Fałszywki, która przejd