Głos, twarz, wiarygodność. Jak się bronimy przed sztuczną rzeczywistością

👁 111 przeczytań

Kilka lat temu scenariusz brzmiałby jak Hollywood. Dziś to rutyna. Weź dowolny film z YouTube’a - pięciominutową mowę kogoś znowu, nagranie wiadomości prasowej, nawet fragment podcastu. Wrzuć do narzędzia online. Za kilka sekund otrzymasz deepfake - wideo, w którym twoja twarz mówi rzeczy, których nigdy nie powiedziałeś. Twój głos. Twoje ruchy ust. Twoje oczy. Ale słowa nie twoje.

To nie jest teoria. To dzieje się teraz, i dzieje się szybciej niż zdążyliśmy zorientować się w zagrożeniu. Sieć pełna jest już fałszywych nagrań polityków, celebrytów, biznesmenów. Niektóre robi się dla mema, inne dla szantażu, jeszcze inne dla manipulacji politycznej. Granica między zabawą a bronią zaczyna się rozmywać w tempie, które przestrasza nawet branżę tech.

Ale oto rzecz, którą chciałbym powiedzieć już w pierwszym akapicie: nie chodzi o to, żeby złapać się za głowę i czekać na koniec. Problem jest poważny, ale ma rozwiązania. Niektóre już dziś dostępne. Inne wciąż się stwarzają. Zawsze jednak musimy pamiętać jedno - wszyscy w tym są zainteresowani: ci, którzy robią deepfaki, ci, którzy ich wykorzystują, i ci, którzy się przed nimi bronią. Bo wiem, że im bardziej zaawansowana jest technologia ataku, tym bardziej zaawansowana okazuje się obrona.

Jak powstaje fałsz - trzy sekundy zamieniają w bzdurę

Zanim o obronie, trzeba zrozumieć grę. Zacznijmy od techniki.

Deepfake’i powstają przy użyciu sieci neuronowych zwanych autoenkoderami i generacyjnymi modelami przeciwstawnymi - GAN-ami. Brzmi skomplikowanie, ale zasada jest prosta: algorytm bierze masę nagrań twojej twarzy (im więcej, tym lepiej), wyodrębnia charakterystyczne rysy - kształt czoła, linię podbródka, ruch oczu - i tworzy matematyczną mapę tego, czym jest „ty”. Następnie nakłada tę mapę na inne wideo. Twoja twarz na czyjś ciele, twoje oczy na czyjeś ruchy.

Głos to osobny algorytm. Modeluje się go na nagraniach - konferencjach prasowych, filmach, rozmowach telefonicznych. Sieć uczy się intonacji, akcentu, ritmu, nawet przycisków, które robisz między słowami. Wynik? Gdy poprosisz AI „powiedz coś tego nie powiedziałem”, usłyszysz dokładnie siebie. Z tym że to wcale nie ty.

Pięć lat temu ta technologia była zarezerwowana dla specjalistów z najlepszych uniwersytetów i laboratoriów AI. Dziś? Każdy może. Aplikacje mobilne, strony internetowe, darmowe narzędzia open source - wszystko jest dostępne. YouTube zarobi miliony na klipach, gdzie polityk mówi rzeczy, które nigdy nie padły. TikTok będzie pełny zabawy - twojej twarzy śpiewającej operę albo robić salto.

Problem zaczyna się wtedy, gdy zabawa staje się narzędziem. Szantaż. Manipulacja społeczna. Polityczna dezinformacja w skali masowej. Zniszczenie reputacji w ciągu kilku godzin.

Przyjęcie rzeczywistości: zawsze będą wśród nas fałszywe nagrania

Tutaj muszę powiedzieć coś, co brzmi beznadiejnie, ale jest absolutnie konieczne: nigdy nie pozbędziemy się deepfaki’ów. I nie mamy zamiaru.

Po pierwsze: cenzura jest gorsza od choroby. Próby karania każdego deepfake’a na świecie doprowadziłyby do takiego poziomu inwigilacji i kontroli, że oddalibyśmy się w świat dystopii. Po drugie: deepfaki mają legatne zastosowania - w filmie, grach, wirtualnych asystentach, rehabilitacji traumy. Po trzecie: algorytm zawsze będzie gonić rozwiązania techniczne, a ty będziesz musiał wybrać między „ideałem” (żaden deepfake nigdy nie powstanie) a „praktyką” (zmienia się, jak je wykrywamy i weryfikujemy).

Zamiast więc walczyć z technologią, powinniśmy zmienić zasady wiarygodności.

Świat, w którym każde nagranie może być fake, to świat, w którym jedynym wiarygodnym dowodem jest źródło. Nie wideo. Źródło.

To zapamiętaj. To kluczowe zdanie naszych czasów.

Cyfrowe podpisy, łańcuchy zaufania i powrót do źródła

Poważne instytucje już pracują nad rozwiązaniami. Na czele są rozwiązania oparte na kryptografii i łańcuchach veryfikacji.

Wyobraź sobie scenę: prezydent wygłasza ważne oświadczenie. Nagranie pojawia się online. Ale towarzyszy mu cyfrowy certyfikat - dowód kryptograficzny, że nagranie pochodzi z kamery prezydencji, że nie zostało zmienione, że pochodzi z konkretnego czasu i miejsca. Taki „podpis” może być weryfikowany przez każdego. Jeśli deepfake pojawi się na Twitterze bez tego podpisu, albo z podpisem fałszywym, wszyscy wiedzą od razu.

To nie magia - to kombinacja technologii, które już istnieją. Blockchain, szyfrowanie, metadane. Coraz więcej narzędzi „Content Credentials” (np. z Adobe) zaczyna pracować w tym kierunku. Instytucje medialne rozsądne zaczynają je wdrażać.

Ale - i to duże „ale” - wymaga to globalnej współpracy. Mediów, platform, rządów, branży tech. I tutaj zaczyna się polityka.

Gdzie są na tym wszystkim pieniądze i władza

Bo oczywiście, że są. Każda strona tej batalii ma swoje interesy.

Platformy społecznościowe? Ich algorytmy zarabiają na zaangażowaniu. Deepfake mówi, że polityk powiedział coś karygodnego - lepszy zasięg niż nudna rzeczywistość. Usuwają fałsz, gdy zostanie on ujawniony, ale do czasu zarobili. Wiele deepfaki’ów żyje sobie miłe życie bez konieczności ścigania przez platformę.

Rządy? To zależy. Niektóre walczą z dezinformacją, bo ich obywatele na niej tracą. Inne milczą albo - kto wie - może same je produkują.

Branża tech? Podzielona. Część robi deepfaki dla zabawy albo zysku. Część pracuje nad detektywami - narzędziami do wykrywania deepfaki’ów. Każdy ma rachunek do spłacenia, każdy ma model biznesu.

Powiem szczerze: nigdy nie będziemy mieć perfekcyjnego systemu weryfikacji, dopóki nie ustalimy, kto go kontroluje i dlaczego. To kwestia władzy, a nie tylko technologii.

Co ty możesz zrobić - konkretnie, dzisiaj

Nie masz dostępu do blokchaina czy agencji bezpieczeństwa. Ale masz zdrowy rozsądek. I możesz działać.

Po pierwsze: jeśli nagranie gdzieś cię szokuje - szukaj źródła. Gdzie je znalazłeś? Czy pojawił się u kilku wiarygodnych mediów, czy tylko na Redditcie i Instagramie? Czy dana osoba potwierdziła, że to ona? Czasem odpowiedź jest oczywista, zanim zadzwonisz kogoś detektywowi.

Po drugie: media grammary - umiejętność czytania mediów - to teraz umiejętność przetrwania. Nauczanie się, jak powstają nagrania, jak działają algorytmy, gdzie są fałszerze. To nie jest nudny lecz praktyczny gadżet.

Po trzecie: jeśli jesteś osobą publiczną lub pracujesz w biznesie, gdzie twój głos i twarz mają wartość - archiwizuj je bezpiecznie. Weź certyfikat Content Credentials. Publikuj z metadanymi. Bądź z przodu kurwy, a nie z tyłu.

Po czwarte: wszelkie prawo, jakie masz, używaj. Deepfaki pornograficzne, szantażowe, zawsze były nielegalne. Teraz coraz więcej jurysdykcji reguluje je wyraźnie. Jeśli ktoś robi o tobie deepfake, który ci szkodzi - zgłoś to. Nie wszystkie są niezatarte.

Narracja zamiast paniki - dlaczego to się liczy

Wiesz, co mnie niepokoi najbardziej? Nie sama technologia deepfaki’ów. To fakt, że wielu ludzi zaczęło wierzyć, iż nic już nie można zaufać.

„Jeśli nagranie może być fake, to wszystko może być fake”. To logika trochę brzydka i niebezpieczna. Sprawia, że niektórzy przechodzą na drugą skrajność - uwierz wszystko, co potwierdza twoją tożsamość, albo - naucz się być cynikiem wobec każdego dowodu. Obie opcje są stratą.

Rzeczywistość jest bardziej nuansowa. Deepfaki będą. Ale narzędzia do ich śledzenia rozwijają się równie szybko. Źródła będą bardziej ważne niż treść. Weryfikacja będzie wymagać pracy, ale to zawsze była, my po prostu o tym zapominaliśmy.

Musimy nauczyć się nowej narracji: żyjemy w świecie, gdzie technologia może nas oszukiwać, ale gdzie też możemy powiedzieć „czekaj, sprawdzę”. To nie jest świat bez wiary - to świat ostrożnego zaufania. Lepszy od obu skrajności.

Zakończenie: myśl źródłem, nie obrazem

Jeśli wezmę jedno zdanie z całego tekstu, które chciałbym, żeby utknęło ci w głowie, to będzie to:

Świat pełen deepfaki’ów uczy nas coś, co powinniśmy wiedzieli od zawsze - że wiarygodność pochodzi ze źródła, a nie z medium. Nie z tego, jak wygląda nagranie, lecz z tego, skąd pochodzi, kto je stworzył, kto je certyfikuje, jakie ma znaczniki, jaki ma kontekst.

To jest trudniejsze niż po prostu uwierzenie okularowi. Ale jest bardziej prawdziwe.

Deepfaki nie zniknąć. Ale twoja zdolność do sceptycyzmu i procedury - ta się nigdy nie zużywa. Tylko trzeba ją ćwiczyć.