Twój głos już nie należy tylko do ciebie

👁 144 przeczytań

Trzydzieści sekund. Tyle nagrania twojego głosu wystarczy dzisiaj, żeby zbudować model, który powie cokolwiek twoim głosem. Twoje „cześć, mamo” z automatycznej sekretarki, twój komentarz z podcastu, twoja relacja z wakacji na Instagramie - to już nie są niewinne okruchy życia cyfrowego. To materiał źródłowy. Surowiec. I ktoś może go przetworzyć w rzecz, której nigdy nie powiedziałeś, ale która brzmi dokładnie jak ty.

Przez lata mówiliśmy sobie, że „trzeba zobaczyć, żeby uwierzyć”. To zdanie właśnie się zestarzało. Wideo, głos, twarz - filary, na których opierało się nasze zaufanie do rzeczywistości - stały się materiałem plastycznym. I nie chodzi już o efektowne demonstracje z laboratoriów. Chodzi o narzędzia dostępne z przeglądarki, za cenę kawy, bez żadnej wiedzy technicznej.

Chcę ten temat rozłożyć na części. Nie po to, żeby cię przestraszyć - straszenia jest w sieci aż nadto. Chcę pokazać, jakie siły tu grają, kto ma w tym interes i co z tym wszystkim realnie da się zrobić. Bo da się więcej, niż myślisz, i mniej, niż byś chciał.

Trzy technologie, jeden problem

Zacznijmy od uporządkowania, bo pod hasłem „deepfake” mieszamy trzy różne rzeczy, które działają inaczej i inaczej nam zagrażają.

Klonowanie głosu jest dziś najbardziej dojrzałą i najbardziej niedocenianą z tych technologii. Model uczy się barwy, intonacji, rytmu twojej mowy z krótkiej próbki, a potem potrafi wygenerować dowolny tekst. Efekt bywa idealny - a nawet gdy nie jest idealny, telefon zniekształca dźwięk na tyle, że przez słuchawkę różnicy nie wychwycisz. To dlatego oszustwa „na wnuczka” przeszły ewolucję. Kiedyś liczyły na to, że babcia się pomyli. Dziś nie muszą liczyć na pomyłkę - dostarczają jej głos wnuczka w słuchawce.

Podmiana twarzy to nakładanie jednej twarzy na inną w obrazie lub wideo. Tu poszło najgłośniej, bo od tego zaczęła się cała afera - od pornografii z podmienionymi twarzami aktorek i celebrytek. To wciąż największy, najbrudniejszy i najczęściej przemilczany obszar zastosowań. Zdecydowana większość deepfake’ów krążących po sieci to nie sfałszowane przemówienia polityków, tylko przemoc obrazowa wymierzona w konkretne, zwykle kobiece, twarze.

Fałszywy film, czyli w pełni generowane wideo - to najmłodszy z tej trójki, ale rozwija się najszybciej. Jeszcze niedawno generowane klipy zdradzała ich dziwność: sześć palców, twarze rozpływające się w tle, fizyka jak ze snu. Ta dziwność znika w tempie, którego nie nadążamy komentować. To, co dziś jeszcze wygląda „trochę nie tak”, za rok będzie wyglądać bezbłędnie.

Wspólny mianownik tych trzech technologii nie jest techniczny. Jest psychologiczny. Wszystkie trzy atakują ten sam mięsień - nasz odruch wierzenia własnym oczom i uszom. Odruch, który budowaliśmy przez całą historię gatunku i który nagle przestaje być niezawodny.

Kto na tym zarabia, kto płaci rachunek

Żeby zrozumieć, dlaczego to się nie zatrzyma, trzeba spojrzeć na interesy. A one układają się bardzo asymetrycznie.

Po stronie zysku mamy najpierw firmy technologiczne. Klonowanie głosu i generowanie wideo to nie są narzędzia stworzone do oszukiwania - to produkty do dubbingu, do audiobooków, do reklam, do gier, do lektorów, którzy nie muszą już siedzieć w studiu. Rynek jest gigantyczny i legalny. Problem w tym, że ta sama technologia, która pozwala firmie zdubbingować film na dwadzieścia języków, pozwala oszustowi podrobić głos twojego szefa proszącego o pilny przelew. Nie da się mieć jednego bez drugiego. To jedno narzędzie.

Po stronie zysku są też oczywiście przestępcy - i to oni są najbardziej innowacyjną, najszybciej adaptującą się częścią tego rynku. Oszustwo, które kiedyś wymagało aktora i talentu, dziś wymaga subskrypcji. Skala rośnie, bo koszt spadł do zera.

Technologia deepfake nie stworzyła nowych rodzajów zła. Ona po prostu obniżyła cenę starego zła tak drastycznie, że stało się dostępne dla każdego, kto wcześniej nie miał na nie budżetu.

A kto płaci rachunek? Tu też jest asymetria, i to okrutna. Rachunek płacą przede wszystkim ludzie bez władzy. Kobieta, której twarz trafiła do fałszywego nagrania. Emeryt, który usłyszał w słuchawce głos syna. Nastolatka, którą koledzy „rozebrali” aplikacją. Polityk czy celebryta ma prawników, zasięgi i wiarygodność, żeby się bronić - zwykły człowiek nie ma nic poza wstydem i poczuciem, że nikt mu nie uwierzy. Deepfake najmocniej uderza w tych, którzy mają najmniej narzędzi, żeby się obronić.

I jest jeszcze jedna ofiara, mniej widoczna, ale najgroźniejsza w skutkach: samo pojęcie prawdy. Bo kiedy wszystko może być podrobione, to każdy prawdziwy dowód można podważyć. Prawdziwe nagranie kompromitujące polityka? „Deepfake”. Autentyczna relacja świadka? „Wygenerowane”. To się nazywa dywidenda kłamcy - im więcej fałszywych treści krąży, tym łatwiej zaprzeczyć prawdziwym. I to jest, moim zdaniem, najpoważniejsza konsekwencja tej całej rewolucji. Nie to, że uwierzymy w fałsz. To, że przestaniemy wierzyć w cokolwiek.

Dlaczego wykrywanie nie wygra

Naturalny odruch brzmi: skoro AI potrafi tworzyć fałszywki, to niech AI je wykrywa. Zbudujmy detektory. To piękna idea i po części się sprawdza - istnieją narzędzia, które wyłapują artefakty typowe dla generowanych obrazów.

Problem w tym, że to jest wyścig, którego strona wykrywająca strukturalnie nie może wygrać. Każdy detektor uczy generatory, jak być lepszymi. To jest gra w kotka i myszkę, w której myszka jest szybsza, bogatsza i bardziej zmotywowana. Za każdym razem, gdy powstaje skuteczny detektor, staje się on zarazem instrukcją, jak stworzyć fałszywkę, która go oszuka.

Do tego dochodzi problem praktyczny. Nawet gdyby detektor był w 99 procentach skuteczny, to przy miliardach treści krążących codziennie ten jeden procent błędu oznacza miliony fałszywych alarmów i miliony przepuszczonych fałszywek. A w świecie, gdzie ktoś oskarża cię o rozpowszechnianie deepfake’a, którego nie zrobiłeś, dokładność 99 procent to za mało, żeby oczyścić twoje imię.

Dlatego coraz częściej odchodzi się od wykrywania fałszu na rzecz poświadczania prawdy. Zamiast szukać sygnałów, że coś jest fałszywe, próbujemy oznaczać u źródła, że coś jest prawdziwe - kryptograficznymi podpisami wbudowanymi w plik już na poziomie aparatu czy kamery. To odwrócenie logiki. Nie udowadniaj, że nagranie kłamie. Sprawdź, czy nagranie ma wiarygodną metrykę urodzenia.

To obiecujący kierunek, ale ma haczyk: działa tylko wtedy, gdy cały łańcuch - od urządzenia, przez platformy, po nas, odbiorców - zacznie tej metryki wymagać i jej ufać. A do tego jeszcze bardzo, bardzo daleko.

Co realnie możemy zrobić

Przechodzę do sedna, bo obiecałem konkret, nie lament. Odpowiedź działa na trzech poziomach i żaden z nich sam nie wystarczy.

Poziom pierwszy - prawo. Regulacje idą, choć zawsze o krok za technologią. Kierunek jest słuszny: obowiązek oznaczania treści generowanych przez AI, kryminalizacja tworzenia fałszywej pornografii bez zgody, odpowiedzialność platform za szybkie usuwanie takich treści. Prawo nie powstrzyma przestępcy z drugiego końca świata, ale może ustawić standardy dla firm, które te narzędzia budują i udostępniają. Bo to właśnie na poziomie dostawcy narzędzia da się coś zrobić - wymusić znaki wodne, ograniczyć klonowanie głosu bez zgody właściciela, zostawiać ślady. To nie zlikwiduje problemu, ale podnosi koszt.

Poziom drugi - technologia poświadczania. To ten kierunek „metryki urodzenia” dla treści. Standardy oznaczania pochodzenia plików, kryptograficzne podpisy, przezroczysta historia edycji. Jeśli redakcje, platformy i producenci sprzętu wdrożą to na poważnie, to za dekadę brak takiej metryki będzie sam w sobie sygnałem ostrzegawczym. Nie „to jest fałszywe”, tylko „to nie ma potwierdzonego pochodzenia, traktuj ostrożnie”.

Poziom trzeci, dla mnie najważniejszy - my. Nasze nawyki, nasza higiena poznawcza. I tu mam kilka rzeczy, które robię i które radzę robić każdemu.

Ustal z bliskimi hasło. Serio. Jedno słowo, którego nie ma w internecie, znane tylko rodzinie. Jeśli zadzwoni „twój syn” z prośbą o pilny przelew - poproś o hasło. Głos można podrobić, wspólnej tajemnicy nie. To najprostsza i najskuteczniejsza obrona, jaką znam, a kosztuje jedną rozmowę przy obiedzie.

Zwolnij, kiedy coś wywołuje w tobie silną emocję. Dezinformacja i oszustwo żywią się pośpiechem i afektem. Nagranie, które cię wściekło albo przeraziło w trzy sekundy, to najlepszy kandydat na fałszywkę - bo zostało zaprojektowane, żeby cię wściec albo przerazić. Emocja jest nośnikiem. Zanim udostępnisz, odczekaj.

Sprawdzaj źródło, nie treść. Nie pytaj „czy to wygląda prawdziwie”, bo wkrótce wszystko będzie wyglądać prawdziwie. Pytaj „skąd to jest, kto to opublikował, czy potwierdzają to niezależne, wiarygodne miejsca”. Wiarygodność przenosi się z obrazu na kontekst - i to jest zmiana, do której musimy się przyzwyczaić.

Prawda przestaje być domyślna

Największa zmiana, jaka nas czeka, nie jest technologiczna. Jest kulturowa. Przez całe życie działaliśmy w trybie domyślnego zaufania - zakładaliśmy, że to, co widzimy i słyszymy, jest prawdziwe, dopóki coś nie wzbudzi podejrzeń. Wchodzimy w epokę, w której to ustawienie fabryczne trzeba odwrócić. Prawda przestaje być stanem domyślnym. Staje się czymś, co trzeba poświadczyć.

To brzmi ponuro i po części jest. Ale znam z historii pociechę: już raz przez to przeszliśmy. Kiedy pojawił się druk, a potem fotografia, a potem montaż filmowy - za każdym razem najpierw byliśmy naiwni, potem oszukani, a w końcu nauczyliśmy się czytać nowe medium krytycznie. Nikt dziś nie wierzy, że fotografia jest neutralnym oknem na świat. Wiemy o kadrze, o retuszu, o kontekście. Tej samej dojrzałości będziemy musieli się nauczyć wobec wideo i głosu. I się nauczymy - pytanie tylko, ile nas ta lekcja będzie po drodze kosztować.

Nie wierzę w świat, w którym technologia deepfake zostaje

// czytaj dalejAgent, który klika za ciebie. I decyduje bez ciebieMagazynAgent, który klika za ciebie. Czy jesteś gotowy oddać mu klawiaturę?MagazynSzkoła AI, lekcja 4: Wklej umowę, raport albo regulamin - AI przeczyta za ciebie i wskaże haczykiPremium