Odpór wobec wszechobecnej inwigilacji i ukierunkowanego deepfakingu już się rozpoczął, ale regulacje mogą nie nadążać za postępami w dziedzinie sztucznej inteligencji.
W 2024 roku zwiększone przyjęcie systemów biometrycznego nadzoru, takich jak wykorzystywanie sztucznej inteligencji do rozpoznawania twarzy w miejscach publicznych i dostępu do usług rządowych, pobudzi kradzieże tożsamości biometrycznych oraz innowacje antyinwigilacyjne. Osoby dążące do kradzieży tożsamości biometrycznych w celu popełnienia oszustw lub uzyskania dostępu do nieautoryzowanych danych będą wspierane przez narzędzia generatywne sztucznej inteligencji i obfitość danych dotyczących twarzy i głosu dostępnych online.
Już teraz klonowane głosy są używane do oszustw. Weźmy na przykład Jennifer DeStefano, mamę z Arizony, która usłyszała przerażony głos swojej córki krzyczącej „Mamo, ci źli ludzie mnie mają!” po otrzymaniu połączenia z nieznanego numeru. Oszust żądał pieniędzy. DeStefano ostatecznie mogła potwierdzić, że jej córka jest bezpieczna. Ten żart jest preludium do bardziej zaawansowanych oszustw biometrycznych, które będą wykorzystywać obrazy i dźwięki naszych bliskich, aby zmusić nas do wykonywania poleceń tych, którzy wdrożą te narzędzia.
W 2024 roku niektóre rządy prawdopodobnie przyjmą biometryczne naśladowanie w celu wsparcia tortur psychologicznych. W przeszłości osobie zainteresowanej może być przekazywana fałszywa informacja, z małą ilością dowodów potwierdzających te twierdzenia, poza słowami przesłuchującego. Dziś osoba przesłuchiwana może zostać aresztowana ze względu na błędne dopasowanie twarzy w systemie rozpoznawania twarzy. Mężczyźni o ciemniejszej karnacji w Stanach Zjednoczonych, w tym Robert Williams, Michael Oliver, Nijeer Parks i Randal Reid, zostali niesłusznie aresztowani z powodu błędnej identyfikacji twarzy, zatrzymani i uwięzieni za przestępstwa, których nie popełnili. Są to jednostki, w tym osoby starsze, osoby o kolorze skóry innym niż biały i osoby niezgodne z płcią, które są bardziej narażone na błędną identyfikację twarzy.
Narzędzia generatywne sztucznej inteligencji dają również agencjom wywiadu możliwość tworzenia fałszywych dowodów, takich jak wideo rzekomego wspólnika przyznającego się do przestępstwa. Może być równie przerażające to, że możliwość tworzenia cyfrowych sobowtórów nie będzie ograniczona do podmiotów z dużymi budżetami. Dostępność otwartych systemów generatywnych sztucznej inteligencji, które mogą produkować ludzkie głosy i fałszywe wideo, zwiększy krążenie revenge porn, materiałów z nadużyciami seksualnymi dzieci i innych treści na dark webie.
Do 2024 roku będziemy mieli coraz więcej społeczności i osób „ekskodowanych” – tych, których szanse życiowe zostały negatywnie zmienione przez systemy sztucznej inteligencji. W Liga Sprawiedliwości Algorytmicznej otrzymaliśmy setki zgłoszeń naruszeń praw biometrycznych. W odpowiedzi będziemy świadkami wzrostu ludzi bez twarzy, tych, którzy zobowiązali się ukrywać swoje biometryczne tożsamości na oczach wszystkich.
Ponieważ prawa biometryczne będą różnić się na całym świecie, wybory mody będą odzwierciedlać regionalne reżimy biometryczne. Nakrycia na twarz, takie jak te używane z powodów religijnych lub maski medyczne chroniące przed wirusami, będą przyjęte zarówno jako wyraz mody, jak i odzież antyinwigilacyjna tam, gdzie jest to dozwolone. W 2019 roku, gdy protestujący zaczęli niszczyć sprzęt do inwigilacji, ukrywając swoje oblicze, jeden z liderów rządu Hongkongu zakazał noszenia masek na twarz.
W 2024 roku zaczniemy obserwować podział między masową inwigilacją a obszarami wolnej twarzy, miejscami, gdzie obowiązują prawa, takie jak przepis w proponowanej Ustawie AI UE, który zakazuje używania żywych biometryków w miejscach publicznych. W takich miejscach moda antyinwigilacyjna będzie kwitła. Przecież rozpoznawanie twarzy można stosować retroaktywnie na strumieniach wideo. Rodzice będą walczyć o prawo dzieci do bycia „biometrycznie naiwnymi”, czyli nieposiadania swoich biometrycznych danych, takich jak odcisk twarzy, odcisk głosu czy wzór tęczówki skanowanych i przechowywanych przez agencje rządowe, szkoły czy instytucje religijne. Nowe firmy oferować będą soczewki, które zniekształcają zdolność aparatów do łatwego przechwytywania informacji biometrycznych z oka, a okulary będą dostarczane z protezami, które zmieniają kształt nosa i policzków. Drukarki 3D będą używane do tworzenia protez twarzy w domu, chociaż w zależności od tego, gdzie się znajdziesz na świecie, może być to nielegalne.
W świecie, gdzie twarz jest ostatnią przestrzenią prywatności, spojrzenie na niezmienioną twarz drugiej osoby będzie rzadką intymnością.
