Badanie przeprowadzone przez Australian National University wykazało, że ludzie są generalnie słabi w identyfikowaniu, które twarze są prawdziwe, a które są generowane przez sztuczną inteligencję (AI). Hiperrealistyczne twarze stworzone przez AI są częściej oceniane jako prawdziwe niż rzeczywiste twarze ludzkie.
W badaniu uczestniczyło 124 dorosłych, którzy mieli za zadanie rozróżnienie między ludzkimi a wygenerowanymi przez AI twarzami oraz zidentyfikowanie cech decydujących o dokonywanych wyborach.
Wcześniejsze badania wykazały, że uczestnicy potrafili rozpoznać twarz AI o kolorze skóry innym niż biały w około 50% przypadków. W najnowszym badaniu grupie 124 dorosłych pokazano mieszankę 100 twarzy AI i 100 prawdziwych białych twarzy, prosząc ich o stwierdzenie, czy są one prawdziwe czy nie.
Okazało się, że twarze stworzone przez AI były błędnie rozpoznawane jako ludzkie w 65.9% przypadków, podczas gdy twarze ludzkie były oceniane jako ludzkie jedynie w 51.1% przypadków.
Współautorka, Dr. Eva Krumhuber, powiedziała: „Sztuczna inteligencja osiągnęła zdumiewający poziom realizmu, a tutaj dochodzimy do wniosku, że czasami może nawet wydawać się bardziej realna niż rzeczywistość – hiperrealizm – dzięki czemu łatwo można nas oszukać, myśląc, że twarz stworzona przez AI jest prawdziwa”.
Uczestnicy badania zostali także zapytani o pewność swojej oceny. W klasycznym przykładzie efektu Dunninga-Krugera, uczestnicy popełniający najwięcej błędów byli najbardziej pewni, że ich oceny są poprawne.
Elizabeth Miller, współautorka badania i doktorantka na Australian National University, powiedziała: „Zaniepokojenie budzi fakt, że osoby, które najczęściej uważały twarze AI za prawdziwe, paradoksalnie były najbardziej pewne, że ich oceny są poprawne”.
Badacze doszli do wniosku, że twarze stworzone przez AI nie tylko są trudne do odróżnienia od ludzkich twarzy, ale posiadają cechy, które sprawiają, że wydają się one bardziej realne. Określili tę cechę twarzy AI jako hiperrealizm.
W badaniu wykorzystano StyleGAN2, generatywną sieć przeciwności (GAN), do generowania twarzy AI. StyleGAN2 został przeszkolony na dużym zbiorze danych zawierającym 69% twarzy białych i 31% twarzy innych ras.
Badacze doszli do wniosku, że nadreprezentacja twarzy białych umożliwiła modelowi generowanie twarzy reprezentujących średnie cechy wszystkich ras w sposób, który sprawia, że wyglądają one bardziej ludzko niż twarze ludzkie.
Badanie zakończyło, że ta skrzywiona reprezentacja w zbiorach danych treningowych stwarza istotne problemy. „Jeśli twarze AI wydają się bardziej realistyczne dla twarzy białych niż dla innych grup, ich użycie wprowadzi zamieszanie między postrzeganiem rasy a postrzeganiem bycia “ludzkim”” – zaznaczono w badaniu.
Jeśli pomysł na twarz ludzką dla modelu AI to sztucznie stworzony przeciętny wygląd cech twarzy białych, jak miałby odróżnić rzeczywistego człowieka różnej etniczności od sztucznej twarzy AI, gdyby go o to poprosić?
Współautorka, Dr. Amy Dawel, powiedziała: „Jeśli białe twarze AI są konsekwentnie postrzegane jako bardziej realistyczne, ta technologia może mieć poważne konsekwencje dla osób o kolorze skóry, w ostatecznym rozrachunku wzmacniając uprzedzenia rasowe online”.
Jakie cechy prowadziły do popełniania błędów? Istnieją pewne cechy twarzy AI, które sprawiają, że są one przez nas postrzegane jako bardziej ludzkie niż rzeczywiste twarze. W drugim eksperymencie, 610 uczestników oceniało twarze AI i ludzkie pod kątem 14 atrybutów, takich jak atrakcyjność, kontakt wzrokowy i ekspresja.
Połączenie tych danych z danymi pierwszego eksperymentu pozwoliło badaczom zidentyfikować, co sprawiało, że ludzie byli bardziej skłonni uznać twarz za wygenerowaną przez AI lub prawdziwą.
Odkryli, że hiperrealizm twarzy AI wynikał z tego, że są one „znacznie bardziej przeciętne (mniej charakterystyczne), znajome i atrakcyjne oraz mniej zapadające w pamięć niż twarze ludzkie”.
Fakt, że tak łatwo akceptujemy, że twarz AI jest realna, pokazuje, jak ważne jest posiadanie narzędzi do wykrywania fałszywek stworzonych przez AI.
Badacze użyli danych na temat cech postrzeganych przez ludzi i tego, jak były one poprawnie i niepoprawnie wykorzystywane podczas błędnej identyfikacji twarzy AI, aby stworzyć model uczenia maszynowego do rozpoznawania twarzy AI. Model ten był w stanie dokładnie klasyfikować rodzaj twarzy z dokładnością 94%.
Nie jest prawdopodobne, abyśmy sprawdzali twarz przez narzędzie do sprawdzania twarzy stworzonej przez AI za każdym razem, gdy ją zobaczymy online. A generatory twarzy będą tylko coraz lepsze w omijaniu detektorów fałszywek.
Dr. Dawel podsumowała, jaka jest nasza najlepsza opcja w obliczu tego zjawiska: „Edukowanie ludzi na temat postrzeganego realizmu twarzy AI mogłoby pomóc w wywołaniu odpowiedniego sceptycyzmu wobec obrazów, które widzą online”.
Jeśli przypomnimy sobie, że jesteśmy naprawdę źli w wykrywaniu fałszywek, może będziemy mniej podatni na ich oszustwa.
