Czy Twoje okulary Ray-Ban będą rozpoznawać twarze na kilometr? Meta już to testowała

👁 131 przeczytań

Wyobraź sobie firmę, której prezesem jest były szef pionu FBI od baz biometrycznych, w której zarządzie zasiada eksszef CIA od nauki i technologii, a 80 procent przychodów pochodzi od rządu. Firma ta zbudowała dla amerykańskich sił specjalnych system rozpoznający twarz z odległości kilometra. A teraz - jak ustalił WIRED - jej oprogramowanie trafiło do testowej wersji aplikacji Meta AI. Tej samej, która napędza okulary Ray-Ban i Oakley, które miliony ludzi noszą na nosie.

To nie jest scenariusz dystopijnego serialu. To licencja, do której dotarli dziennikarze, wystawiona przez Rank One Computing z Denver. Dokument upoważnia Metę do użycia algorytmu rozpoznawania twarzy razem z funkcją wykrywania żywotności - mechanizmem sprawdzającym, czy kamera widzi prawdziwego człowieka, a nie zdjęcie albo maskę. Pojemność? Do 10 milionów wzorców twarzy. Licencja, według ustaleń, wciąż jest aktywna.

Kto sprzedaje te algorytmy

Rank One to nie jakiś startup z garażu. Algorytmy tej firmy kupił U.S. Marshals Service, żeby potwierdzać tożsamość więźniów podczas transportu bez pobierania odcisków palców. Kupił je też pion śledczy Marynarki Wojennej, sięgając po narzędzie do analizy wideo o nazwie ROC Watch. Komendy policji w całych Stanach używają tych algorytmów wbudowanych w sprzęt od innych dostawców. A dla dowództwa operacji specjalnych Rank One stworzyło rozpoznawanie twarzy dalekiego zasięgu - to ten kilometr, o którym pisałem wyżej.

Firmę założyli w 2015 roku inżynierowie, którzy wcześniej budowali systemy rozpoznawania twarzy w instytucie badawczym Noblis, oceniając algorytmy między innymi dla rządowej agencji wywiadowczej. W lutym Rank One weszło na Nasdaq. Innymi słowy: to jest twardy, państwowy biznes inwigilacyjny. I właśnie ten biznes Meta przymierzała do urządzenia konsumenckiego, które ma trafić pod strzechy.

Granica, która już prawie nie istnieje

I to jest dla mnie sedno całej sprawy. Bo nie chodzi tylko o to, że Meta testowała rozpoznawanie twarzy - to akurat dało się przewidzieć. Chodzi o to, jak cienka zrobiła się linia między technologią sprzedawaną wojsku i policji a gadżetem, który kupujesz w sklepie. Coraz częściej obsługuje je ta sama firma. I te same algorytmy. Narzędzie, którym U.S. Marshals identyfikuje więźniów, i narzędzie, które miałoby podpowiadać Ci imię osoby przy stoliku obok w kawiarni - to potencjalnie ten sam silnik.

Co więcej, kod przejrzany przez dziennikarzy pokazał, że pozostałości integracji z Rank One - procedury wczytujące licencję i inicjalizujące oprogramowanie - zostały w wersji aplikacji Meta AI, która w tym miesiącu trafiła do milionów konsumentów. Uśpione, owszem. Nieaktywne dla użytkowników, owszem. Ale obecne, obok własnego systemu rozpoznawania twarzy Mety.

NameTag, czyli déjà vu

To zresztą nie pierwszy raz. 4 czerwca WIRED ujawnił, że Meta po cichu wbudowała w aplikację Meta AI nieujawniony system rozpoznawania twarzy o wewnętrznej nazwie NameTag - aplikację pobraną na ponad 50 milionów telefonów. System był uśpiony i niedostępny dla użytkowników. Dzień później, 5 czerwca, Meta skasowała z aplikacji wszystkie systemy rozpoznawania twarzy powiązane z okularami. Żaden, jak zapewnia firma, nigdy nie był aktywny dla użytkowników.

Tylko że ten ciąg zdarzeń układa się w niewygodny wzorzec: buduj po cichu, testuj po cichu, kasuj dopiero gdy ktoś to wyciągnie na światło dzienne. Zapytany o współpracę z Rank One, Meta nie odpowiedział praktycznie na nic. Nie chciał powiedzieć, dlaczego licencjonował oprogramowanie, kiedy zaczęła się ta relacja ani czy wciąż trwa. Rank One odmówiło komentarza w ogóle.

Milczenie samo w sobie jest komunikatem. Bo gdyby chodziło o niewinny eksperyment, najprostszą rzeczą byłoby to wytłumaczyć. Zamiast tego dostajemy ścianę.

Patrzę na to i widzę dwie rzeczy. Po pierwsze - technicznie nic złego się jeszcze nie wydarzyło. Funkcja nie działała, dane twarzy nie były skanowane na ulicy, nikt nie został wyśledzony przez czyjeś okulary. Po drugie - i ważniejsze - mamy dowód, jaką technologię Meta poważnie rozważa do urządzenia masowego. Bo licencja na 10 milionów wzorców twarzy od firmy robiącej rozpoznawanie z kilometra to nie jest zabawa w piaskownicy. To deklaracja kierunku.

Inteligentne okulary sprzedaje się jako wygodę: zrób zdjęcie bez wyciągania telefonu, zapytaj asystenta o przepis, dostań tłumaczenie napisów na żywo. Ale ten sam sprzęt z aktywnym rozpoznawaniem twarzy zmienia każdą osobę w polu widzenia w wynik wyszukiwania. I dlatego pytanie z tytułu nie jest paranoją. Meta już raz po cichu zbudowała taki system, raz go skasowała pod presją, a teraz okazuje się, że flirtowała też z dostawcą Pentagonu. Trzy razy to już nie przypadek - to plan, który czeka na lepszy moment.

// czytaj dalejDuplexSpeechBench-IFEval: jak testować głosowych asystentów AI w czasie rzeczywistymNewsyModele ASR rozpoznają benchmarki po dźwięku i piszą to, czego nie słysząNewsyOkulary Meta AI coraz trudniejsze do wykrycia - rosną obawy o nagrywanie bez zgodyNewsy