Muse od Meta tworzy szczegółowe profile twoich bliskich bez twojej wiedzy

👁 115 przeczytań

Niezależny badacz bezpieczeństwa AI Karan Joshi wydobył wewnętrzne instrukcje i pliki systemowe asystenta Muse od Meta, odkrywając, że aplikacja co godzinę tworzy szczegółowe profile każdej osoby z otoczenia użytkownika - od rodziny i partnerów, przez przyjaciół i współpracowników, aż po osoby, które użytkownik tylko obserwuje w sieci. Joshi podzielił się swoimi ustaleniami z redakcją Wired.

Jak Joshi wydobył dane, których Meta nie ukrywała

Technika, którą zastosował Joshi, jest równie prosta co wymowna: zamiast hakować cokolwiek, po prostu poprosił Muse przez standardowy interfejs czatu, żeby skopiował i udostępnił własne pliki. Aplikacja się zastosowała. Meta tłumaczy, że pliki były celowo dostępne - firma powołuje się na transparentność jako intencję. To zdumiewający argument, biorąc pod uwagę, że ujawniona zawartość dotyczy sposobu, w jaki system organizuje prywatne dane milionów użytkowników.

Muse zdążył już stać się viralowym hitem - miliony ludzi pobrały aplikację, a część z nich połączyła ją z kontami bankowymi, wiadomościami lub danymi zdrowotnymi i oddała jej obsługę codziennych zadań. Skala adopcji sprawia, że to, co Joshi znalazł w środku, przestaje być akademicką ciekawostką.

Co dokładnie Muse zbiera i jak to organizuje

Wydobyte instrukcje opisują proces, który działa godzina po godzinie. Muse ma tworzyć osobną stronę dla każdej osoby w życiu użytkownika. Dokumentacja mówi, że strona może zaczynać się jako pusta i być uzupełniana z czasem. W pełni rozbudowany profil może zawierać sekcje: Fakty, Historia, Relacja, Wspólne tematy, Otwarte wątki oraz Wzmacnianie.

Konkretne przykłady z instrukcji brzmią tak: system może odnotować ,,przeprowadzkę do nowego mieszkania, wspólny cel oszczędnościowy, wycieczkę z marca, kłótnię, która została rozwiązana, czy kamień milowy z zeszłego tygodnia.” Do dat wartych zapamiętania zalicza urodziny i rocznice. Sekcja Wzmacnianie ma sugerować użytkownikowi, jak dbać o relację - pretekst do zadzwonienia, coś, co dana osoba powiedziała i do czego warto wrócić, sposób na bycie przy niej, który naprawdę ma znaczenie.

Instrukcje zastrzegają, że model powinien opierać się wyłącznie na dostępnych dowodach i że wymyślone szczegóły są gorsze niż pusta strona. To oznacza, że Muse buduje te profile na podstawie rzeczy, które użytkownik mu powiada - bezpośrednio lub przez dane, do których dostęp mu przyznał.

,,To, co mi się wydawało - na podstawie wszystkich tych promptów, danych o umiejętnościach systemu i rzeczy, które Meta karmi Muse - to że chcą rozumieć twoje relacje z prawdziwymi ludźmi. Próbują poznać cię jak przyjaciel, co jest szczerze mówiąc dość niepokojące.”

- Karan Joshi, niezależny badacz bezpieczeństwa AI

Kontekst: Meta i dane społeczne to połączenie z historią

Samo śledzenie kontekstu społecznego przez chatboty nie jest nowością - ludzie pytają ChatGPT o porady dotyczące relacji od lat. Różnica polega na tym, że Muse nie tylko odpowiada na pytania, ale aktywnie i regularnie kompiluje ustrukturyzowane profile, działając w tle bez wyraźnego impulsu od użytkownika.

A podmiotem, który to robi, jest Meta - firma, której cały model biznesowy od dwóch dekad opiera się na rozumieniu relacji społecznych lepiej niż sami zainteresowani. Facebook wiedział o twoich znajomościach, zanim Instagram wiedział o twoich zainteresowaniach, zanim WhatsApp poznał twoje nawyki komunikacyjne. Muse to kolejna warstwa tej samej architektury wiedzy o użytkowniku - tyle że tym razem dane płyną z banku, telefonu i wiadomości prywatnych, nie tylko z tego, co ktoś zdecydował się opublikować.

To rozróżnienie jest kluczowe. Kiedy użytkownik wpisuje w Google „co kupić na urodziny mamie”, oddaje jedną daną. Kiedy Muse ma dostęp do wiadomości i co godzinę aktualizuje profil mamy - z jej datą urodzin, informacją o niedawnej operacji, zwyczajowym gatunkiem kawy i „otwartym wątkiem” dotyczącym nierozwiązanego sporu rodzinnego - skala oddanej wiedzy jest nieporównywalna.

Co to zmienia i dlaczego polskiego użytkownika to dotyczy

Muse jeszcze nie trafił oficjalnie na wszystkie rynki, ale aplikacje Meta mają nawyk ekspansji, która wyprzedza regulacje. RODO teoretycznie chroni europejskich użytkowników przed przetwarzaniem tego rodzaju danych bez wyraźnej podstawy prawnej, ale egzekwowanie tego prawa wobec globalnego gracza to proces liczony w latach, nie tygodniach.

Głębszy problem jest jednak inny: użytkownik, który instaluje Muse i podłącza do niego swoje dane, de facto wyraża zgodę na przetwarzanie - ale robi to bez wiedzy o tym, że system będzie równolegle profilować jego matkę, brata, szefa i kolegę z pracy. Żadna z tych osób nie pobrała Muse. Żadna nie wyraziła zgody. A mimo to ich daty urodzin, kłótnie i nawyki mogą lądować w ustrukturyzowanej bazie danych na serwerach Meta.

Joshi ujął to zwięźle: dajemy systemom AI znacznie więcej informacji o sobie, niż zdajemy sobie sprawę - i co ważniejsze, o innych ludziach, którzy nie mają o tym pojęcia.

To pytanie o granicę między pomocnym asystentem a narzędziem nadzoru nad relacjami społecznymi. Na razie Meta ma na nie jedną, bardzo konkretną odpowiedź - i brzmi ona: godzina po godzinie.