Asystent AI Mety ujawniał prywatne dane użytkowników - badacze dotarli do 6800 linków

Ten news ukazał się 9 godzin po komunikacie źródła.

👁 121 przeczytań

Badacze firmy Claroc wykazali, że asystent AI Muse od Mety przez funkcję udostępniania ujawniał prywatne rozmowy użytkowników - dotarli do stron z ponad 6800 wygenerowanych linków. O sprawie poinformował Ars Technica, a opisał ją także serwis Futurism 20 października.

Jedno zapytanie zamiast żmudnego włamania

Mechanizm, który opisali badacze cyberbezpieczeństwa z firmy Claroc, był banalnie prosty. Gdy użytkownik asystenta Muse chciał komuś przesłać na przykład zapis swojej rozmowy z modelem, narzędzie generowało dla takiego udostępnienia adres internetowy. W tym adresie znajdował się wygenerowany przez AI tytuł rozmowy oraz losowy ciąg znaków.

Problem polegał na tym, co działo się potem. Po otwarciu linku pełny adres trafiał do zbioru danych o odwiedzonych adresach - coś w rodzaju książki telefonicznej stron internetowych. Badacze mogli następnie przeszukać ten zbiór pod kątem innych adresów udostępnień z Muse i w ten sposób trafiali na całkiem obce, niepowiązane ze sobą publiczne rozmowy.

Jak podają badacze cytowani przez Ars Technica, spodziewali się, że zebranie takich danych będzie wymagało realnego wysiłku. W praktyce wystarczyło jedno zapytanie. Łącznie udało się dotrzeć do stron z ponad 6800 linków wygenerowanych przez Muse.

Co było w ujawnionych rozmowach

Zawartość czatów, do których dotarli badacze, to nie były niewinne pytania o przepis na obiad. Według relacji Ars Technica wśród ujawnionych treści znalazły się między innymi:

• dokumenty dotyczące przychodów firm,
• wnioski kredytowe,
• szczegóły transakcji bankowych,
• informacje o dochodach,
• kalendarz urlopowy z miejsca pracy.

To dane, które w rękach osoby postronnej mogą posłużyć do socjotechniki, podszywania się albo zwykłego szantażu. Meta poinformowała Ars Technica, że wyłączyła funkcję, która umożliwiała ten mechanizm. W materiale źródłowym nie podano, ilu użytkowników faktycznie ucierpiało ani czy ktoś poza badaczami wykorzystał lukę.

Deklaracje Zuckerberga i nota społeczności

Kontekst jest tym bardziej niezręczny, że Meta wypuszczała Muse w pośpiechu, a prezes firmy Mark Zuckerberg zapewniał w mediach społecznościowych, że asystent został zbudowany od podstaw z myślą o prywatności i bezpieczeństwie. Jego wpis na platformie X szybko doczekał się noty społeczności prostującej te deklaracje.

To nie pierwsze zastrzeżenie wobec Muse. Wcześniej w tym miesiącu ujawniono, że asystent prowadził szczegółowe akta na temat znajomych i rodziny użytkowników - zgodnie z wewnętrzną instrukcją, by utrzymywać stronę dla każdej osoby w życiu użytkownika. Futurism ocenia, że przy takim starcie to zapewne dopiero początek dłuższej listy wpadek.

Dlaczego to ważne dla użytkowników w Polsce

Mechanizm, który zawiódł w Muse, nie jest specyfiką jednego produktu. Funkcja udostępniania rozmowy linkiem występuje w wielu popularnych asystentach AI, z których korzystają także użytkownicy nad Wisłą. Wklejenie do czatu umowy, wyciągu z konta, wniosku kredytowego czy danych pracowników oznacza, że te informacje opuszczają urządzenie - a to, co stanie się z nimi dalej, zależy od architektury usługi, a nie od dobrych chęci użytkownika.

Jeśli do takiej rozmowy trafiają dane osobowe klientów lub współpracowników, sprawa przestaje być prywatnym kłopotem. Administrator danych odpowiada za to, komu je powierza, a wyciek może oznaczać konieczność zgłoszenia naruszenia do Prezesa Urzędu Ochrony Danych Osobowych i poinformowania osób, których dane wyciekły. Dla firm korzystających z asystentów AI w codziennej pracy to realne ryzyko prawne, nie teoretyczne.

Praktyczny wniosek dla polskiego użytkownika jest prosty: traktuj link udostępniający rozmowę z AI jak publiczny adres w internecie, a nie jak prywatną wiadomość. Warto też okresowo sprawdzać, jakie udostępnienia zostały wcześniej wygenerowane i czy nadal są aktywne.

Co jeszcze nie jest jasne

Z materiału źródłowego nie wynika, czy Meta zamierza poinformować osoby, których rozmowy były dostępne, ani czy planuje przywrócenie funkcji udostępniania w zmienionej formie. Nie podano również, w jakich krajach dostępny jest asystent Muse, ani czy sprawa trafiła do jakiegokolwiek organu nadzorczego. Poza oświadczeniem o wyłączeniu funkcji szerszej odpowiedzi firmy w materiale nie przytoczono.

Historia Muse pokazuje schemat, który powtarza się przy kolejnych premierach narzędzi AI: najpierw szybkie wypuszczenie produktu i marketingowe zapewnienia o bezpieczeństwie, potem zewnętrzni badacze znajdujący lukę, której wykorzystanie zajmuje minuty. Wcześniejsze doniesienie o aktach na znajomych i rodzinę użytkowników sugeruje, że problem nie sprowadza się do jednego źle zaprojektowanego linku, tylko do samego podejścia do danych.