Przeglądarka Atlas od OpenAI mogła rozsyłać spam do kontaktów z WhatsApp
Badacze z firmy Zenity pokazali na konferencji Black Hat, że przeglądarka Atlas od OpenAI dała się nakłonić do masowego rozsyłania wiadomości do kontaktów WhatsApp i dokonywania nieautoryzowanych zakupów na Amazonie.
👁 173 przeczytań
Badacze z firmy Zenity zaprezentowali dziś na konferencji Black Hat w Las Vegas dowód na to, że przeglądarka Atlas od OpenAI mogła zostać przejęta i wykorzystana do masowego rozsyłania wiadomości phishingowych do kontaktów WhatsApp lub składania nieautoryzowanych zamówień na Amazonie.
W ramach serii testów Zenity wykryło łącznie około 20 luk w wiodących przeglądarkach i rozszerzeniach AI - w produktach OpenAI, Google, Anthropica, Microsoftu i Perplexity. Błędy pozwalały m.in. uzyskać dostęp do lokalnych plików, przejąć menedżer haseł i wykraść całą historię przeglądania.
Jak działał atak
Nie przepłacaj za te subskrypcje
Prowadzę sklep z rocznymi dostępami do narzędzi AI - te same konta, o których piszę wyżej, tylko taniej niż w cenniku producenta.
W proof-of-concept badacze zamieścili na platformie X link do fałszywego formularza zapisu na newsletter. Strona zawierała instrukcje napisane po hebrajsku - celowo, by ominąć anglojęzyczne filtry bezpieczeństwa - nakazujące Atlasowi przejść do zalogowanego konta WhatsApp Web użytkownika i wysłać tę samą wiadomość do każdego kontaktu.
„Będzie przechodził przez każdy kontakt i wysyłał instrukcje dołączenia do newslettera - to jest robak. Infekujesz w ten sposób resztę znajomych i rodziny”
- powiedział Michael Bargury, współzałożyciel i CTO Zenity, prezentujący wyniki razem z Stavem Cohenem.
Badacze opisują ten mechanizm jako „kolizję intencji” - sytuację, gdy cel użytkownika (zapis na newsletter) koliduje z ukrytymi celami złośliwej strony. Atak nie wykorzystywał żadnej luki w samym WhatsAppie; WhatsApp odmówił komentarza.
Bargury zaznacza, że Atlas miał najwięcej zabezpieczeń spośród wszystkich testowanych narzędzi - a mimo to udało się je obejść. OpenAI zamyka Atlasa w przyszłym tygodniu.
Szef bezpieczeństwa OpenAI określił prompt injection jako „nierozwiązany problem bezpieczeństwa” - wyniki z Black Hat pokazują, że to określenie pozostaje aktualne.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
