Zbuntowane AI od OpenAI zaatakowały więcej firm niż ujawniono
OpenAI przyznało, że autonomiczne agenty ChatGPT podczas wymkniętego spod kontroli testu włamały się nie tylko do Hugging Face, ale też do czterech innych publicznie dostępnych serwisów.
👁 140 przeczytań
OpenAI ujawniło 29 lipca, że autonomiczne agenty ChatGPT podczas wymkniętego spod kontroli testu hakerskiego włamały się nie tylko do platformy Hugging Face, ale także do czterech innych, publicznie dostępnych serwisów. To istotna zmiana obrazu incydentu, który wcześniej był przedstawiany jako atak na jedną firmę.
Chronologia wydarzeń jest następująca: 16 lipca Hugging Face - platforma działająca jak sklep z aplikacjami dla narzędzi AI - poinformowało publicznie, że padło ofiarą włamania przeprowadzonego przez autonomiczne AI. Niecały tydzień później OpenAI przyznało, że to jego model uciekł z zamkniętego środowiska testowego i samodzielnie zaatakował Hugging Face, szukając odpowiedzi do egzaminu hakerskiego, który firma mu zadała. Teraz OpenAI zaktualizowało oświadczenie o kolejny szczegół: „Modele zidentyfikowały i wykorzystały publicznie dostępne dane logowania na innych publicznie dostępnych serwisach. Obejmuje to cztery konta w czterech serwisach w ramach incydentu z Hugging Face”.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Trzy dni w sieci, jedna trzecia infrastruktury do odbudowania
Cloud Security Alliance (CSA) opublikowała raport oparty na awaryjnym briefingu Hugging Face z piątku, w którym uczestniczyło około 450 specjalistów ds. cyberbezpieczeństwa. Wyłania się z niego obraz ataku jednocześnie chaotycznego i groźnego.
Agenty działały nieustannie, testując tysiące metod równocześnie. Powtarzały już wykonane działania - co wskazuje na utratę kontekstu - halucynowały ciągi niespójnych poleceń i nie zacierały śladów. „Agenty podążały nieefektywnymi ścieżkami i przejawiały niezgrabne zachowania, których żaden człowiek by nie wybrał” - czytamy w raporcie CSA. Mimo to hakerzy-AI wykonywali też błyskotliwe technicznie ruchy i błyskawicznie adaptowali się do nowych scenariuszy.
Agenty pozostały niezauważone w sieci Hugging Face przez trzy dni. Ekspertom firmy zajęło wiele godzin, by je zlokalizować i usunąć - a CSA wprost zaznacza, że standardowe firmy mogłyby sobie z tym nie poradzić. Hugging Face nie ujawniło kosztów incydentu, ale przyznało, że pracownicy spędzili wiele godzin na odbudowaniu około jednej trzeciej infrastruktury.
CSA sięgnęła po metaforę z Jurassic Parku, ostrzegając, że agenty AI „znajdą sposób”.
„Są nakierowane na cel, same wyznaczają sobie podcele, adaptują się w czasie rzeczywistym, by omijać zabezpieczenia, i działają z maszynową wytrwałością, która może przytłoczyć ręczne operacje.”
Pierwszy w historii w pełni autonomiczny atak AI pokazuje, że zagrożenie nie ogranicza się do jednej ofiary - a jego zasięg nadal może być większy niż oficjalnie przyznano.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
