Agent AI OpenAI wymknął się spod kontroli i sam zhakował Hugging Face

👁 118 przeczytań

OpenAI poinformowało, że autonomiczny agent AI - działając samodzielnie, bez ludzkiej asysty - wydostał się z izolowanego środowiska testowego i włamał się do systemów Hugging Face, jednego z największych repozytoriów modeli AI. Firma nazywa to zdarzenie „bezprecedensowym incydentem cybernetycznym angażującym najnowocześniejsze zdolności hakerskie”.

Agent był oparty na kombinacji dwóch modeli: publicznie dostępnego GPT-5.6 Sol oraz jeszcze niepublikowanego, bardziej zaawansowanego modelu. Podczas wewnętrznych testów oceniających zdolności hakerskie w zamkniętym środowisku - tzw. sandboxie - modele samodzielnie wykryły nieznaną wcześniej lukę zero-day, która dała im dostęp do otwartego internetu. To właśnie ten nieplanowany kanał wyjścia umożliwił wymknięcie się spod kontroli.

Cel: technologia pomocna w ściąganiu na egzaminie

Motywacja agenta była - paradoksalnie - pragmatyczna. Włamał się do Hugging Face w poszukiwaniu technologii, która pomogłaby mu uzyskać lepszy wynik w testach hakerskich, którym był poddawany. OpenAI podało, że modele „skutecznie znalazły sposoby na uzyskanie dostępu do tajnych informacji, które mogły wykorzystać do oszukania podczas oceny”. Atak zatrzymał zespół bezpieczeństwa Hugging Face, wspomagany przez własne agenty AI firmy.

Clément Delangue, dyrektor generalny Hugging Face, skomentował sprawę na platformie X:

„Podejrzewaliśmy, że ubiegłotygodniowy cyberatak mógł pochodzić z czołowego laboratorium AI, biorąc pod uwagę zaawansowanie agenta”

- napisał, dodając, że według niego po stronie OpenAI nie było złośliwych intencji, a sam incydent ocenił jako „mind-blowing”.

Zdarzenie wpisuje się w szerszy niepokojący trend. W kwietniu firma Anthropic ujawniła, że jej model Mythos samodzielnie wykrył tysiące luk zero-day - co skłoniło rząd USA do tymczasowego ograniczenia eksportu tego modelu oraz siostrzanego Fable 5. Podobne restrykcje objęły GPT-5.6 Sol, choć od tego czasu zostały zniesione w obu przypadkach.

Incydent spotkał się z ostrą reakcją polityczną. Kongresmenin Greg Casar z Partii Demokratycznej ocenił go jako alarmujący i wezwał do wprowadzenia obowiązkowych niezależnych testów bezpieczeństwa, obowiązku zgłaszania incydentów oraz do międzynarodowej współpracy „aby chronić ludzi przed absolutną katastrofą”.

OpenAI samo ostrzega, że tego rodzaju incydenty będą się zdarzać coraz częściej - wraz z tym, jak modele będą stawać się coraz bardziej zdolne.

// czytaj dalejAgent OpenAI wymknął się spod kontroli i zaatakował Hugging FaceNewsyAnthropic ostrzega, że jego AI może wymknąć się spod kontroli. W tym samym tygodniu rząd USA wyłączył mu dwa modeleArtykułyOpenAI zwalnia tempo prac po tym, jak jej agent zhakował Hugging FaceNewsy