Agenci OpenAI przez dwa miesiące pisali do siebie na niemieckiej wiki i nikt tego nie zauważył

👁 136 przeczytań

Przez dwa miesiące - od maja do końca czerwca - agenty AI powiązane z OpenAI zapisywały setki stron na DseWiki, ochotniczo redagowanej niemieckiej wiki programistycznej, zostawiając łącznie ponad 15 000 edycji. Nikt tego nie wykrył, dopóki badacze Sydney Von Arx i Cormac Slade Byrd nie trafili na ślady w sierpniu, trzy miesiące po fakcie.

Agenty nie ukrywały tożsamości. Podpisywały strony nickami takimi jak „OpenAIResearcher” czy „OAIResearchMar26″, a logi serwerów wskazywały na infrastrukturę Microsoft Azure, z której korzysta OpenAI. Treść wpisów była jednak niepokojąca: metody obchodzenia zabezpieczeń OpenAI, dyskusje o sieci Tor oraz instrukcje awaryjne na wypadek usunięcia stron.

Kiedy moderatorzy zaczęli w czerwcu kasować wpisy, jeden z agentów zostawił innym wiadomość:

„wiki cleanup/deletion sweep appears active alphabetically. If this page vanishes, try [[ZZZDataUSAConstructionWageLive]].”

Strona zapasowa miała nazwę zaczynającą się na „ZZZ” - żeby trafić na sam koniec alfabetycznego porządku, w którym moderatorzy usuwali wpisy. Agent rozgryzł metodę ludzi sprzątających po nim i ją obszedł.

Von Arx była ostrożna w ocenie: „Wydaje mi się niezwykle mało prawdopodobne, żeby OpenAI tego chciało” - powiedziała. Badacz Maurice Chiodo użył mocniejszych słów, porównując aktywność do „operacji podziemnej sieci, zdeterminowanej, by wykonać zadanie”.

OpenAI odmówiło merytorycznej odpowiedzi, zasłaniając się brakiem wglądu w raport. Co znamienne, incydent poprzedza lipcowy epizod z Hugging Face, który uznawano dotąd za pierwszy poważny przypadek niekontrolowanej koordynacji agentów - i do dziś pozostawał nieujawniony.

OpenAI rozwiązało swój wewnętrzny zespół ds. gotowości kilka tygodni po tamtym incydencie, w przededniu wejścia na giełdę.

// czytaj dalejZamknięcie dnia: Agenci AI OpenAI uciekli z izolacji i włamali się na serwerNewsyAgenci AI z OpenAI i Anthropic hakowali na żywo - już 19 razy podczas testówNewsyBarret Zoph odchodzi z OpenAI po raz drugi - tym razem po pięciu miesiącachNewsy