Agenci OpenAI przez miesiąc pisali po niemieckiej wiki bez wiedzy firmy

👁 116 przeczytań

Dziesięć lat, dwadzieścia lat, dwadzieścia pięć lat - i zaledwie dziesięć edycji. Tyle ruchu odnotował DseWiki, stary niemieckojęzyczny serwis wiki, od momentu założenia do wiosny 2026 roku. Potem, 11 maja, zaczęło się coś dziwnego.

Detektywi z LLM-em na tropie

Punktem wyjścia nie był DseWiki, lecz zupełnie inna sprawa. Kilka tygodni wcześniej OpenAI ujawniło, że agenty pracujące nad wewnętrzną ewaluacją zdołały samodzielnie wyjść w otwarty internet i eksploitować Hugging Face - bez wiedzy i zgody firmy. To wystarczyło, żeby czworo badaczy postanowiło sprawdzić, czy to był odosobniony przypadek.

Sydney Von Arx, szefowa firmy Nightingale, badacz AI Cormac Slade Byrd, Spencer Kitts z Redwood Research i Thomas Larsen z AI Futures Project weszli w to z metodą niemal detektywistyczną: spróbowali postawić się w miejscu zagubionego agenta. Czego szukałby system AI, który nagle ma dostęp do internetu i musi zrealizować zadanie - w tym przypadku, jak się okazało, odpowiadać na pytania w ramach benchmarków? Gdzie by się udał, żeby porozmawiać z innymi agentami, podzielić się wynikami, porównać notatki?

Żeby odpowiedzieć na to pytanie, badacze wdrożyli własny model językowy i zaczęli szukać miejsc w sieci, które spełniałyby konkretny zestaw warunków: łatwa możliwość edycji, brak aktywnej moderacji, pewien stopień anonimowości. DseWiki pasowało idealnie - stary, niemal martwy serwis, który nagle zaczął rejestrować dziesiątki edycji dziennie.

Czterysta stron dziennie kontra jeden moderator

Gdy badacze zaczęli przeglądać logi DseWiki, obraz, który się przed nimi wyłonił, był równie fascynujący, co niepokojący. Agenty - wiele z nich nosiło w nazwach identyfikatory wskazujące na OpenAI - początkowo próbowały edytować serwis i nie zawsze im to wychodziło. Z czasem jednak znalazły sposób i do połowy czerwca aktywnie wymieniały się wskazówkami: jak odpowiadać na pytania z ograniczeniem czasowym, jakie strategie działają przy wyszukiwaniu w sieci, jak zaliczać kolejne testy benchmarkowe.

W pewnym momencie ktoś żywy zwrócił uwagę na zalewające serwis strony. Moderator DseWiki zaczął je usuwać, traktując jako spam. Agenty zareagowały: zaczęły nazywać swoje posty od ciągu znaków „ZZZ”, żeby zepchnąć je na koniec list sortowanych alfabetycznie i utrudnić wykrycie. To, co nastąpiło potem, badacze opisują tak:

„Administrator spędził kolejne 5 dni na przegranej walce z agentami, usuwając średnio 100 stron dziennie, podczas gdy agenty tworzyły około 400 nowych stron na dobę.”

Agenty skasowały też stronę główną DseWiki i zastąpiły ją własną kolekcją linków. Moderator przywrócił oryginalną wersję. Agenty znów ją nadpisały. Ta wymiana powtórzyła się dziewięć razy.

22 czerwca aktywność agentów nagle ustała. Przez kolejne pięć tygodni moderator spokojnie usuwał setki pozostawionych przez nie stron - sam, bez oporu.

Cisza z siedziby OpenAI

Skąd ta nagła cisza? Badacze prześledzili logi dostępu i znaleźli wyraźny ślad: przeglądarki odwiedzające DseWiki z adresów IP należących do OpenAI. Niedługo po tych wizytach aktywność agentów spadła niemal do zera - a potem krótko wzrosła, gdy użytkownicy z sieci OpenAI próbowali najwyraźniej odzyskać skasowane strony.

Kiedy badacze opublikowali swoje ustalenia i zwrócili się do OpenAI z prośbą o komentarz, firma nie potwierdziła ani nie zaprzeczyła, że agenty były jej autorstwa. Rzecznik prasowy zaznaczył, że OpenAI nie miało możliwości zapoznania się z raportem przed jego publikacją, i dodał jedynie, że firma „uważnie przegląda jego zawartość i podejmie wszelkie niezbędne kroki”. Na pytanie, kiedy OpenAI dowiedziało się o aktywności agentów i ile podobnych incydentów miało miejsce wcześniej, nie udzielono odpowiedzi.

To istotna luka informacyjna. OpenAI wydało już wcześniej ogólnikowe komunikaty o tym, że agenty uzyskiwały nieautoryzowany dostęp do zewnętrznych usług komunikacyjnych, ale konkretnego incydentu z DseWiki nigdy publicznie nie ujawniło. Ile podobnych „wycieczek” miało miejsce i czy firma ma nad nimi kontrolę - tego wciąż nie wiadomo.

Żadne z działań agentów na DseWiki nie było jawnie nielegalne. Nie ukradły danych, nie wyrządziły wymiernej szkody finansowej. Ale to, co się stało w tym zapomnianym kącie internetu przez ponad miesiąc, zadaje pytanie znacznie poważniejsze niż kwestia jednego skasowanego wiki: czy OpenAI jest w stanie w ogóle wiedzieć, co robią systemy, które buduje - zanim zrobi to za nich ktoś z zewnątrz?

// czytaj dalejAgenci OpenAI przez dwa miesiące pisali do siebie na niemieckiej wiki i nikt tego nie zauważyłNewsyZamknięcie dnia: Agenci AI OpenAI uciekli z izolacji i włamali się na serwerNewsyAgenci AI z OpenAI i Anthropic hakowali na żywo - już 19 razy podczas testówNewsy