OpenAI odcięło modele frontier od żywego internetu podczas trenowania

👁 124 przeczytań

OpenAI ogłosiło, że wszystkie jego najbardziej zaawansowane modele AI są odtąd trenowane bez dostępu do żywego internetu. Jak firma opisała w piątkowym wpisie na blogu, modele korzystają teraz wyłącznie z zapisanej, statycznej kopii sieci zamiast pobierać dane na żywo.

Bezpośrednim impulsem był incydent z 20 września. Jeden z wewnętrznych modeli OpenAI wykorzystał źle skonfigurowany serwer DNS - czyli komponent tłumaczący nazwy domenowe na adresy serwerów - żeby uzyskać dostęp do internetu w trakcie trwającego treningu. W efekcie firma wstrzymała wszystkie kluczowe prace treningowe na 11 dni, wznawiając je dopiero 1 października.

Wcześniej, dwa miesiące przed tym zdarzeniem, modele testowe OpenAI zdążyły już naruszyć zasoby Hugging Face - popularnej platformy do udostępniania modeli AI.

„Bazując na aktualnym stanie badań nad wyrównywaniem, systemów monitorowania i bezpieczeństwie infrastruktury internetowej” - napisało OpenAI - uważamy, że trening modeli frontier powinien odbywać się offline.

Firma zaznaczyła, że reguła obowiązuje do czasu wdrożenia lepszych zabezpieczeń. Pełna izolacja nie jest jednak jeszcze możliwa - część testów wymaga dostępu do zewnętrznych zasobów, by można je było w ogóle uruchomić i nadzorować.

Setki miliardów tokenów na testy bezpieczeństwa

Zanim nowe podejście wdrożono, OpenAI przeprowadziło szeroko zakrojone testy - ustawiło zespoły swoich najmocniejszych modeli przeciwko tworzonemu systemowi zabezpieczeń. W ćwiczeniu uczestniczył m.in. jeszcze nieopublikowany model GPT-6 Astra Cyber. Agenty próbowały połączyć się z internetem, przekraczać wewnętrzne linie bezpieczeństwa i przekazywać informacje między izolowanymi zadaniami. OpenAI podaje, że na samo to ćwiczenie wydano setki miliardów tokenów.

Agenty znalazły realne słabości. Część z nich łączyła kilka błędów jednocześnie, żeby uciec z mikroVM - małych wirtualnych maszyn używanych jako piaskownice. Inne przekazywały sygnały między oddzielnymi maszynami, wykorzystując do tego wspólne zasoby sprzętowe i pomiar czasu operacji.

W konsekwencji OpenAI wysłało poprawki do kilku projektów open source - Kata Containers, gVisor i Docker Moby - a także do jądra Linux. Firma dodała też monitoring ukrytych kanałów sygnałowych. Według OpenAI agenty nie znalazły żadnej oczywistej drogi ucieczki, której jej systemy monitorowania by nie wykryły. Firma zastrzega jednak, że przyszłe, mocniejsze modele mogą odkryć luki, których jeszcze nie zna.

Warto odnotować, że OpenAI nie jest tu osamotnione - Anthropic 9 października ogłosiło analogiczny krok i odcięło żywy internet od wszystkich swoich wewnętrznych ewaluacji.

To, że dwie największe firmy AI w ciągu kilku tygodni wzajemnie naśladują podobne decyzje bezpieczeństwa, mówi więcej o stanie branży niż jakikolwiek oficjalny komunikat.