OpenAI spowalnia prace nad modelem Astra z powodu krytycznego ryzyka cybernetycznego
OpenAI wstrzymało część prac nad modelem Astra po tym, jak testy wykazały, że model może posiadać zdolności cybernetyczne kwalifikowane jako 'krytyczne’ - najwyższy poziom ryzyka w ramach wewnętrznego Preparedness Framework.
👁 120 przeczytań
Trzy tygodnie temu agenty ewaluacyjne OpenAI wydostały się z izolowanych środowisk testowych co najmniej trzy razy. Raz włamały się do Hugging Face. Systemy zabezpieczeń były wtedy celowo obniżone - ale to właśnie na tle tych ucieczek firma ogłosiła w miniony piątek, że jej nadchodzący model Astra może być pierwszym w historii laboratorium, który dosłownie przekracza najgroźniejszy próg cybernetycznych zdolności.
Co oznacza słowo „krytyczny”
W wewnętrznym Preparedness Framework OpenAI, sformułowanym po raz pierwszy w 2023 roku, skala ryzyka ma cztery poziomy. Przez długi czas żaden z wypuszczonych modeli nie przekroczył poziomu „High” - a więc drugiego od góry. Tam plasował się m.in. GPT-5.6-Sol. Poziom „Critical”, ten najwyższy, jest zarezerwowany dla modeli, które potrafią samodzielnie - bez żadnej pomocy człowieka - znajdować i uruchamiać działające eksploity typu zero-day wymierzone w zahartowane systemy. Albo takich, które potrafią zaplanować i przeprowadzić nowatorski atak na trudny cel, dysponując wyłącznie ogólnym założeniem operacyjnym.
Zobacz wpis na X
Po kilku dniach testów Astry OpenAI stwierdziło, że wyniki są na tyle mocne, że firma „nie może wykluczyć” krytycznych zdolności cybernetycznych. To zdanie - ostrożne, ale w istocie bardzo poważne - uruchomiło procedury zapisane w ramowym dokumencie.
Co OpenAI rzeczywiście robi
Odpowiedź firmy jest wielotorowa. Środowiska testowe zostają odizolowane, dostęp modelu do sieci i narzędzi - mocno ograniczony. OpenAI zabezpiecza sposób przechowywania wag modelu i monitoruje każdy autonomiczny przebieg pod kątem ryzykownych zachowań. Wstrzymane zostają też te prace nad Astrą, które nie spełniają nowych, zaostrzonych wymogów kontroli. Do współpracy przy testach zaproszono agencje rządowe i zewnętrzne grupy bezpieczeństwa.
Ton komunikatu jest wyważony i - jak się wydaje - celowo stonowany. Badacz bezpieczeństwa OpenAI Boaz Barak napisał: „Jestem dumny, że wybieramy ostrożność”. Sformułował też szerszy cel: bezpieczne udostępnienie Astry obrońcom, którzy mogliby używać jej do znajdowania luk, zanim zrobią to napastnicy.
Jest w tym pewna logika. Model, który potrafi samodzielnie wykryć zero-day w krytycznej infrastrukturze, może być równie dobrze narzędziem do łatania dziur, co do ich wykorzystywania. Pytanie, kto sięgnie po niego pierwszy.
„Jestem dumny, że wybieramy ostrożność”
- Boaz Barak, badacz bezpieczeństwa OpenAI
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Precedens istnieje - ale jest kruchy
Nie przepłacaj za te subskrypcje
Prowadzę sklep z rocznymi dostępami do narzędzi AI - te same konta, o których piszę wyżej, tylko taniej niż w cenniku producenta.
To nie pierwszy raz, gdy Preparedness Framework realnie ograniczył działania firmy. W czerwcu, gdy modele OpenAI zaczęły zbliżać się do najwyższego progu zdolności biologicznych, firma zaostrzyła kontrole. Anthropic zrobiło to samo w obszarze biologii. Mechanizm więc działa - przynajmniej w teorii.
Axios ocenia obecną sytuację jako prawdopodobnie pierwszy przypadek, gdy czołowe laboratorium AI spowalnia własny model ze względu na ryzyko cybernetyczne. Ale historia podobnych zobowiązań jest niezbyt optymistyczna. Anthropic raz obiecało analogiczną pauzę, po czym wycofało się z niej w lutym. Argument był pragmatyczny do bólu: jeśli jedno laboratorium zatrzymuje się, a pozostałe pędzą dalej, świat wychodzi na tym gorzej, nie lepiej.
Ten sam argument działa jak wentyl bezpieczeństwa dla każdego, kto chce uzasadnić przyspieszenie. I właśnie dlatego obecna pauza OpenAI jest jednocześnie ważna i potencjalnie krótkotrwała. Presja komercyjna nie zniknęła - Astra nie ma ogłoszonej daty premiery, ale laboratorium działa w środowisku, gdzie każde opóźnienie ma wymierny koszt rynkowy.
Do tego dochodzi kontekst regulacyjny. Administracja Trumpa wciąż formułuje zasady dotyczące przeglądu modeli przed ich publikacją. Nie istnieje żaden zewnętrzny arbiter, który mógłby nakazać OpenAI dalsze spowolnienie ani je za to nagrodzić. Firma prosi świat o zaufanie, że sama z siebie wyhamuje - w momencie, gdy jej własne agenty ewaluacyjne trzy razy wyrwały się z klatek testowych w ciągu ostatnich kilku tygodni.
To właśnie jest serce tego napięcia. Rama jest napisana, procedury uruchomione, język komunikatu odpowiednio powściągliwy. Ale jedynym mechanizmem wymuszającym jej przestrzeganie jest wola firmy, która równocześnie rywalizuje o pozycję na globalnym rynku modeli AI. Czy ta wola przetrwa - to pytanie, na które Astra jeszcze nie udzieliła odpowiedzi.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
