Model znalazł dwie dziury, o których nikt nie wiedział. Potem sam je zgłosił
Po raz pierwszy firma opisała własny model jako krytycznie zdolny w cyberbezpieczeństwie i sama ograniczyła do niego dostęp. To nie jest opowieść o benchmarkach, tylko o tym, co się dzieje, gdy narzędzie okazuje się mocniejsze, niż zakładano.
👁 138 przeczytań
- GPT-6 Astra samodzielnie znalazł dwie nieznane luki w oprogramowaniu używanym przez setki milionów ludzi, połączył je w działający łańcuch ataku i zgłosił bez żadnych podpowiedzi.
- Astra jest pierwszym modelem OpenAI, któremu przypisano najwyższy poziom ryzyka w cyberbezpieczeństwie, zdobywając 88% w teście naprawy systemów wobec 12,5% u najmocniejszego modelu konkurencji.
- OpenAI i Anthropic niezależnie od siebie, w odstępie kilku dni, ograniczyły dostęp do najmocniejszych funkcji do zweryfikowanych odbiorców, uzależniając go od tożsamości pytającego, a nie treści pytania.
W testach przed premierą nowy model OpenAI dostał do zbadania fragment oprogramowania używanego przez setki milionów ludzi. Znalazł w nim dwie luki, o których nie wiedział nikt, połączył je w jeden działający łańcuch i pokazał, jak można przez niego przejść. Nikt mu nie podpowiadał, na czym polega problem. Firma zgłosiła obie podatności opiekunom projektu, a potem zrobiła coś, czego wcześniej nie robiła: sama ograniczyła dostęp do własnego produktu.
Tak wygląda najciekawszy wątek premiery GPT-6 Astra i mam wrażenie, że przechodzi bokiem, przykryty rekordami z matematyki.
Co znaczy krytyczny próg
OpenAI od dawna prowadzi wewnętrzną skalę ryzyka, na której ocenia własne modele przed wypuszczeniem. Astra jest pierwszym, któremu firma przypisała najwyższy poziom w obszarze cyberbezpieczeństwa. W praktyce oznacza to zdolność do samodzielnego znajdowania nieznanych wcześniej błędów i wykorzystywania ich bez prowadzenia za rękę.
W teście mierzącym atakowanie znanych podatności model uzyskał komplet punktów. W teście sprawdzającym utrzymanie i naprawę systemów zdobył 88 procent wobec 55,9 procent u poprzednika i 12,5 procent u najmocniejszego modelu konkurencji. To nie jest przewaga procentowa, tylko przeskok kategorii.
Dlaczego to jest ciekawe, a nie tylko groźne
Łatwo z tego zrobić opowieść o zagrożeniu i wiele mediów tak zrobiło. Mnie bardziej interesuje druga strona. Ludzi zdolnych znaleźć nieznaną lukę w poważnym oprogramowaniu jest na świecie garstka i są rozchwytywani. Jeżeli ich pracę potrafi wykonać narzędzie dostępne za kilkadziesiąt dolarów, to obrońcy dostają do ręki coś, czego nie mieli nigdy: możliwość sprawdzenia własnych systemów w tempie, w jakim robią to atakujący.
Problem polega na tym, że to samo narzędzie działa w obie strony i nie da się tego rozdzielić samą treścią zapytania. Pytanie o działanie konkretnej luki brzmi identycznie u osoby, która łata system, i u osoby, która chce się do niego dostać.
Odpowiedź branży: dzielenie dostępu, nie modelu
Rozwiązanie, po które sięgnęło OpenAI, jest takie samo jak to, które kilka dni wcześniej zastosowała konkurencja. Model odmawia budowania gotowych narzędzi do ataku wszystkim, a najbardziej zaawansowane funkcje w tym obszarze dostają wyłącznie zweryfikowani odbiorcy, po przejściu przez osobny program.
To jest ta sama filozofia, którą opisywałem przy podziale najmocniejszego modelu Anthropica na wersję ogólnodostępną i tę dla sprawdzonych specjalistów. Dwie największe firmy tej branży, niezależnie od siebie, w odstępie kilku dni, doszły do wniosku, że o dostępie do najmocniejszych funkcji nie może decydować treść pytania, tylko tożsamość pytającego.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Co to zmienia dla ciebie
Jeżeli nie zajmujesz się bezpieczeństwem zawodowo, w codziennej pracy nie zauważysz nic. Model odmówi ci rzeczy, o które i tak nie zamierzałeś pytać. Warto natomiast zauważyć, w którą stronę idzie ta branża, bo to dotyczy każdego, kto opiera pracę na tych narzędziach.
Do niedawna dostawcy modeli sprzedawali jeden produkt wszystkim i różnicowali go ceną. Teraz zaczynają różnicować go uprawnieniami. Do tego dochodzi wymiar geograficzny, o którym przekonaliśmy się w czerwcu, gdy najmocniejszy model Anthropica został wyłączony poza Stanami Zjednoczonymi na 19 dni decyzją administracyjną.
Praktyczny wniosek jest niezmienny: nie opieraj krytycznego procesu na jednym dostawcy. Trzymaj w kodzie możliwość przełączenia modelu jednym ustawieniem, testuj zamiennik regularnie i miej policzone, ile ta sama praca kosztuje na drugiej półce. Dostępność narzędzia przestała być wyłącznie decyzją techniczną firmy, która je zbudowała.
Pełne dane modelu, cennik i tabelę wyników zebrałem w przewodniku o GPT-6 Astra.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →Najczęstsze pytania
Jakie luki znalazł GPT-6 Astra i w jakim oprogramowaniu?
Astra znalazł dwie nieznane wcześniej luki w oprogramowaniu używanym przez setki milionów ludzi, połączył je w jeden działający łańcuch ataku. Artykuł nie podaje nazwy konkretnego oprogramowania ani nazw podatności - wiadomo jedynie, że OpenAI zgłosiło je opiekunom projektu.
Co oznacza najwyższy poziom ryzyka w skali cyberbezpieczeństwa OpenAI?
Najwyższy poziom oznacza zdolność modelu do samodzielnego znajdowania nieznanych błędów i wykorzystywania ich bez prowadzenia za rękę. Astra jest pierwszym modelem, któremu OpenAI przypisało ten poziom, a w teście atakowania znanych podatności uzyskał komplet punktów.
Dlaczego OpenAI ograniczyło dostęp do GPT-6 Astra?
Firma ograniczyła dostęp do najbardziej zaawansowanych funkcji w obszarze cyberbezpieczeństwa, bo pytanie o działanie luki brzmi tak samo u osoby łatającej system i u osoby atakującej. Najbardziej zaawansowane funkcje dostają wyłącznie zweryfikowani odbiorcy przez osobny program - model wszystkim odmawia budowania gotowych narzędzi do ataku.
Co się stało z modelem Anthropica, który był wyłączony poza USA?
Najmocniejszy model Anthropica został wyłączony poza Stanami Zjednoczonymi na 19 dni decyzją administracyjną - wydarzyło się to w czerwcu. Artykuł przywołuje ten przypadek jako argument za tym, by nie opierać krytycznego procesu na jednym dostawcy i trzymać w kodzie możliwość przełączenia modelu jednym ustawieniem.
Podobne tematy na Promptowym
