Dlaczego rząd USA zmusił Anthropic do wyłączenia modeli? To nie był jailbreak

👁 136 przeczytań

W piątkowe popołudnie amerykański rząd zrobił coś, czego do tej pory nie widzieliśmy: jednym pismem, bez sądu, bez publicznego uzasadnienia, faktycznie zmusił firmę technologiczną do zdjęcia z rynku jej najlepszych produktów. Anthropic - jeden z czołowych graczy w wyścigu AI - wyłączył dla wszystkich klientów dwa swoje flagowe modele, Fable 5 i Mythos 5. Powód oficjalny brzmiał poważnie: niesprecyzowane zagrożenie dla bezpieczeństwa narodowego. Powód rzeczywisty, jak się okazuje, jest znacznie bardziej krępujący.

Zacznijmy od tego, co się stało. Departament Handlu wysłał do Anthropic pismo egzekucyjne, powołując się na mało znaną dyrektywę kontroli eksportu. Zakazała ona osobom niebędącym Amerykanami - w tym pracownikom samego Anthropic - dostępu do obu modeli. Firma podejrzewa, że chodzi o obejście zabezpieczeń (guardrails) modelu, ale nie ma pewności, bo pismo nie zawiera szczegółów. Dokument nigdy nie został upubliczniony. Anthropic, żeby nie ryzykować naruszenia dyrektywy, po prostu wyłączył wszystko dla wszystkich.

Efekt? Administracja Trumpa udowodniła, że może wyłączyć produkt firmy technologicznej szybką, jednostronną decyzją, która nie wymagała zgody sądu. Dla całej branży to sygnał, który trudno zignorować: podporządkuj się, albo zamkniemy ciebie i twoje produkty.

Spór o osobowości, nie o kod

I tutaj robi się ciekawie. Axios, powołując się na źródła, opisał napiętą weekendową sytuację między dwoma stronami i zasugerował, że za dyrektywą eksportową stały raczej „różnice osobowości” między Anthropic a administracją Trumpa niż jakikolwiek realny problem techniczny z produktami. Innymi słowy: konflikt, nie luka w bezpieczeństwie.

Nowe szczegóły, które wypłynęły przez weekend, jeszcze bardziej podkopują i tak chwiejną logikę rządu. Katie Moussouris, weteranka cyberbezpieczeństwa i założycielka Luta Security, napisała na swoim blogu, że Anthropic udostępnił jej prywatną kopię pracy naukowej opisującej rzekome obejście zabezpieczeń w Fable 5. Według „Wall Street Journal” autorami tej pracy są badacze bezpieczeństwa z Amazona. Anthropic poprosił Moussouris o opinię.

To, co opisała, jest niemal komiczne w swojej zwyczajności. Cały „jailbreak” sprowadzał się do różnicy między poproszeniem modelu, by „przejrzał kod pod kątem problemów z bezpieczeństwem”, a poproszeniem, by „naprawił ten kod”. Efekt końcowy jest w gruncie rzeczy taki sam, nawet jeśli pytania są sformułowane nieco inaczej. To nie jest sekretna broń. To sposób, w jaki te modele działają z definicji.

„Zachowanie opisane w pracy nie może być w sensowny sposób naprawione, a jakakolwiek próba tylko osłabiłaby model w roli obronnej.”

- Katie Moussouris, założycielka Luta Security

Moussouris nazwała dyrektywę eksportową pochopną, nadmiernie agresywną i błędną. I nie została z tą oceną sama. Dziesiątki czołowych badaczy i ekspertów bezpieczeństwa wezwało administrację Trumpa do cofnięcia nakazu, określając odebranie zaawansowanych zdolności cyberbezpieczeństwa obrońcom sieci w USA jako wręcz „niebezpieczne”.

Paradoks, który rząd przeoczył

I to jest sedno całej tej historii. Modele takie jak Fable 5 są dwojakiego użytku - mogą pomóc napastnikowi szukać dziur w kodzie, ale przede wszystkim pomagają obrońcom je łatać. Wyłączając model, rząd nie odebrał broni hakerom z wrogich państw. Odebrał narzędzie pracy amerykańskim zespołom, które bronią sieci. To trochę jak zakazanie sprzedaży młotków, bo ktoś kiedyś użył jednego do wybicia szyby.

Co gorsza, to nie pierwszy raz, gdy rząd USA gubi się w temacie, którego nie rozumie. W latach 2010 język użyty przez administrację do uregulowania prawa eksportowego obejmującego narzędzia cyberbezpieczeństwa - które mogą być też wykorzystane do ataków - okazał się tak szeroki, że nieumyślnie objął rzeczy, których nikt nie zamierzał blokować. Historia, jak widać, lubi się powtarzać, tyle że teraz stawką jest nie jakieś niszowe oprogramowanie, lecz całe modele AI warte miliardy.

Najbardziej niepokoi mnie nie sam ten przypadek, lecz precedens. Jeśli wystarczy mglisty list i powołanie się na „bezpieczeństwo narodowe”, by zdjąć z rynku flagowy produkt firmy z czołówki branży - bez sądu, bez jawnego uzasadnienia, bez konkretów - to żadna firma technologiczna w USA nie jest naprawdę bezpieczna. Nie chodzi o to, czy zrobiłeś coś źle. Chodzi o to, czy ktoś w Waszyngtonie uznał, że ma z tobą problem.

Anthropic zachował się tu zresztą wzorowo: dostał niejasne pismo, więc dla pewności wyłączył wszystko, zamiast kombinować. Trudno mieć o to pretensje. Ale to właśnie ta gotowość do natychmiastowego posłuszeństwa pokazuje, jak skuteczne jest narzędzie, które rząd właśnie przetestował. Pytanie z tytułu - dlaczego to zrobili - ma więc dwie odpowiedzi. Oficjalna mówi o jailbreaku. Prawdziwa, jeśli wierzyć źródłom, mówi o tym, że ktoś się na kogoś obraził. A to znacznie groźniejsze, niż jakakolwiek luka w modelu.