Rząd USA wyłączył model AI i nawet nie powiedział dlaczego. To powinno was przerazić

👁 119 przeczytań

Wyobraźcie sobie, że dostajecie w piątek wieczorem telefon z poleceniem: macie natychmiast zgasić jeden ze swoich najważniejszych produktów. Nie dla części klientów, nie w jednym kraju - dla wszystkich, na całym świecie, łącznie z waszymi własnymi pracownikami. Powód? Bezpieczeństwo narodowe. Jaki konkretnie? Tego się nie dowiecie. I właśnie to, a nie sama decyzja, jest tu najbardziej niepokojące.

Dokładnie to spotkało Anthropic. W minioną sobotę firma poinformowała, że na rozkaz rządu USA całkowicie odcięła dostęp do modeli Fable 5 i Mythos 5. Dyrektywa, powołująca się na kontrolę eksportu i względy bezpieczeństwa narodowego, nakazała zablokowanie dostępu dla wszystkich obcokrajowców - i wewnątrz, i na zewnątrz Stanów. Żeby spełnić te wymogi w praktyce, Anthropic poszedł na całość: wyłączył modele dla absolutnie wszystkich.

Moja teza jest prosta i niepopularna: nie powinniśmy klaskać, że „system zadziałał”. Powinniśmy się zastanowić, dlaczego najpotężniejsze narzędzia tej dekady można wygasić jednym telefonem, bez papieru, bez uzasadnienia, bez ścieżki odwołania.

Cisza zamiast dowodu

Najciekawszy fragment całej tej historii to nie zakaz, tylko ton oświadczenia Anthropic. Firma podkreśla, że choć stosuje się do nakazu, rząd „nie podał konkretnych szczegółów swoich obaw o bezpieczeństwo narodowe”. Dowody na rzekomy jailbreak miały zostać przekazane wyłącznie ustnie - a wykryte luki, zdaniem firmy, były drobne i dostępne także w innych modelach, w tym w GPT 5.5.

To brzmi jak scena z kiepskiego thrillera szpiegowskiego, a nie jak regulacja branży wartej setki miliardów. Anthropic idzie zresztą dalej i pisze wprost: „Nie otrzymaliśmy nawet ujawnienia niepokojącego, nieuniwersalnego potencjalnego jailbreaku, który doprowadziłby do szkodliwego rezultatu. Ujawnione nam potencjalne jailbreaki to albo zupełnie nieszkodliwe odpowiedzi, albo drobne ustalenia, które nie dają żadnego specyficznego dla Mythosa wzmocnienia”. Po ludzku: według firmy nikt nie pokazał im, że ich model robi coś groźniejszego niż konkurencja.

Można oczywiście zapytać, czy Anthropic mówi prawdę. Pewnie. Ale problem polega na tym, że nie mamy jak tego sprawdzić - bo druga strona milczy. A w sporze, w którym jedna strona przedstawia listę argumentów, a druga zasłania się tajemnicą, instynktownie nie wierzę tej, która mówi „zaufajcie nam, są powody”.

Anthropic, ten od bezpieczeństwa

Jest w tym gorzka ironia. Anthropic od lat buduje markę na byciu tym odpowiedzialnym, ostrożnym graczem - firmą, która woli iść wolniej i bezpieczniej. W swoim oświadczeniu wymienia kroki podjęte przy Fable i Mythos: współpracę z rządami USA i Wielkiej Brytanii oraz zmianę polityki retencji danych, żeby móc śledzić próby wykorzystania modeli do złych celów. Czyli zrobili dokładnie to, czego od „dorosłych w pokoju” oczekujemy.

I co z tego mają? Piątkowy nakaz wyłączenia wszystkiego. To ważny sygnał dla całej branży: lojalność i transparentność wobec państwa nie kupują ci niczego, gdy państwo zdecyduje inaczej. Jeśli nawet Anthropic, pieszczoch regulatorów, może zostać wyłączony bez pisemnego uzasadnienia, to każda mniejsza firma wie już, na czym stoi.

Czego ta historia naprawdę dotyczy

Na marginesie tekstu The Verge przewija się jedno zdanie, które mówi więcej niż całe oświadczenie: „Chiny mogły uzyskać dostęp do Mythosa”. Jeśli to prawdziwe tło sprawy, robi się jasne, dlaczego dyrektywa celuje konkretnie we wszystkich obcokrajowców i opiera się na kontroli eksportu. To nie jest spór o jailbreak czatbota. To kawałek znacznie większej geopolitycznej rozgrywki, w której model AI traktuje się jak technologię podwójnego zastosowania - mniej więcej jak wirówki do wzbogacania uranu.

I tu dochodzimy do sedna mojej tezy. Możliwe, że rząd ma absolutną rację, a Mythos faktycznie wyciekł tam, gdzie nie powinien. Ale nawet jeśli decyzja jest słuszna, sposób jej podjęcia ustanawia paskudny precedens. Skoro istnieje guzik, którym da się jednego wieczoru wyłączyć produkt dla całego świata na podstawie ustnych argumentów, to ten guzik istnieje też na gorsze okazje i dla mniej szlachetnych powodów.

Branża AI przez lata bała się scenariusza, w którym to maszyna wymyka się spod kontroli człowieka. Tymczasem pierwszy naprawdę pokazowy przypadek wygląda odwrotnie: to człowiek z urzędu wyłącza maszynę, nie tłumacząc się nikomu. Nie wiem, co jest w tym bardziej niepokojące - że stało się to tak szybko, czy że przeszło właściwie bez echa.

// czytaj dalejRząd USA zabrał obrońcom najlepszą broń. I nawet nie powiedział dlaczegoNewsyModel collapse - dlaczego AI traci rozum bez człowiekaNaukaSzeregowiec w szeregu gigantów: IBM wypuszcza model do prognozowania szeregów czasowych na komercyjnej licencjiNewsy