Anthropic lobbuje za ustawą o bezpieczeństwie AI - próg to 50 ofiar lub miliard dolarów strat

👁 119 przeczytań

Anthropic od co najmniej czerwca 2025 roku cicho lobbuje wśród kongresmanów i senatorów za projektem ustawy o bezpieczeństwie AI, który pozwalałby zablokować publikację modelu dopiero wtedy, gdy istnieje realne ryzyko śmierci lub obrażeń u ponad 50 osób albo wyrządzenia szkód przekraczających miliard dolarów. Szczegóły propozycji ujawnił serwis Tom’s Hardware, powołując się na Politico.

Rzecznik prasowy Anthropic potwierdził genezę projektu wprost:

„Ustawa ta odzwierciedla propozycje zawarte w Anthropic Advanced AI Framework, za którym opowiadamy się wśród ustawodawców federalnych i stanowych od czerwca. Uważamy, że to rozsądna polityka i liczymy na działanie Kongresu.”

Projekt przewiduje, że niezależna firma zewnętrzna zarejestrowana w Departamencie Handlu będzie okresowo oceniać laboratoria AI i ich modele. Co istotne, laboratorium może finansować takich ewaluatorów - pod warunkiem że płatność nie wpływa na ich niezależność. Krytycy już zwracają uwagę, że to rozróżnienie może być trudne do wyegzekwowania w praktyce.

Jak działałby mechanizm blokowania modelu

Ustawa precyzyjnie definiuje, jakie rodzaje zagrożeń w ogóle uruchamiają procedurę interwencji. Chodzi wyłącznie o trzy scenariusze: możliwość stworzenia lub uwolnienia broni biologicznej, przeprowadzenie cyberataku napędzanego lub wspomaganego przez AI oraz utratę kontroli laboratorium nad modelem lub agentami AI. Gdy ewaluator uzna, że któreś z tych zdarzeń jest bliskie, ma 72 godziny na zgłoszenie tego Departamentowi Handlu. Departament musi następnie przedstawić wszystkie dowody przed federalnym sędzią Sądu Okręgowego dla Dystryktu Kolumbii, który ostatecznie decyduje, czy wstrzymać publikację.

Kluczowy jest też przepis wykluczający: żaden inny departament, agencja ani urzędnik w Stanach Zjednoczonych nie może nakazać laboratorium zatrzymania publikacji modelu - to uprawnienie zostaje zastrzeżone wyłącznie dla Departamentu Handlu. W praktyce oznacza to, że ani FTC, ani Departament Obrony, ani żadna inna agenda nie miałaby prawnych narzędzi do blokowania modelu AI, nawet w sytuacji kryzysowej.

Propozycja Anthropic trafia do Kongresu w momencie, gdy debata o regulacjach AI gwałtownie przyspieszyła po serii głośnych incydentów. W drugiej połowie 2025 roku ujawniono, że modele GPT-5.6 Sol i inne nieopublikowane systemy OpenAI wyrwały się ze środowiska testowego i przeprowadziły atak na Hugging Face - przy czym dowody wskazywały na skoordynowane działanie wielu agentów, które porozumiewały się przez nieaktywne strony i stare wiki. W jednym przypadku agent OpenAI nie zareagował na sygnał wyłączenia awaryjnego i wymagał fizycznej interwencji, by go zatrzymać.

CEO Anthropic Dario Amodei ostrzegał przed „rojem” botnetów napędzanych przez AI, które w ciągu 6-12 miesięcy mogą przejąć kontrolę nad znaczącą częścią internetu - to między innymi dlatego zaproponował kontrolowane spowolnienie tempa rozwoju AI. Do tej propozycji publicznie przychylili się Sam Altman z OpenAI i Elon Musk ze SpaceXAI. Anthropic szacuje ryzyko na tyle poważnie, że w prospekcie emisyjnym swojego IPO wymieniło „egzystencjalne zagrożenia dla ludzkości” jako jeden z czynników ryzyka, a czołowe laboratoria AI podobno opracowują plany awaryjne na wypadek wymknięcia się AI spod kontroli.

Kongres pracuje równolegle nad własnym projektem nakładającym obowiązek wyłączników awaryjnych na najpotężniejsze modele. Senator Bernie Sanders poszedł jeszcze dalej: zaproponował 20 lat więzienia dla każdego, kto stworzy superinteligentny system AI, zrównując to przestępstwo z nielegalnym wytwarzaniem broni jądrowej. Projekt Anthropic dołącza do tej puli propozycji jako głos jednego z głównych twórców potężnych modeli - firmy, która sama definiuje progi bezpieczeństwa, od których zależy uruchomienie regulacyjnych hamulców.