Gdy państwo decyduje, kto może rozmawiać z chatbotem

👁 156 przeczytań

Anthropic ogłosił, że od środy zacznie przywracać globalny dostęp do modelu Claude Fable 5, po tym jak amerykański Departament Handlu zniósł nałożoną na niego kontrolę eksportu. To finał kilkutygodniowych negocjacji z administracją Trumpa i chyba najdziwniejsza historia regulacyjna, jaką branża AI widziała w tym roku. Bo oto model, którym firma chwaliła się przez cały tydzień, przez miesiąc nie mógł działać - nie z powodu awarii, tylko decyzji urzędników.

Przypomnijmy fakty, bo są nieprawdopodobne. Na początku czerwca, po piątkowym wieczornym ultimatum rządu, Anthropic musiał odstawić Fable 5 - konsumencką wersję modelu zbudowaną na tej samej technologii co firmowy Mythos 5, ale z dodatkowymi zabezpieczeniami. Powodem były obawy o możliwy jailbreak, czyli obejście zabezpieczeń modelu. Dyrektywa o kontroli eksportu zakazywała korzystania z obu modeli jakiemukolwiek cudzoziemcowi - łącznie z zagranicznymi pracownikami klientów korporacyjnych, a nawet częścią własnych, nieamerykańskich pracowników Anthropica.

Chatbot jako towar strategiczny

Zatrzymajmy się na tym absurdzie. Kontrola eksportu to narzędzie, którym Waszyngton reglamentuje dostęp do czipów, technologii nuklearnej czy uzbrojenia. Tu zastosowano ją do modelu, z którym miliony ludzi prowadzą rozmowy o przepisach kulinarnych i mailach do szefa. Nagle okazało się, że o tym, kto może napisać cokolwiek do chatbota, decyduje nie firma i nie użytkownik, lecz departament rządowy. To nie jest kwestia moderacji treści - to kwestia paszportu.

Iskrą był konkretny jailbreak, który wychwycili badacze Amazona i który w dużej mierze uruchomił całą dyrektywę. Anthropic w opublikowanym we wtorek wpisie tłumaczy, że wytrenował ulepszony klasyfikator bezpieczeństwa blokujący to zachowanie.

Użytkownicy będą powiadamiani, jeśli zapytanie do Fable 5 zostanie zablokowane, a samo zapytanie trafi wtedy do Opus 4.8. Nowy klasyfikator oznacza, że konkretna technika opisana w raporcie Amazona jest blokowana w ponad 99 proc. przypadków.

- napisała firma. Brzmi rozsądnie. Tylko że rozwiązanie techniczne pojawiło się dopiero po miesiącu politycznych negocjacji, a nie w reakcji na sam błąd. Kolejność mówi wszystko: najpierw ultimatum, potem rozmowy, na końcu klasyfikator.

Lista zatwierdzonych

Najbardziej niepokojący jest precedens. Wcześniej administracja Trumpa pozwoliła na powrót modelu Mythos 5, ale wyłącznie dla wstępnie zatwierdzonej listy organizacji. Ten sam mechanizm zastosowano wobec OpenAI i jego GPT-5.6, który mógł zadebiutować tylko w stopniowym wdrożeniu - najpierw dla wybranych organizacji i departamentów rządowych. Innymi słowy: państwo zaczyna decydować, kto pierwszy dostaje najnowszy model AI i na jakich warunkach.

To zupełnie nowa dynamika. Do tej pory premiera modelu była decyzją biznesową firmy. Teraz staje się procesem, w którym rząd trzyma rękę na zaworze - może opóźnić, ograniczyć geograficznie, wykluczyć cudzoziemców. Anthropic sam przyznaje w komunikacie, że będzie koordynować z rządem rozszerzanie dostępu na szerszy zestaw partnerów krajowych i międzynarodowych dla modelu Mythos 5.

W komunikacie na X firma pisze zresztą wprost:

Otrzymaliśmy informację, że Departament Handlu zniósł kontrolę eksportu na Claude Fable 5 i Mythos 5. Zaczniemy przywracać dostęp jutro. Jesteśmy wdzięczni naszym użytkownikom za cierpliwość.

Wdzięczność za cierpliwość - to sformułowanie robi wrażenie dopiero, gdy uświadomimy sobie, za co użytkownicy mieli być cierpliwi. Za to, że przez miesiąc nie mogli korzystać z produktu, bo trwały negocjacje między firmą a Białym Domem.

Dokąd to prowadzi

Anthropic opublikował też obszerny wpis opisujący nowe zabezpieczenia, procesy branżowe, nad którymi pracuje, oraz sposoby dzielenia się informacjami z rządem, w tym testy modeli przed premierą. Brzmi to jak dojrzała współpraca dorosłej firmy z regulatorem. Ale można to czytać inaczej: jako instytucjonalizację państwowej kontroli nad tym, jakie modele trafiają do ludzi i kiedy.

Nie bronię tu naiwnie pełnej swobody. Jailbreaki bywają realnym problemem, a odpowiedzialność za bezpieczeństwo modeli jest sensowna. Problem w tym, że narzędzie użyte do jej wymuszenia - kontrola eksportu z klauzulą wykluczającą cudzoziemców - jest kompletnie nieadekwatne do zagrożenia. To młotek do wbijania pinezki, tyle że młotek trzyma rząd, a pinezką jest globalny dostęp do chatbota.

Precedens zostanie. Następnym razem, gdy pojawi się nowy potężny model, nie zdziwmy się, jeśli jego premiera znów będzie zależeć od tego, kto jest na liście zatwierdzonych i czy negocjacje z Waszyngtonem poszły dobrze.

Bo tym razem to Anthropic dziękował użytkownikom za cierpliwość. Następnym razem może to być pytanie, czy w ogóle znajdziemy się po właściwej stronie granicy.

// czytaj dalejZUS, NFZ, KRUS - i jeden dobry chatbot. Dlaczego polskie urzędy tak wolno doganiają AIMagazynAI pożycza jak państwo. Obligacje technologicznych gigantów stają się nową infrastrukturą internetuPremiumSpaceX musi tłumaczyć się z Groka. Chatbot stał się ryzykiem inwestycyjnymPremium