Biały Dom kontra Anthropic: kto naprawdę boi się Claude Fable 5
Administracja Trumpa nałożyła kontrolę eksportu na najpotężniejszy model Anthropic, a poniedziałkowe rozmowy zakończyły się bez porozumienia.
👁 125 przeczytań
Wyobraźcie sobie scenę: sekretarz handlu USA dzwoni na spotkanie kryzysowe ze szczytu G7 w Evian, a po drugiej stronie stołu w gmachu Departamentu Handlu siedzą inżynierowie jednej z najgorętszych firm AI na świecie, którzy przylecieli do Waszyngtonu, żeby przekonać rząd, że ten się myli. To nie scenariusz technothrillera, tylko zapis poniedziałkowych negocjacji wokół modelu o nazwie Claude Fable 5. I zakończyły się one bez porozumienia.
Zacznijmy od tego, co właściwie się stało. Tydzień wcześniej administracja Trumpa nałożyła kontrolę eksportu na najbardziej zaawansowane modele Anthropic. Powód brzmi jak z podręcznika cyberbezpieczeństwa: obawa przed jailbreakiem. Według trzech osób zaznajomionych ze sprawą, na które powołuje się WIRED, rząd nadal jest przekonany, że da się wyłączyć część zabezpieczeń Claude Fable 5 i w ten sposób odblokować potężniejsze możliwości cybernetyczne ukrytego pod spodem modelu Mythos. Innymi słowy: ktoś mógłby zdjąć kaganiec i wypuścić coś groźniejszego, niż firma deklaruje.
Anthropic od dni powtarza jedno - że obawy są przesadzone. Tę samą linię firma podtrzymała na spotkaniach grupy roboczej z rządowymi badaczami z Center for AI Standards and Innovation oraz z biura krajowego dyrektora ds. cyberbezpieczeństwa, Seana Cairncrossa. Co ciekawe, sam Cairncross w rozmowach nie uczestniczył. Za to dołączył - telefonicznie, z Francji - sekretarz handlu Howard Lutnick. Po stronie firmy negocjacje prowadzili współzałożyciel i chief compute officer Tom Brown oraz szefowa relacji zewnętrznych Sarah Heck. Do Waszyngtonu przylecieli też szef frontier red-teamingu Logan Graham i starszy badacz bezpieczeństwa Nicholas Carlini. To nie jest delegacja od przypadku - to ciężki kaliber techniczny rzucony na stół negocjacyjny.
I tu dochodzimy do momentu, który mnie w tej historii najbardziej intryguje: alarm uruchomił nie regulator, nie agencja wywiadowcza, tylko Andy Jassy, prezes Amazona. Zadzwonił bezpośrednio do sekretarza skarbu Scotta Bessenta, żeby zgłosić rzekome luki. To samo Amazon, które jest jednym z największych inwestorów Anthropic. Pieniądze włożone w firmę, a jednocześnie telefon do rządu z ostrzeżeniem przeciwko jej flagowemu produktowi. Amazon tłumaczy to ostrożnie:
Jako wiodący dostawca chmury, który obsługuje wielu klientów z sektora prywatnego i publicznego, nieraz spotykamy się z prośbami rządów o doradztwo w sprawie potencjalnych zagrożeń bezpieczeństwa. Gdy do tego dochodzi, nie ujawniamy szczegółów tych rozmów.
Rzecznik Amazona w rozmowie z WIRED
To zdanie brzmi rozsądnie, ale nie odpowiada na pytanie, które wisi w powietrzu: dlaczego inwestor podpala dom, w którym ma udziały? Możliwości jest kilka. Może rzeczywiście chodzi o czystą troskę o bezpieczeństwo klientów chmury. A może to fragment szerszej rozgrywki o to, kto kontroluje najpotężniejsze modele i na jakich warunkach. Nie wiem. Materiał na to nie odpowiada, a ja nie zamierzam dopowiadać.
Zaalarmowani urzędnicy Białego Domu poprosili NSA o przegląd luk. Agencja odpowiedziała, że jej zdaniem faktycznie da się zdjąć zabezpieczenia Fable 5 - i to przesądziło o restrykcjach. W piątek Lutnick rozmawiał z prezesem Anthropic Dario Amodeim, gdy Departament Handlu redagował już pismo o kontroli eksportu. Przez weekend, po tym jak Anthropic odciął wszystkim użytkownikom dostęp do modelu, Lutnick był na kilku rozmowach z Brownem i Heck.
Sedno sporu jest banalnie proste i jednocześnie nierozwiązywalne: obie strony inaczej oceniają, jak poważne naprawdę są te luki. Rząd, oparty na opinii NSA, uważa, że ryzyko jest realne. Anthropic w piątkowym wpisie zasugerował, że administracja przejaskrawia charakterystykę zagrożenia. Departament Handlu deklaruje gotowość, by przywrócić Fable 5 do użytku konsumenckiego, ale - i to jest haczyk - prawdopodobnie dopiero gdy Anthropic w pełni rozwieje obawy o jailbreak. Rzecznik firmy ujął to dyplomatycznie: „Obie strony pracują szybko, by to rozwiązać”. Biały Dom odmówił komentarza.
Co z tego wynika dla mnie? Po pierwsze, to pierwszy tak głośny przypadek, w którym rząd USA wyłącza komercyjny model AI z powodu jego możliwości, a nie z powodu tego, kto go kupuje. Po drugie, dzieje się to w wyjątkowo napiętym momencie - Anthropic jest już w przeciągającym się sporze z Pentagonem o militarne zastosowania swoich modeli. Po trzecie, i najważniejsze: spór nie dotyczy tego, czy model jest niebezpieczny, tylko kto ma prawo to rozstrzygnąć. Firma mówi „przesada”, NSA mówi „da się złamać”, a użytkownicy zostali bez dostępu. W tej grze o zaufanie do AI najsłabszą kartą okazuje się przejrzystość - i to ona, a nie sam model, jest tu prawdziwą luką.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
