Anthropic wpadł we własne sidła. Gdy straszysz, że twój model jest groźny, ktoś w końcu ci uwierzy

👁 129 przeczytań

Moja teza jest prosta i trochę złośliwa: Anthropic wpadł dokładnie w pułapkę, którą sam zastawił. Przez lata firma Dario Amodei budowała markę na jednym przekazie - że buduje modele tak potężne, iż aż przerażające. I oto w piątkowy weekend, gdy reszta Ameryki świętowała pierwszy w historii triumf USA na mistrzostwach świata i tytuł Knicks, Anthropic siedział w okopach i z całych sił przekonywał rząd, że jego najnowszy model jednak nie jest aż tak groźny. Trudno o lepszą ilustrację tego, jak marketing strachu potrafi się obrócić przeciwko twórcy.

Zacznijmy od faktów, bo te są niezłe. Jak opisuje Hayden Field z The Verge, w piątek o 5:21 po południu Anthropic dostał rządową dyrektywę eksportową: zawiesić dostęp do modeli Mythos 5 i Fable 5 dla „jakiegokolwiek obcokrajowca” w USA i poza nimi - „w tym dla zatrudnionych w Anthropic obcokrajowców”. Jedyny sposób, w jaki firma mogła to wykonać, to całkowite wyłączenie produktów, które przez cały poprzedni tydzień z dumą promowała.

Dziewięćdziesiąt minut na decyzję

Wcześniej, około 13:00 czasu wschodniego, administracja zadzwoniła z ultimatum: macie 90 minut na wyłączenie dostępu, inaczej Departament Handlu nałoży na was kontrolę eksportową. Według źródła The Verge biorącego udział w negocjacjach, kierownictwo Anthropic rozmawiało z Białym Domem już 15 minut po pierwszym telefonie. Sam Dario Amodei dołączył mniej więcej godzinę i kwadrans później - i rozmawiał bezpośrednio z sekretarzem skarbu Scottem Bessentem, sekretarzem handlu Howardem Lutnickiem oraz krajowym dyrektorem ds. cyberbezpieczeństwa Seanem Cairncrossem, w niektórych przypadkach więcej niż raz.

To nie jest scena z thrillera o Dolinie Krzemowej. To realna polityka, w której jedna decyzja gabinetu może - jak ujmuje to autorka - dramatycznie zmienić trajektorię całej branży i zadać poważny cios amerykańskim firmom AI.

Mythos kontra Fable, czyli kto jest „bezpieczny dla ogółu”

Tu robi się ciekawie. Mythos 5 i Fable 5 zbudowano na tym samym fundamencie co Mythos Preview - model, który Anthropic sam uznał za zbyt niebezpieczny, by go publicznie udostępnić. Mythos 5 trafił do wąskiej grupy agencji rządowych i firm. Fable 5, z dodatkowymi zabezpieczeniami, uznano za „bezpieczny do ogólnego użytku”. Brzmi rozsądnie - dopóki nie pojawił się raport sugerujący, że te zabezpieczenia mogły zawieść.

I wtedy własne, dramatyczne ostrzeżenia firmy o Mythosie wpadającym „w niepowołane ręce” wróciły do niej rykoszetem. Bo jeśli przez miesiące powtarzasz światu, że twój model jest potencjalnie katastrofalny, to nie dziw się, że rząd potraktuje doniesienie o jego złamaniu śmiertelnie poważnie.

Anthropic zaczął więc gasić pożar, który sam podsycał. W piątkowym komunikacie firma napisała, że według niej rząd

„uważa, iż dowiedział się o metodzie obejścia, czyli ’jailbreaku’, Fable 5″

- po czym dodał, że nie chodzi o zagrożenie egzystencjalne, lecz o „potencjalny, wąski, nieuniwersalny” jailbreak, przekazany rządowi przez podmiot, którego firma nie chciała nazwać. I że to zachowanie wcale nie jest unikalne dla Fable 5.

Zwróćmy uwagę na elegancję tej narracji. Najpierw: nasz model jest tak potężny, że aż straszny. Potem, gdy ktoś bierze to dosłownie: spokojnie, ta luka jest wąska, niegroźna i w ogóle występuje wszędzie. Nie da się jednocześnie sprzedawać produktu jako cudu i bagatelizować go jako zwykły software, gdy zrobi się gorąco.

Sama The Verge przyznaje uczciwie, że ostrzeżenia Anthropic można odczytywać dwojako - jako szczerą troskę albo jako hype wokół własnego modelu. Albo, co najbardziej prawdopodobne, jako jedno i drugie naraz. I to jest sedno problemu całej branży, nie tylko jednej firmy.

Bo retoryka „AI tak groźnego, że trzeba nas regulować” przez lata działała jak darmowy marketing i jednocześnie jak tarcza przed konkurencją. Tyle że to broń obosieczna. W momencie, gdy ktoś przy władzy potraktuje te słowa serio i sięgnie po Departament Handlu, nagle okazuje się, że trzeba w weekend latać do Waszyngtonu i przekonywać, że to wszystko jednak przesada.

Nie wiem, jak skończy się to starcie - w chwili pisania decyzja rządu wisiała w powietrzu przez kolejne dni. Wiem za to, że Anthropic dostał lekcję, którą cała branża powinna sobie wytatuować: jeśli przez lata krzyczysz „wilk”, nie udawaj zdziwienia, gdy ktoś przybiegnie ze strzelbą.

// czytaj dalejByteDance trenuje model AI z 10 bilionami parametrów, celując w AnthropicNewsyModel AI Anthropica sam z siebie stworzył fałszywe tożsamości i próbował przemycić złośliwy kod do GitHubaNewsyBenchmark wars: gdy chiński model ogłasza zwycięstwo nad GPT, a my musimy mu uwierzyć na słowoNewsy