Najpotężniejszy model Anthropic miał być zbyt groźny dla ludzi. Mógł trafić do Chin

👁 126 przeczytań

Anthropic zbudował model tak potężny, że uznał go za zbyt niebezpieczny, by udostępniać go ludziom. Nazwał go Mythos i schował przed światem. A teraz wygląda na to, że ten sam model - ten, którego my, zwykli śmiertelnicy, nie mieliśmy prawa nawet dotknąć - mógł wpaść w ręce grupy powiązanej z Chinami. Jest w tym ironia tak gęsta, że można by ją kroić nożem.

Według doniesień The Verge, powołującego się na Semafor, decyzja Białego Domu o nałożeniu restrykcji eksportowych na Mythos wynikała częściowo właśnie z obaw, że dostęp do modelu zdobyła grupa związana z Chinami. Mowa o Mythos 5 i Fable 5 - wewnętrznych, najmocniejszych konstrukcjach Anthropic. Gdyby chiński rząd faktycznie miał do nich dostęp, mielibyśmy do czynienia z poważnym ryzykiem dla bezpieczeństwa narodowego USA. I nie chodzi tylko o sam fakt podejrzenia za kulisami.

Najciekawsze jest to, co można zrobić z takim modelem, nawet bez kradzieży kodu źródłowego. Wystarczy dostęp do jego odpowiedzi. Metoda nazywa się dystylacja: trenujesz słabszy model-„ucznia” na wyjściach mocniejszego „nauczyciela”, aż uczeń nauczy się naśladować zachowanie mistrza. To dokładnie ta technika, która rozpaliła branżę przy okazji DeepSeeka. Innymi słowy: nie musisz wynieść Mythosa przez bramę. Wystarczy, że dasz mu zadawać pytania wystarczająco długo, by przelać jego inteligencję do własnego modelu. Tani sposób na skopiowanie czegoś, co kosztowało miliardy.

I tu robi się niezręcznie, bo wersje wydarzeń się rozjeżdżają. Biały Dom oficjalnie niczego nie potwierdził. David Sacks, doradca Trumpa ds. AI, w swoim wpisie na X w ogóle nie wspomniał o Chinach - skupił się na rzekomej podatności Fable i Mythos na jailbreaking, czyli obchodzenie zabezpieczeń modelu. Anthropic to dementuje. Co więcej, rzecznik firmy powiedział Semaforowi, że podczas rozmów o kontroli eksportu rząd w ogóle nie podnosił wątku Chin. Mamy więc trzy różne narracje od trzech stron tej samej historii, a żadna nie zgadza się z pozostałymi. Klasyka gatunku, gdy bezpieczeństwo narodowe spotyka się z relacjami inwestorskimi.

Moim zdaniem najbardziej wymowny jest jednak nie sam ten konkretny wyciek, którego nikt do końca nie potwierdza, tylko to, co go poprzedziło. Bo gdyby Mythos rzeczywiście trafił do Chin, nie byłaby to pierwsza kompromitująca wpadka Anthropic z tym właśnie modelem. Firma twierdzi, że Mythos jest zbyt niebezpieczny i zbyt potężny do publicznego użytku. Brzmi poważnie. A jednocześnie, jak donoszą media, grupa na Discordzie miała do niego dostęp przez dwa tygodnie, zanim Anthropic w ogóle zorientował się, że doszło do naruszenia, i odciął kanał. Dwa tygodnie. Najgroźniejszy model w portfolio firmy, którą uczyniono niemal świecką ikoną odpowiedzialnego rozwoju AI, krążył po jakimś serwerze Discord, a strażnik dowiedział się o tym jako ostatni.

To jest właśnie ten moment, w którym cała retoryka o bezpieczeństwie zaczyna brzmieć pusto. Bo można wygłaszać najpiękniejsze deklaracje o tym, że pewnych modeli nie wypuszcza się na świat, bo są za groźne - ale jeśli nie potrafisz przez dwa tygodnie zauważyć, że ktoś niepowołany siedzi w środku, to twoje deklaracje są warte tyle, co zamek na drzwiach, które ktoś zostawił otwarte na oścież. Anthropic latami budował wizerunek firmy, która rozumie ryzyko lepiej niż konkurencja. Tym bardziej boli, gdy okazuje się, że rozumienie ryzyka i panowanie nad nim to dwie zupełnie różne kompetencje.

W szerszym planie ta historia mówi nam coś niewygodnego o całym wyścigu AI. Im potężniejsze modele budujemy, tym bardziej stają się one aktywami strategicznymi - obiektami pożądania na poziomie tajemnic państwowych, a nie produktów technologicznych. Eksportowe restrykcje, podejrzenia o szpiegostwo, dystylacja jako metoda przemysłowego kopiowania - to już nie język Doliny Krzemowej, tylko język zimnej wojny przeniesiony w realia 2026 roku. A laboratoria AI, niezależnie od tego, jak głośno mówią o misji i odpowiedzialności, znalazły się w samym środku geopolitycznej rozgrywki, na którą nie były przygotowane.

Nie wiemy jeszcze, czy Chiny rzeczywiście dotknęły Mythosa. Możliwe, że to mgła podejrzeń, którą Biały Dom wykorzystał jako pretekst do kontroli eksportu, a może faktyczny incydent zamieciony pod dyplomatyczny dywan. Ale jedno jest pewne już dziś: jeśli firma, która sama mówi o swoim modelu „za niebezpieczny dla ludzi”, nie potrafi go przez dwa tygodnie upilnować przed grupą z Discorda, to pytanie o Chiny przestaje być najgorszym pytaniem. Najgorsze jest to, ile jeszcze osób miało dostęp, o którym nikt nam nie powiedział.

// czytaj dalejAnthropic wpadł we własne sidła. Gdy straszysz, że twój model jest groźny, ktoś w końcu ci uwierzyNewsyClaude Fable 5: Anthropic oddał publiczności model, który sam nazwał zbyt groźnymPremiumBadacz Anthropic: ponad 10% szans, że AI zabije wszystkich ludziNewsy