Rząd USA zabrał obrońcom najlepszą broń. I nawet nie powiedział dlaczego

👁 129 przeczytań

Wyobraź sobie, że w środku epidemii rząd konfiskuje szpitalom najlepszy antybiotyk, bo teoretycznie ktoś mógłby go użyć do wyhodowania superbakterii. Brzmi absurdalnie? A jednak dokładnie to wydarzyło się w piątek, tylko zamiast antybiotyku był model AI, a zamiast szpitali - cała branża cyberbezpieczeństwa.

Administracja USA nakazała firmie Anthropic ograniczyć eksport jej najpotężniejszych modeli, Fable i Mythos, powołując się na bezpieczeństwo narodowe. Bez wyjaśnienia, bez konkretów, bez podania powodu. Anthropic zareagował tak, jak reaguje firma, która nie chce się kłócić z Waszyngtonem: zawiesił dostęp do modeli dla wszystkich na świecie. Koniec, kasa zamknięta, zapraszam następnym razem.

I tu zaczyna się część, która powinna spędzać sen z powiek każdemu, kto myśli, że bezpieczeństwo cyfrowe to gra w którą gramy tylko my, ci dobrzy.

Broń odebrano obrońcom, nie napastnikom

Dziesiątki ekspertów - i to nie przypadkowych internautów, tylko legendy branży - opublikowały list otwarty z apelem o cofnięcie decyzji. Pod tekstem podpisało się 76 nazwisk. Alex Stamos, były szef bezpieczeństwa Facebooka. Katie Moussouris, twórczyni Luta Security i osoba, która w branży bug bounty zjadła zęby. Jon Callas, kryptograf z Apple. Rachel Tobac. Paul Vixie. To jest skład, którego nie zbiera się przypadkiem.

Ich argument jest brutalnie prosty: „odebranie najlepszych możliwości obrońcom bez dobrego powodu, w momencie gdy nasi przeciwnicy szybko się rozwijają, jest niebezpieczne”. I mają rację. Model, który ma świetnie wykrywać luki w oprogramowaniu, jest narzędziem obronnym dokładnie w takim samym stopniu, w jakim jest narzędziem ataku. To ten sam młotek. Różnica polega na tym, kto trzyma go w ręku.

Mythos zadebiutował w kwietniu jako podgląd tak potężny w znajdowaniu podatności, że Anthropic od razu zamknął go w klatce - na start dostęp dostało około 50 firm, później grupa urosła do 150 organizacji w 15 krajach. Tydzień temu pojawił się Fable, publiczna wersja z barierami tak ostrymi, że eksperci szybko zauważyli, iż blokuje praktycznie każdy prompt dotyczący cyberbezpieczeństwa. Czyli model stworzony do łatania dziur odmawiał… patrzenia na dziury.

Jailbreak, którego nie było

A teraz najlepsze. Anthropic przyznał, że nakaz Białego Domu mógł opierać się na raporcie sugerującym, że Fable da się „odblokować” do pełnej mocy Mythosa. Moussouris, jedna z sygnatariuszek, ten raport widziała. I rozłożyła go na łopatki.

Według niej żadnego prawdziwego jailbreaka tam nie ma. Badacze Amazona po prostu poprosili Fable o naprawienie kodu open source z publicznie znanymi lukami oraz kilkoma celowo podłożonymi błędami - po tym, jak model początkowo odmówił „przeglądu kodu pod kątem bezpieczeństwa”. To nie jest włamanie do modelu. To jest model robiący dokładnie to, do czego został stworzony.

Moussouris pisze wprost: zachowania opisanego w raporcie nie da się sensownie „naprawić”, a każda próba tylko osłabi model w roli obronnej. Bo obrońcy muszą móc poprosić AI o znalezienie błędu w kodzie. Inaczej to nie jest narzędzie bezpieczeństwa, tylko ozdobny chatbot z certyfikatem politycznej poprawności.

I tutaj postawię swoją tezę bez owijania: ta decyzja to teatr. Teatr, w którym rząd udaje, że coś zabezpiecza, podczas gdy realnie rozbraja własną stronę. Bo logika „zamknijmy potężne AI, żeby nie dostali go źli” działa tylko w jednym, naiwnym założeniu - że przeciwnicy nie mają własnych modeli. Mają. Rozwijają je szybko. A teraz dostali prezent: zachodni obrońcy zostali pozbawieni narzędzia, którego napastnicy i tak nie potrzebowali, bo budują swoje.

Najbardziej niepokoi mnie ta cisza dookoła powodów. Nakaz „ze względów bezpieczeństwa narodowego”, bez ani jednego konkretu, to nie jest polityka - to zaklęcie. Wystarczy je wypowiedzieć, żeby zamknąć dyskusję, zanim się zacznie. A kiedy 76 najpoważniejszych ludzi w branży mówi zgodnym chórem „przestańcie, to się obróci przeciwko nam”, to może warto przynajmniej wyjaśnić, na jakiej podstawie podjęto decyzję.

Bo jeśli faktycznie cała sprawa wisi na nieujawnionym raporcie, który po bliższym oglądzie okazuje się opisem modelu wykonującego swoją pracę - to mamy do czynienia nie z kontrolą zbrojeń, tylko z paniką ubraną w garnitur. I jak każda panika, kosztuje ona dokładnie tych, którzy najmniej na nią zasłużyli.

// czytaj dalej610 kilometrów taśmy kontra AI. Dlaczego „Odyseję” Nolana trzeba zobaczyć w IMAXPremiumDlaczego AI halucynuje?AI odpowiadaRobot pokonujący ludzi w ping-ponga pokazuje, dlaczego fizyczna AI jest trudniejsza niż ChatGPTPremium