Anthropic dostał zakaz eksportu czegoś, czego nie da się wyeksportować

👁 125 przeczytań

Powiem to od razu, bo cały ten tydzień woła o nazwanie rzeczy po imieniu: właśnie zobaczyliśmy, jak rząd USA reguluje sztuczną inteligencję przez improwizację. Anthropic spędził kilka dni na gaszeniu pożaru, którego nie wywołał żaden wyciek ani atak, tylko nagły rozkaz administracji Trumpa, żeby odciąć dostęp do najnowszych modeli wszystkim obcokrajowcom. Wszystkim - również tym siedzącym w Stanach. Również własnym pracownikom firmy. Efekt? Anthropic po prostu wyłączył Fable 5 i Mythos 5 dla każdego, bo łatwiej zgasić światło w całym budynku niż zgadywać, kto ma prawo w nim zostać.

I tu zaczyna się absurd, który próbuję rozwikłać. Bo na jakiej właściwie podstawie prawnej? Administracja publicznie tego nie wyjaśniła. W oświadczeniu na swojej stronie Anthropic napisał tylko, że rząd powołał się na „national security authorities”, by uzasadnić „an export control directive” wobec modeli. Kontrola eksportu. Brzmi poważnie, prawniczo, twardo. Problem w tym, że nikt nie potrafi powiedzieć, co konkretnie Anthropic miałby tu eksportować.

Co to znaczy „eksportować” chatbota?

Kontrola eksportu od dekad dotyczyła rzeczy, które da się przewieźć przez granicę: broni, sprzętu, narzędzi. Z czasem ramy rozciągnięto na mniej namacalne dobra - oprogramowanie, kod źródłowy, dane techniczne, a nawet pliki do druku 3D broni. Ale to wciąż były rzeczy: coś, co można skopiować, pobrać, wręczyć, zabrać. Joe Biden próbował tą logiką objąć wagi modeli AI, czyli rdzeń danych, który da się skopiować i uruchomić gdzie indziej. Administracja Trumpa w drugiej kadencji szybko ten pomysł porzuciła.

Tymczasem rozkaz wobec Anthropic nie pasuje do żadnej z tych szufladek. Nie ma tu żadnego transferu. Mythos i Fable dalej siedzą na serwerach Anthropic. Użytkownik nie dostaje kodu źródłowego, nie dostaje wag, nie dostaje kopii modelu - dostaje odpowiedź chatbota na swoje pytanie. To trochę tak, jakby zakazać komuś eksportu restauracji, bo cudzoziemiec zjadł w niej obiad.

Teoretycznie eksportem mogłaby być jakaś konkretna informacja generowana przez model. Tylko dlaczego w takim razie wyłączać cały system, zamiast ograniczyć tę jedną funkcję? Albo eksportem jest sam dostęp - zdalny dostęp do usług chmurowych to znana dziura w obecnych regulacjach eksportowych. Tyle że tę dziurę Kongres dopiero próbuje załatać ustawą, która właśnie przechodzi przez Senat. Czyli rząd egzekwuje regułę, której jeszcze nie ma.

Pierwszy raz w historii

Anthropic dorzucił do tego drugi wątek: rząd miał się obawiać „jailbreaka„, który grupy powiązane z Chinami mogły wykorzystać do dostępu do modeli. Firma odpowiada, że ten jailbreak i tak nie pozwalał obejść wszystkich jej zabezpieczeń. Innymi słowy - panika była, ale uzasadnienie kruche.

Najlepszy komentarz do całej sprawy padł od Hanny Dohmen, starszej analityczki z Center for Security and Emerging Technology w Georgetown. Zapytana przez The Verge, czy rozkaz naciąga istniejące przepisy, odparła, że bez dostępu do dokładnego języka dyrektywy to „otwarte pytanie”. Ale jedno jest dla niej jasne.

„Z tego, co wiem, to pierwszy raz, kiedy amerykańska kontrola eksportu została użyta do kontrolowania dostępu do modelu AI w taki sposób.”

- Hanna Dohmen, Center for Security and Emerging Technology, Georgetown University

Pierwszy raz. To słowo powinno spędzać sen z powiek wszystkim, którzy myślą, że rynek AI rozwija się w stabilnym otoczeniu prawnym. Bo precedens właśnie powstał - i nie powstał w drodze ustawy, debaty czy choćby opublikowanego rozporządzenia, tylko nagłego rozkazu, którego treści nikt z zewnątrz nie widział.

Moja teza jest prosta: rządzenie sztuczną inteligencją przez nieprzejrzyste, doraźne interwencje jest nie do utrzymania. Nie dlatego, że państwo nie ma prawa reagować na zagrożenia - ma. Ale jeśli regulator może z dnia na dzień wyłączyć dostęp do narzędzia używanego przez miliony, powołując się na podstawę prawną, której nie pokazuje, to mamy do czynienia nie z polityką, tylko z kaprysem ubranym w język bezpieczeństwa narodowego.

Anthropic nie odpowiedział na prośbę The Verge o komentarz. Trudno się dziwić - co właściwie miałby powiedzieć? Że eksportował coś, czego nie da się wyeksportować, na podstawie reguły, której jeszcze nie uchwalono? W tym tygodniu branża AI dostała lekcję, której nikt nie zamawiał: zabezpieczenia techniczne mogą być najlepsze na świecie, ale i tak nie ochronią cię przed jednym telefonem z Waszyngtonu.