Czy da się powstrzymać niebezpieczne modele AI? Sprawa Anthropic mówi: nie
Anthropic wyłączył dwa modele po nakazie rządu USA, ale eksperci twierdzą, że to tylko opóźnia nieuniknione - takie zdolności i tak nadejdą.
👁 127 przeczytań
Wyobraźcie sobie firmę, która buduje narzędzie tak potężne, że sama je opisuje słowem „niebezpieczne”, a potem ostrzega: i tak nie ma znaczenia, czy je wyłączymy. Dokładnie to wydarzyło się w zeszłym tygodniu, gdy Anthropic ściągnął z rynku swoje nowe modele Claude Fable 5 i Mythos 5 po dyrektywie eksportowej rządu USA. Nakaz był bezwzględny: zakaz korzystania z usług przez „jakiegokolwiek obcokrajowca”. Firma rozmawia z Białym Domem od piątku i wciąż nie wynegocjowała porozumienia, które pozwoliłoby przywrócić dostęp.
Pozornie to klasyczny spór regulacyjny: agresywna administracja kontra firma technologiczna. Ale im głębiej w to wchodzę, tym wyraźniej widzę, że prawdziwa historia jest dużo bardziej niewygodna. Bo eksperci, których cytuje WIRED, mówią jednym głosem: to wyłączenie niczego nie zatrzyma. Co najwyżej opóźni.
Miecz obosieczny, który Anthropic sam wykuł
Od debiutu Mythos w kwietniu Anthropic powtarzał - i ostrzegał - że model potrafi nie tylko wyszukiwać luki w oprogramowaniu, by pomóc je łatać, ale też kombinować, jak je wykorzystać. To samo zdanie, które brzmi cudownie w ustach obrońcy, w ustach napastnika brzmi jak instrukcja ataku. Firma nie udawała, że tego nie widzi. W ogłoszeniu Mythos 5 i Claude Fable 5 napisała wprost:
Ogromna część zaawansowanego użycia modeli AI ma podwójne zastosowanie: te same zapytania, które są korzystne w rękach specjalistów od cyberbezpieczeństwa i badaczy biologii, mogą być niebezpieczne, jeśli trafią do złośliwych aktorów.
- napisał Anthropic na swoim blogu.
Dlatego firma początkowo wypuściła wersję Mythos Preview tylko do wąskiego konsorcjum w ramach grupy roboczej o nazwie Project Glasswing. Mythos 5 również trafił prywatnie do tej grupy. Publicznie udostępniono za to Claude Fable 5 - model tej samej klasy co Mythos, ale z zabezpieczeniami blokującymi odpowiedzi na pytania z biologii i cyberbezpieczeństwa.
I tu zaczyna się problem. Pod koniec zeszłego tygodnia administracja Trumpa ograniczyła oba modele, bo uznała, że bariery w Fable 5 da się wyłączyć i odsłonić pełne możliwości Mythos 5. Innymi słowy: rząd przyjął, że zabezpieczenie to nie ściana, tylko zasłona, którą ktoś zdeterminowany odsunie. A to czyni z modelu, ich zdaniem, zagrożenie dla bezpieczeństwa narodowego.
„To nie jeden model. To ogólny trend technologii”
Najciekawsze jest jednak to, co mówią ludzie patrzący na tę awanturę z boku. Bo ich diagnoza brzmi mniej więcej tak: spieracie się o pojedynczy produkt jednej firmy, podczas gdy fala jest znacznie szersza.
Tarah Wheeler, dyrektorka ds. bezpieczeństwa w firmie konsultingowej TPO Group, nie zostawia złudzeń:
Skrajną krótkowzrocznością jest sądzić, że żaden inny konkurent Anthropic nie rozwinie zdolności podobnych do Mythos, albo że już tego nie zrobił.
Jej zdaniem są firmy depczące Anthropic po piętach, które prawdopodobnie mają już takie możliwości i trzymają je w rezerwie, obserwując, jak Anthropic jest traktowany w obecnym klimacie regulacyjnym. To brzmi jak gra w pokera, w której wszyscy mają mocne karty, ale nikt nie chce rzucić ich pierwszy.
Sam Anthropic powtarza to od premiery Mythos Preview. Logan Graham, szef zespołu „frontier red team” w firmie, powiedział WIRED jeszcze w kwietniu:
Prawdziwy przekaz jest taki, że nie chodzi o ten model ani o Anthropic. Musimy przygotować się już teraz na świat, w którym te zdolności będą szeroko dostępne za 6, 12, 24 miesiące.
Dowody na to, że nie jest to teoria, już są. OpenAI w połowie kwietnia także zrobiło prywatną premierę modelu skupionego na cyberbezpieczeństwie i ogłosiło rozszerzoną strategię w tym obszarze. A badacze podkreślają coś jeszcze bardziej trzeźwiącego: nawet istniejące modele, z odpowiednio dopracowaną „uprzężą” sterującą, można wykorzystać do zaawansowanego polowania na luki i tworzenia exploitów. Innymi słowy, problem nie czeka gdzieś w przyszłości. Częściowo już tu jest.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →List, który podważa cały sens nakazu
W niedzielę spora grupa liderów cyberbezpieczeństwa wystosowała otwarty list do administracji, argumentując, że dyrektywa eksportowa Białego Domu jest po prostu chybiona. Bruce Schneier, badacz z Uniwersytetu Harvarda i Uniwersytetu w Toronto, ujął sedno najkrócej, jak się da: „To nie jeden model; to ogólny trend technologii”. I dopowiedział to, co rządy najmniej chcą słyszeć: modele robią się mniejsze i tańsze.
To jest moim zdaniem prawdziwa puenta tej historii. Kontrola eksportu zakłada, że istnieje wąska bramka, którą można zamknąć - jedna firma, jeden produkt, jeden kraj. Tymczasem ta technologia rozlewa się jak woda: przez open-weight, przez konkurencję, przez fakt, że tę samą zdolność można zbudować z tańszych klocków. Można wyłączyć Mythos 5. Nie da się wyłączyć trendu.
Anthropic jest dziś ostrzem włóczni, jak ujmują to obserwatorzy. Ale ostrze to nie cała włócznia. A pytanie, które naprawdę warto sobie zadać, nie brzmi już „czy powstrzymamy niebezpieczne modele”, tylko „co robimy w świecie, w którym one już są”.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
