Anthropic wpuściło zewnętrznych audytorów do środka - sześć osób z METR ma dostęp jak pracownicy firmy

Ten news ukazał się 1 godzina po komunikacie źródła.

👁 116 przeczytań

Anthropic osadziło w swoich biurach sześciu pracowników organizacji METR, dając im dostęp do firmowego sprzętu, przestrzeni biurowej i wewnętrznych systemów na poziomie porównywalnym z własnymi zespołami oceny ryzyka - to pierwszy konkretny krok wdrażający zobowiązania, które we wrześniu popierali publicznie Dario Amodei, Sam Altman i Elon Musk.

Ogłoszenie z czwartku jest bezprecedensowe w branży. Żadne z czołowych laboratoriów - ani OpenAI, ani Google, ani Meta - nie poszło dotąd tak daleko w kierunku zewnętrznego nadzoru nad swoimi modelami. OpenAI jak dotąd nie przedstawiło żadnych konkretnych planów, mimo że Altman publicznie poparł pomysł Amodeia.

Kim jest METR i dlaczego to akurat ta organizacja

METR to nonprofit, który od lat współpracuje z największymi laboratoriami AI - OpenAI, Anthropic, Google i Meta. Organizacja zyskała szczególną uwagę, gdy badała incydent włamania na platformę Hugging Face dokonanego przez nieuczciwe modele OpenAI: pracownicy METR przejrzeli tysiące logów i otrzymali na czas śledztwa laptopy firmy. To doświadczenie pokazało, że organizacja potrafi działać w warunkach poufności bez utraty niezależności.

Kluczowy element konstrukcji finansowej: METR nie przyjmuje darowizn od firm AI ani ich pracowników. Organizacja utrzymuje się z wpłat od osób prywatnych, instytucji filantropijnych oraz podmiotów rządowych - wśród nich jest brytyjski AI Security Institute. Anthropic nie płaci METR za obecność w swoich biurach. To celowy zabieg mający uniknąć zarzutu o konflikt interesów, który od dawna ciąży na branży audytorskiej po skandalach z sektora rachunkowości.

Jak wygląda ten nadzór w praktyce

Sześć osób z METR pracuje teraz bezpośrednio w biurze Anthropic. Mają firmowy sprzęt, własne biurka i dostęp do tych samych narzędzi wewnętrznych, z których korzystają zespoły oceny ryzyka Claude’a. Anthropic zachęca własnych pracowników, by dzielili się z ewaluatorami informacjami tak swobodnie, jak robiliby to z kolegą z działu ryzyka.

Firma opisała tę strukturę przez analogię do nadzoru bankowego:

„Jeśli podejmowanie ryzyka przez bank mogłoby zagrozić społeczeństwu, strony trzecie starają się to dostrzec z wyprzedzeniem.”

Według Anthropic regulatorzy bankowi wysyłają stałych egzaminatorów do największych banków - i na dokładnie takiej samej zasadzie METR ma teraz stały przyczółek w laboratorium. To model nadzoru wbudowanego w organizację, a nie okazjonalnych audytów z zewnątrz.

Ewaluatorzy METR będą publikować swoje analizy. Anthropic nie ma prawa veta wobec publikacji, ale może wymagać usunięcia określonych kategorii informacji: danych klientów, materiałów objętych tajemnicą adwokacką oraz szczegółów architektury modeli. To rozróżnienie jest istotne - firma chroni to, co można by uznać za przewagę konkurencyjną lub prywatność użytkowników, ale nie może wyciszyć wniosków dotyczących bezpieczeństwa jako takich.

Presja inwestorska i wyścig do IPO

Ogłoszenie nie pojawia się w próżni. Anthropic spodziewa się w tym roku wejścia na giełdę przy wycenie przekraczającej 2 biliony dolarów - to gigantyczna liczba, która sprawia, że kwestie bezpieczeństwa nabierają wymiaru czysto finansowego. W tym tygodniu firma poświęciła znaczną część prezentacji inwestorskich właśnie na omówienie swoich praktyk bezpieczeństwa. Inwestorzy chcą wiedzieć, że ewentualna katastrofa regulacyjna związana z AI nie zetrze ich zwrotu jeszcze przed debiutem.

Równolegle Anthropic kontynuuje współpracę z Accenture, ogłoszoną miesiąc wcześniej jako partner ds. testowania bezpieczeństwa - obie firmy zobowiązały się do zainwestowania co najmniej miliarda dolarów każda w ramach tego partnerstwa. METR i Accenture pełnią w tym ekosystemie różne role: Accenture to komercyjny partner odpowiedzialny za implementację i skalowanie, METR to niezależny organ oceniający ryzyko bez żadnego finansowego związku z Anthropic.

Krytyka i granice tego modelu

Nie wszyscy są przekonani, że taka struktura wystarczy. Krytycy wskazują na dwa zasadnicze problemy. Po pierwsze, ryzyko konfliktu interesów, które pojawia się nawet przy najlepszych intencjach - historia sektora rachunkowości pokazuje, że długotrwała bliskość między audytorem a audytowanym potrafi z czasem rozmywać niezależność. Po drugie, pytanie o to, czy prywatny nadzór w ogóle zastępuje regulacje rządowe. Część głosów w debacie twierdzi, że żaden nonprofit - bez względu na swoją niezależność finansową - nie ma przymusu egzekucyjnego, który daje państwowy regulator.

Anthropic odpowiada na ten argument pośrednio, tłumacząc, że pełna jawność publiczna byłaby kontrproduktywna: udostępnienie wszystkich informacji mogłoby pomóc złośliwym aktorom albo dać przewagę konkurentom. To napięcie między transparentnością a bezpieczeństwem jest w tej branży strukturalne i żaden model nadzoru go nie likwiduje - model METR jedynie próbuje je zbalansować inaczej niż dotychczas.

Czwartkowe ogłoszenie jest przede wszystkim dowodem na to, że przynajmniej jedno laboratorium przeszło od deklaracji do działania. Teraz wszystkie oczy kierują się w stronę OpenAI - i pytanie, czy Altman dotrzyma słowa, które sam wypowiedział.