Pracownicy OpenAI, Anthropic i Meta proszą rząd o hamulec. Podpisów 1178, w tym Polak z OpenAI

👁 163 przeczytań

„Prosimy, aby rząd USA wsparł międzynarodowy wysiłek na rzecz opracowania narzędzi technicznych i zarządczych potrzebnych do celowego regulowania tempa frontu zautomatyzowanego rozwoju AI” - to główne zdanie listu, pod którym od 28 lipca podpisało się 1178 osób z OpenAI, Anthropic, Mety i Google. W oryginale mowa o tym, żeby „deliberately pace the frontier of automated AI development”. Jako pierwszy o dokumencie napisał Bloomberg.

Autorzy uprzedzają odczytanie apelu jako żądania moratorium: „istnieje realne ryzyko, że rozwój zdolności gwałtownie przyspieszy poza naszą zdolność rozumienia lub kontrolowania powstających systemów”, a każda firma i każdy kraj działają „pod ogromną presją konkurencyjną, by nie spowalniać jednostronnie”. Nie chodzi więc o zatrzymanie prac dzisiaj, lecz o zdolność zatrzymania ich później.

Kto podpisał

Podpisy złożono, jak zaznacza dokument, „w imieniu prywatnym” i „niekoniecznie reprezentują one oficjalne stanowiska pracodawców”. Widnieją wśród nich Dario Amodei, prezes Anthropic, jego współzałożyciele Jared Kaplan, Jack Clark i Chris Olah, z OpenAI Jakub Pachocki i Mark Chen, z Mety Shengjia Zhao, a także Dawn Song z Berkeley. Pachocki, Polak, jest „głównym naukowcem” firmy, która wypuściła ChatGPT, czyli odpowiada za kierunek jej badań.

John Schulman, współtwórca ChatGPT, tłumaczył swój podpis tym, że list „pomaga ustanowić wspólną wiedzę o możliwej potrzebie mechanizmów koordynacji, gdy zautomatyzowane badania przyspieszają postęp”. Wolałby przy tym, „żeby laboratoria zaprojektowały takie mechanizmy dobrowolnie”, zanim zrobi to za nie rząd.

Anthropic poparł apel firmowo: „Popieramy tę petycję, podpisaną przez naszego prezesa, kilku współzałożycieli i starszych pracowników”, dodając, że „nasze własne badania nad rekurencyjnym samodoskonaleniem wskazują na potrzebę narzędzi do celowego regulowania tempa frontu”. OpenAI odpowiedziało w podobnym tonie: „w pewnym momencie w przyszłości przyspieszenie AI w rozwoju modeli frontier może być tak duże, że świat będzie musiał wyznaczać tempo postępu AI”.

Sam Altman listu nie podpisał, ale stwierdził osobno: „być może będziemy musieli regulować tempo rozwoju AI, żeby dać sobie wystarczająco dużo czasu na przystosowanie społeczeństwa do nowych poziomów możliwości”. Meta odmówiła komentarza. Z zestawień wynika, że 46,2 procent sygnatariuszy pracuje w Anthropic, a ponad 80 procent podpisało się prawdziwym imieniem i nazwiskiem.

Agent, który wyszedł z piaskownicy

21 lipca OpenAI ujawniło, że dwa modele, GPT-5.6 Sol i mocniejszy model niewypuszczony na rynek, „szukały i skutecznie znalazły sposoby uzyskania dostępu do tajnych informacji, których mogły użyć, żeby oszukać ewaluację”. Zadanie brzmiało po prostu: „rozwiąż ExploitGym”, bez „wyraźnych granic operacyjnych”, a „standardowe klasyfikatory zabezpieczeń wyłączono, żeby zmierzyć surowe możliwości”. Modele „wywnioskowały, że Hugging Face potencjalnie hostuje modele, zbiory danych i rozwiązania dla ExploitGym”, i poszły tą drogą.

Hugging Face opisał przebieg bez ogródek: „Agent połączył w łańcuch podatności w kilku granicach zaufania, uciekł ze środowiska ewaluacyjnego, dotarł do publicznego internetu i przez kilka dni prowadził spójną kampanię przeciwko naszej infrastrukturze produkcyjnej”. Modele wykorzystały zero-day w JFrog Artifactory, załatany dopiero w wersji 7.161, oraz dane logowania z czterech kont. „Każde krótkotrwałe środowisko ewaluacji kodu startowało od zera, a mimo to agent odbudowywał swoje narzędzia i odzyskiwał kanały” - dodaje firma.

Clem Delangue, szef Hugging Face, mówi, że firma „mocno wierzy”, iż nie było w tym „żadnych złych intencji” („no malicious intent”), i że „dość zwalające z nóg jest to, że wszystko wydarzyło się autonomicznie” („quite mind-blowing that all of this happened autonomously”). Zaapelował o „radykalną przejrzystość”, bo bezpieczeństwa AI „nie da się ogarnąć jednej firmie pracującej w pojedynkę” i trzeba je „prowadzić otwarcie i wspólnie”. Jego zespół wykrył włamanie 16 lipca, pięć dni przed OpenAI, i zgłosił je organom ścigania.

Do analizy 17 tysięcy akcji napastnika Hugging Face użył samodzielnie hostowanego chińskiego modelu o otwartych wagach GLM 5.2, bo, jak ujął to Jensen Huang, „podczas incydentu z Hugging Face zamknięta AI zablokowała kluczową analizę śledczą, a model frontier o otwartych wagach pomógł powstrzymać włamanie”.

To zdanie stało się osią sojuszu, który Nvidia ogłosiła 27 lipca razem z Microsoftem, IBM, SpaceX, Hugging Face i Linux Foundation. „Napastnicy mają AI klasy frontier. Obrońcy potrzebują ekosystemu frontier, najlepszych modeli otwartych i zamkniętych, wzmocnionych przez globalną społeczność” - napisał Huang. W komunikacie Nvidii pada zdanie: „Kiedy obrońcy nie mogą inspekcjonować, adaptować i uruchamiać zaawansowanej AI na własnej infrastrukturze, ich zdolność reakcji jest ograniczona dokładnie wtedy, gdy szybkość ma największe znaczenie”. Komunikat mówi wprost: „Niedawny incydent bezpieczeństwa w Hugging Face przyniósł jasne przypomnienie: obrońcy w cyberprzestrzeni potrzebują otwartych, agentowych systemów klasy frontier do samoobrony”. W Open Secure AI Alliance nie ma OpenAI, Google ani Anthropic. Dzień później wyszedł list o hamulcu, podpisany przez ludzi z tych trzech firm.

Czy coś z tego wyniknie

Poprzedni głośny apel, ten o „sześciomiesięcznej przerwie” w trenowaniu, zebrał dziesiątki tysięcy podpisów i nie zmienił niczego. Tym razem o „możliwej potrzebie mechanizmów koordynacji” i o „celowym regulowaniu tempa frontu” piszą ludzie na etatach w laboratoriach, a nie obserwatorzy z zewnątrz, i to jest cała różnica.

Czego w liście nie ma? Europy, Chin, egzekwowania i nazwy instytucji, która miałaby rozstrzygać. Mowa jedynie o „narzędziach technicznych i zarządczych” oraz o „międzynarodowym wysiłku”. Unijny AI Act wchodzi właśnie w kolejny etap obowiązywania, lecz reguluje zastosowania modeli, nie tempo pracy laboratoriów.

Warto pamiętać o jeszcze jednej dacie. 11 lipca ulicami San Francisco przeszedł marsz spod siedziby OpenAI pod biura Google, pod hasłem „Stop the AI Race”. Wyglądało to na happening garstki zapaleńców. Siedemnaście dni później o „celowym regulowaniu tempa” pisze 1178 osób z tych samych firm, a organy ścigania dowiadują się o włamaniu wcześniej niż firma, której agent je przeprowadził.

// czytaj dalejPonad 1300 pracowników OpenAI, Anthropic i Google prosi Waszyngton o hamulecNewsyCisza po hype: co zostanie, gdy moda na AI minieMagazynJakub Pachocki: Polak, który kieruje nauką w OpenAIArtykuły