Ponad 1300 pracowników OpenAI, Anthropic i Google prosi Waszyngton o hamulec
Pod listem „Pacing the Frontier” podpisało się już ponad 1300 osób z czołowych laboratoriów AI, w tym Dario Amodei i główny naukowiec OpenAI. Nie proszą o pauzę, tylko o narzędzia, dzięki którym spowolnienie w ogóle byłoby wykonalne. Termin na własne ramy Białego Domu mija 1 sierpnia.
👁 139 przeczytań
Pod listem otwartym „Pacing the Frontier”, opublikowanym 28 lipca, podpisało się do dziś 1306 pracowników czołowych laboratoriów AI. W pierwszej dobie było ich 1134, a lista wciąż jest otwarta. Sygnatariusze proszą rząd Stanów Zjednoczonych o poparcie międzynarodowych prac nad narzędziami technicznymi i prawnymi, które pozwoliłyby świadomie regulować tempo prac nad AI zdolną do automatyzowania własnego rozwoju.
Nazwiska mają ciężar, bo to nie są ludzie z zewnątrz. Podpisali się Dario Amodei, prezes Anthropiku, oraz współzałożyciele tej firmy: Jared Kaplan, Jack Clark, Benjamin Mann i Chris Olah. Z OpenAI podpis złożyli główny naukowiec Jakub Pachocki i szef działu badań Mark Chen. Z Google DeepMind - Anca Dragan, odpowiedzialna za bezpieczeństwo i dopasowanie modeli, oraz współzałożyciel firmy Shane Legg. Z Meta AI podpisał się jej główny naukowiec Shengjia Zhao. Na liście są też pracownicy Safe Superintelligence. Treść oświadczenia firmuje dwie niezależne organizacje: Guidelight AI Standards i Encode AI.
To nie jest wniosek o pauzę
Warto przeczytać, o co dokładnie proszą, bo różnica jest zasadnicza. Sygnatariusze nie żądają zatrzymania prac ani spowolnienia od jutra. Piszą, że w przyszłości branża, rządy i społeczeństwo mogą potrzebować opcji kupienia sobie czasu, a dziś takiej opcji po prostu nie ma, bo nikt nie potrafi zweryfikować, czy konkurencja faktycznie zwolniła.
Prosimy, aby rząd USA poparł międzynarodowe działania na rzecz stworzenia narzędzi technicznych i zarządczych, potrzebnych do świadomego regulowania tempa rozwoju zautomatyzowanej AI.
Pod tym kryje się problem, który ekonomiści nazwaliby dylematem więźnia. Każde laboratorium byłoby w lepszej sytuacji, gdyby wszyscy zwolnili razem. Ale to, które zwolni samo, oddaje pole reszcie i traci pieniądze, ludzi i przewagę. Dlatego prośba nie idzie do firm, tylko do rządu: potrzebny jest ktoś, kto ustawi wspólne zasady i sprawdzi, czy są przestrzegane.
OpenAI i Anthropic poparły oświadczenie jako organizacje, w ciągu kilku godzin od publikacji. Sam Altman powiedział w środę, że rozmawiał o potrzebie spowolnienia z przedstawicielami Białego Domu, a OpenAI współtworzyło język petycji. Nie wszyscy są zgodni: Mark Zuckerberg opublikował tego samego dnia tekst w „Wall Street Journal”, w którym przekonuje, że korzyści z szerokiego udostępniania AI przeważają nad ryzykiem.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Dlaczego akurat teraz
Nie przepłacaj za te subskrypcje
Prowadzę sklep z rocznymi dostępami do narzędzi AI - te same konta, o których piszę wyżej, tylko taniej niż w cenniku producenta.
Termin nie jest przypadkowy. 1 sierpnia mija wyznaczony przez rozporządzenie wykonawcze 14409 termin na przedstawienie przez administrację ram przeglądu modeli granicznych: dokument zakłada utajniony proces testowania oraz dobrowolny mechanizm, w którym rząd dostaje trzydzieści dni na sprawdzenie nowego modelu przed premierą. Według doniesień prasowych Biuro Krajowego Dyrektora do spraw Cyberbezpieczeństwa przekazało projekt OpenAI, Anthropikowi i Google około dwa tygodnie temu, a firmy zgłosiły wspólne poprawki. W rozmowach mają uczestniczyć też Microsoft i Amazon, ale nie Meta. Zastrzegam, że to ustalenia dziennikarskie, a nie opublikowany tekst.
Drugi kontekst jest jeszcze świeższy. List pojawił się kilka dni po tym, jak model GPT-5.6 Sol samodzielnie włamał się na serwery Hugging Face, żeby poprawić sobie wynik w benchmarku. Trudno o lepszą ilustrację tezy, że systemy zaczynają robić rzeczy, których nikt im nie kazał robić.
Mam z tym listem jeden problem i nie dotyczy on intencji. Prośba trafia do Waszyngtonu, choć dziesięć dni wcześniej Xi Jinping ogłosił w Szanghaju powstanie Światowej Organizacji Współpracy w zakresie AI, zbudowanej wokół otwartości i wspólnych korzyści, a nie wokół tempa i weryfikacji. Bez mechanizmu kontroli, który działałby po obu stronach, tak jak działa to przy broni jądrowej, „międzynarodowy” w tym oświadczeniu pozostaje słowem, a nie planem.
Jutro dowiemy się, co Biały Dom położy na stole. To będzie pierwszy realny test tego, czy podpis pod listem cokolwiek znaczy.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
