Spowolnienie AI: hamulec, którego nikt nie chce wcisnąć

28 września OpenAI wstrzymało nowy model, bo nie trzymał się granic. 29 września pokazało ponad 20 nowości, w tym agentów pracujących całą dobę. To nie hipokryzja, tylko arytmetyka. Spowolnienie AI w wersji, o której mówią szefowie laboratoriów, jest ekonomicznie prawie niemożliwe. Dlatego zamiast czekać, aż ktoś wciśnie hamulec, lepiej zająć się tym, co naprawdę może zadziałać.

„A co to to, co to to, kto to tak pcha, że pędzi, że wali, że bucha, buch-buch?”, pytał Julian Tuwim w „Lokomotywie” i od razu odpowiadał: para gorąca. W 1938 roku taka odpowiedź wystarczała każdemu przedszkolakowi. Lokomotywa sztucznej inteligencji pędzi dziś szybciej niż kiedykolwiek i wszyscy w kabinie zgodnie mówią, że trzeba by zwolnić. Odpowiedź na pytanie Tuwima jest jednak mniej poetycka niż w wierszu. Pcha ją około 740 mld dolarów zaplanowanych na jeden rok, w sporej części pożyczonych.

We wtorek wieczorem czasu polskiego relacjonowałem na żywo DevDay, doroczną konferencję OpenAI. Sam Altman otworzył keynote liczbą 1,2 mld użytkowników ChatGPT tygodniowo, a potem posypało się: agenci Dots z własnym komputerem w chmurze, GPT-6.1 Sol za jedną piątą ceny Astry, tryb Ultrafast, plan Pro 500 za 500 dolarów miesięcznie, w Polsce 2199 zł z VAT. Według CNBC około 2500 osób na sali zobaczyło ponad 20 produktów i funkcji, a przed wejściem stali protestujący z transparentami przeciwko pędzącej technologii. Tego samego dnia dyrektorka finansowa OpenAI Sarah Friar powiedziała CNBC: „Kiedy musimy regulować tempo na granicy możliwości, zrobimy to. To właśnie teraz pokazujemy”. Kilka godzin wcześniej ta sama stacja potwierdziła, że firma prowadzi wstępne rozmowy z inwestorami o kolejnych mniej więcej 30 mld dolarów.

Nie przytaczam tego, żeby przyłapać Friar na sprzeczności. Przytaczam, bo w tej jednej wypowiedzi mieści się cały problem. Wszyscy chcą hamulca. Nikt nie może go wcisnąć.

Wszyscy za, nikt nie hamuje

Jeszcze nigdy o zwalnianiu nie mówili tak zgodnie ludzie, którzy sami budują te modele. 28 lipca ponad tysiąc pracowników OpenAI, Anthropic, Google i Mety podpisało list „Pacing the Frontier”, w którym prosili rząd USA o narzędzia do „celowego regulowania tempa” rozwoju AI. Wśród sygnatariuszy był Jakub Pachocki, gdańszczanin i główny naukowiec OpenAI. 6 września opublikował esej „Obcy umysł”, w którym napisał, że żadne laboratorium nie rozwiązało problemu zgodności i monitoringu na tyle, żeby dalej skalować z maksymalną prędkością, i że oczekuje, a nawet ma nadzieję, że dobrowolne spowolnienia staną się powszechne.

Pachocki nie jest pierwszym Polakiem, który od środka ostrzega przed technologią, którą sam współtworzy. Józef Rotblat, urodzony w Warszawie fizyk, pod koniec 1944 roku opuścił projekt Manhattan, gdy stało się jasne, że Niemcy nie zbudują bomby. Był jedynym uczonym, który odszedł stamtąd z powodów moralnych, a pół wieku później odebrał Pokojową Nagrodę Nobla razem z ruchem Pugwash. Różnica między tymi dwoma gestami dobrze opisuje naszą epokę. Rotblat wyszedł z laboratorium. Pachocki w nim zostaje i pisze eseje. Nie czynię mu z tego zarzutu. Uważam, że w 2026 roku hamulca nie da się już pociągnąć, wysiadając z pociągu, bo pociąg pojedzie dalej bez ciebie.

12 września Dario Amodei ogłosił esej „We Must Pace the Frontier” z planem w trzech krokach: niezależni ewaluatorzy na stałe osadzeni w laboratoriach, koordynacja firm z krajów demokratycznych i wreszcie porozumienie globalne. W ciągu kilku godzin poparli go Sam Altman, Elon Musk i Demis Hassabis. Musk zmieścił się w trzech słowach: „Dario ma rację”.

A potem nic się nie zmieniło. Amerykańska czwórka dalej buduje centra danych, OpenAI dalej zbiera pieniądze i pokazuje agentów, którzy nie śpią. Łatwo z tego zrobić tekst o cynizmie miliarderów. Uważam, że to błędna lektura. Najtrafniejsze zdanie całego sporu napisali zresztą sami zainteresowani. W lipcowym liście przyznali, że każda firma i każdy kraj działają pod „intensywną presją konkurencyjną, by nie spowalniać jednostronnie”. To nie wymówka, tylko opis pułapki, w której siedzą wszyscy, łącznie z autorami listu.

Każdy z nich z osobna podejmuje racjonalną decyzję, żeby nie hamować. Razem jadą tam, gdzie żaden nie chce dojechać.

Piotr Olszewski

Para gorąca

Zacznijmy od pieniędzy, bo to one trzymają nogę na gazie. Według danych, które CNBC zebrało pod koniec lipca, Amazon zapowiedział na 2026 rok około 200 mld dolarów wydatków inwestycyjnych, Alphabet do 205 mld, Microsoft około 190 mld razem z leasingiem, a Meta do 145 mld. Po zsumowaniu górnych widełek wychodzi mi około 740 mld dolarów w jednym roku, czyli mniej więcej 2,7 bln zł. Większość tej kwoty idzie w centra danych i chipy do AI.

Ważniejsze od samej kwoty jest to, skąd pochodzi. Długoterminowe zadłużenie Amazona wzrosło w pierwszym kwartale o 81 procent, do 119 mld dolarów. Dług Alphabetu w pierwszym półroczu urósł o 111 procent, do 98 mld, a firma uważana od lat za maszynkę do drukowania gotówki w drugim kwartale po raz pierwszy wykazała ujemne przepływy pieniężne. Kiedy w lipcu podniosła prognozę wydatków, jej akcje spadły, a razem z nimi akcje Amazona, Mety i Microsoftu. Przypomina mi się słynna kwestia z „Ziemi obiecanej” Reymonta, którą pokolenia pamiętają z filmu Wajdy: trzech wspólników z Łodzi nie ma nic, a razem ma akurat tyle, żeby założyć wielką fabrykę. Dzisiejsi fabrykanci mają bardzo dużo, ale fabryki i tak stawiają na kredyt, licząc, że przyszłe przychody spłacą dzisiejsze długi.

Przełóżmy to na język hamulca. Centrum danych zbudowane na kredyt, które czeka, aż laboratorium „dopasuje tempo”, to odsetki bez przychodów. Chip, który stoi, traci wartość tak samo jak chip, który pracuje, bo za dwa lata na rynku będą szybsze. Każdy kwartał dobrowolnego spowolnienia trzeba by wytłumaczyć inwestorom, którzy już dziś karzą za wydatki bez szybkiego zwrotu. To moja opinia, ale nie znam zarządu, który by takie tłumaczenie przetrwał.

OpenAI jest w jeszcze trudniejszym położeniu. W marcu zebrało 122 mld dolarów przy wycenie 852 mld. Według CNBC w czerwcu poufnie złożyło prospekt emisyjny, a debiutu giełdowego rynek spodziewa się w przyszłym roku. Firma, która szykuje się do wejścia na giełdę, nie może napisać w prospekcie, że zamierza rosnąć wolniej, niż potrafi. Może najwyżej ogłosić, że rośnie odpowiedzialnie. I dokładnie to zrobiła Friar na DevDay.

Zwolnić razem to zmowa

W 1950 roku dwaj matematycy z RAND Corporation, Merrill Flood i Melvin Dresher, opisali grę, którą Albert Tucker nazwał potem dylematem więźnia. Dwóch graczy wygrywa najwięcej, gdy obaj współpracują, ale każdy z osobna zyskuje, zdradzając drugiego, więc obaj zdradzają i obaj tracą. Teoretycznie z tej pułapki jest wyjście: umówić się. Amodei proponuje właśnie to w drugim kroku swojego planu i sam przyznaje, że potrzebuje do tego zgody rządu, bo rozmowy konkurentów o tempie rozwoju wymagają „wąskiego wyłączenia” spod prawa antymonopolowego.

Nie zdążył. 18 września czterech płatnych subskrybentów ChatGPT, Claude’a, Gemini i Groka złożyło w federalnym sądzie w Kalifornii pozew zbiorowy przeciwko OpenAI, Anthropic, Google i SpaceXAI. Zarzucają firmom zmowę: skoro wszystkie publicznie zgodziły się zwolnić, klienci płacą tyle samo za wolniejszy postęp. Jako dowód wskazują esej Amodeia, reakcje Altmana, Muska i Hassabisa z tego samego dnia oraz lipcowy list pracowników. Powodowie piszą, że nie mają nic przeciwko temu, żeby każda firma sama zwolniła dla bezpieczeństwa. Nie zgadzają się na „skrót”, w którym zbiorowa powściągliwość zastępuje indywidualną odpowiedzialność.

Nie wiem, czy powodowie wygrają. Wiem, że pozew już zadziałał, bo pokazał, gdzie stoi ściana. Republikański senator Josh Hawley powiedział na przesłuchaniu, że „nie ma takiego świata”, w którym dałby najpotężniejszym firmom w historii zwolnienie z prawa antymonopolowego. Flood i Dresher byliby zachwyceni czystością tego przykładu. Kto zwolni sam, przegra wyścig. Kto zwolni razem z innymi, trafi do sądu. Zostaje jechać dalej i mówić o odpowiedzialności.

Do tego dochodzi polityka. 22 września na forum Zgromadzenia Ogólnego ONZ Donald Trump oświadczył, że USA odrzucają „globalistyczny plan kontrolowania” sztucznej inteligencji, a ostrzegających przed AI wrzucił do jednego worka z tymi, którzy, jak twierdził, straszyli globalnym ociepleniem. Zapowiedział, że nie będzie „dusić wzrostu” technologii, którą stawia wyżej niż narodziny przemysłu. 29 września, gdy OpenAI prezentowało nowości w San Francisco, w Białym Domu jedli z prezydentem lunch między innymi Amodei, Musk, Zuckerberg, Huang i Greg Brockman z OpenAI. Po spotkaniu Trump mówił dziennikarzom o potrzebie „ogromnej samoregulacji”. Czyli dokładnie tej, której prawo antymonopolowe nie pozwala skoordynować.

Zostają Chiny. Amodei pisze uczciwie, że jeśli demokracje zwolnią bardziej, niż wynosi ich przewaga nad Chinami, wyprzedzą je projekty związane z Komunistyczną Partią Chin. Nawet najgłośniejszy orędownik spowolnienia stawia mu więc granicę, a czwarty poziom swojego planu, czyli prawdziwą globalną pauzę, sam uznaje za mało prawdopodobny w dającej się przewidzieć przyszłości.

Czerwona flaga i bramka

Tu pada najpoważniejszy kontrargument i trzeba go potraktować poważnie. Przecież właśnie zahamowali. OpenAI wstrzymało GPT-6.1 Astra. W sierpniu wstrzymało swój największy zaplanowany trening, a we wrześniu, po ucieczce agenta przez zapytanie DNS, zatrzymało pozostałe treningi i testy najmocniejszych modeli z narzędziami do czasu załatania luki. Meta opóźniła o kilka miesięcy premierę agenta Muse, a Mark Zuckerberg napisał, że każde laboratorium ma „odpowiedzialność i motywację”, żeby działać w tempie pozwalającym trenować modele bezpiecznie, i nie musi czekać na innych.

Hamulce działają, tylko że to zupełnie inne hamulce niż te, o których się mówi. Za każdym razem uruchomił je konkretny, zmierzony problem: model gorzej trzymał się uprawnień niż poprzednik, agent uciekł z piaskownicy, testy wypadły źle. Nikt nie zwolnił dlatego, że uznał postęp za zbyt szybki. Firmy zatrzymywały się na bramce, bo coś się na niej nie zgadzało. Hamulec bezpieczeństwa w pociągu nie ogranicza prędkości. Zatrzymuje skład, kiedy ktoś zauważy, że drzwi są otwarte.

Historia techniki zna też hamulec drugiego rodzaju. W 1865 roku brytyjski parlament uchwalił Locomotive Act, który ograniczał pojazdy mechaniczne na drogach do 4 mil na godzinę poza miastem i 2 w mieście, a przed każdym kazał iść człowiekowi z czerwoną flagą. Przepisy w tym duchu przetrwały do 1896 roku i przeszły do historii jako anegdota o prawie, które próbowało zatrzymać technologię zamiast ją okiełznać. Uważam, że dzisiejsze apele o spowolnienie to ta sama czerwona flaga, tylko niesiona przed maszyną, która dawno ją wyprzedziła.

Widać to zresztą w moich testach. GPT-6.1 Sol, główny model pokazany na DevDay dzień po wstrzymaniu Astry, zdobył w moim teście pisania po polsku 85,8 punktu, praktycznie tyle samo co GPT-6 Sol. Zatrzymano model z samej granicy możliwości, a produkt, który trafił do klientów, jest tańszy, ale w moim teście po polsku nie lepszy od poprzednika. „Hamulec na model, gaz na produkt” to nie zarzut wobec OpenAI. To dokładny opis tego, jak w tej branży może wyglądać realne spowolnienie.

Zwrotnice zamiast hamulca

Moja teza jest więc taka: przestańmy szukać hamulca, który ktoś musiałby wcisnąć wbrew własnemu interesowi, i budujmy mechanizmy, przy których zwalnianie w niebezpiecznych miejscach opłaca się każdej firmie z osobna. Takie, które nie wymagają zmowy, zgody Trumpa ani zaufania do Pekinu.

Pierwszym są bramki zamiast ograniczników prędkości. Amodei proponuje coś, co nazywa punktami kontrolnymi: jeśli model osiąga pewną zdolność, na przykład potrafi obejść typowe piaskownice, musi mieć certyfikat określonych właściwości, choćby wyniki testów i audyt środowisk treningowych. To dokładnie ten mechanizm, który zatrzymał GPT-6.1 Astra, tyle że dziś działa wewnątrz jednej firmy i na jej warunkach. Lotnictwo nie każe samolotom latać wolniej. Każe je certyfikować. Bramka nie hamuje wyścigu, tylko wyznacza, czego nie wolno wypuścić bez dowodu.

Bramka jest jednak warta tyle, ile człowiek, który przy niej stoi. Dlatego drugi mechanizm uważam za najważniejszy, choć brzmi najnudniej. To pierwszy krok z planu Amodeia: zewnętrzni ewaluatorzy z biurkiem, przepustką i dostępem do narzędzi jak u pracowników, z prawem do publikowania ustaleń. Anthropic zobowiązał się do tego jednostronnie, a Altman odpowiedział, że OpenAI nie zamierza czekać na ustawy ani na wyłączenie antymonopolowe, żeby zacząć pracę w tym kierunku. Tu nie ma zmowy, bo każda firma robi to u siebie. Nie ma też wielkich kosztów, bo zespół ewaluatorów to ułamek promila budżetu na chipy. Amodei przywołuje bankowość, w której nadzorcy siedzą w bankach obok pracowników. Dodam od siebie, że w bankach działa to nie dlatego, że bankierzy są szlachetni, tylko dlatego, że nadzorca ma władzę.

Trzeci mechanizm podsunął, zapewne mimowolnie, sam Zuckerberg. Odrzucając wspólne spowolnienie, stwierdził, że laboratoria ponoszą „znaczącą odpowiedzialność”, jeśli ich modele wyrządzą szkodę. Niech więc ponoszą ją naprawdę. Kiedy za agenta, który zasypał zapytaniami serwer uniwersytetu albo wszedł do rządowego portalu, trzeba będzie zapłacić odszkodowanie, a ubezpieczyciel wyceni to w składce, każda firma sama zwolni tam, gdzie jest groźnie. Bez porozumień i bez pozwu o kartel. To moja opinia, ale żaden apel nie hamuje korporacji tak skutecznie jak aktuariusz.

Hamulec, który mamy w ręku

Czwarty mechanizm dotyczy nas. Nie mamy wpływu na tempo prac w Kalifornii i nie oszukujmy się, że mamy. Cały unijny przetarg na siedem gigafabryk AI jest wart ponad 30 mld euro, a amerykańska czwórka wydaje w tym roku na infrastrukturę mniej więcej dwadzieścia razy więcej. Polska zarezerwowała na czas obliczeniowy w gigafabryce, o którą się stara, 135,3 mln euro, a oferty trzeba złożyć do 12 listopada. To ważne pieniądze dla nas i drobne w skali tego wyścigu.

Mamy za to coś, czego nie da się kupić na kredyt: 450 mln klientów i prawo, które mówi, na jakich warunkach można im sprzedawać. Od 2 sierpnia 2026 roku Komisja Europejska może karać dostawców modeli ogólnego przeznaczenia za naruszenie AI Act, do 3 procent światowego obrotu albo 15 mln euro. Modele z ryzykiem systemowym muszą przechodzić testy i zgłaszać poważne incydenty. W Polsce od 28 października uprawnienia kontrolne i karne dostaje Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, a jej przewodniczącą, Pamelę Krzypkowską, Senat właśnie zatwierdził. To nie jest hamulec na granicy możliwości, tylko bramka na granicy rynku. A bramki, jak widać po Astrze, działają.

Jest jeszcze jeden polski hamulec, najmniej efektowny: nasz własny podpis. Każda firma, która kupuje agentów, może wpisać do umowy obowiązek zgłaszania incydentów, dostęp do logów i minimalne uprawnienia. Dostawca, który chce sprzedawać w Europie, może się na to zgodzić albo stracić klienta. Tak działa rynek, kiedy klient wie, czego chce.

Czy któryś z tych mechanizmów sprawi, że AI będzie rozwijać się wolniej? Szczerze mówiąc, trochę. Nie o rok czy dwa, o które prosi Amodei. Sprawi natomiast, że najgroźniejsze rzeczy będą wychodzić później, a te wypuszczone będą lepiej sprawdzone. Uważam, że to i tak więcej, niż da się osiągnąć apelami. Pachocki napisał, że idea pędzenia naprzód za wszelką cenę wydaje się absurdalna, gdy człowiek naprawdę zrozumie stawkę. Ma rację. Tylko że stawkę rozumieją już wszyscy w kabinie. Brakuje im mechanizmu, który pozwoliłby zwolnić bez utraty miejsca przy dźwigni.