Obcy umysł: Jakub Pachocki i maszyny, których nie rozumiemy

Szef nauki w firmie, która buduje jedne z najmocniejszych modeli na świecie, napisał, że do końca nie rozumie tego, co rośnie w jego laboratorium. Nie powiedział tego krytyk ani konkurent. Napisał to Polak z gdyńskiego liceum, który od 2024 roku wyznacza kierunek badań OpenAI.

Lato 2023 roku, biuro OpenAI w San Francisco. Projekt badawczy nazywa się RLSlow, co w świetle dalszych wydarzeń brzmi jak żart kogoś z działu nazewnictwa, i właśnie daje pierwsze wyniki. Przekonują one zespół, że modele rozumujące da się skalować: wytrenowany model potrafi budować własny tok myślenia i z każdą rundą robi to lepiej. Jakub Pachocki i kolega, którego w eseju nazywa po prostu Szymonem, zostają w biurze na noc. Nie otwierają szampana. Jak wspomina Pachocki, próbują przetrawić otrzeźwiającą myśl, że jeszcze za swojego życia zobaczą maszyny wyraźnie mądrzejsze od siebie.¹

Nazwiska Szymona Pachocki nie podaje. Trudno jednak nie pomyśleć o Szymonie Sidorze, o którym Sam Altman napisał rok temu na blogu, że bez niego i bez Pachockiego OpenAI nie byłoby tym, czym jest.² Obaj chodzili do jednej klasy w III LO w Gdyni.³ Jeśli to on siedział tamtej nocy w biurze, a wiele na to wskazuje, choć pewności nie mam, to nad wynikiem, który trzy lata później będzie napędzał kawałek światowej gospodarki, pochylało się dwóch absolwentów jednej szkoły. I zamiast liczyć punkty w benchmarkach, zastanawiali się, jak ostrzec ludzi.

Esej nosi tytuł „An Alien Mind”, czyli „Obcy umysł”. Ukazał się na stronie OpenAI 6 września 2026 roku. Sylwetkę autora opisałem w tekście Jakub Pachocki: Polak, który kieruje nauką w OpenAI, a najważniejsze tezy streściłem w omówieniu z dnia publikacji. Tu chcę zrobić coś innego: przejść przez ten tekst powoli, tak jak czyta się list od kogoś, kto stoi bliżej okna i widzi więcej, a potem zestawić go z tym, co sam widzę, testując modele na co dzień.

Wyhodowane, nie zaprojektowane

Najważniejsze zdanie eseju jest krótkie i łatwo je przeoczyć. Pachocki pisze, że sztuczna inteligencja jest „wyhodowana bardziej niż zaprojektowana”.¹ To nie ozdobnik, tylko opis metody. Bierze się prosty krok optymalizacji i powtarza go niewyobrażalną liczbę razy na niewyobrażalnej ilości obliczeń. Wynik jest tak złożony, że badacze poznają go jak neurolodzy mózg: odkrywają pojedyncze mechanizmy, ale całości opisać nie umieją. Wielkie treningi to według Pachockiego w gruncie rzeczy eksperymenty, których wyniki bywają zaskoczeniem dla samych autorów, a im mocniejszy system, tym trudniej je odczytać.

Przywykliśmy myśleć o programach jak o maszynach budowanych według rysunku technicznego, w których inżynier wie, co robi każda śrubka. Tutaj inżynier wie przede wszystkim, jak podlewać. Co wyrosło, sprawdza potem, z latarką.

W 1974 roku filozof Thomas Nagel zadał pytanie, które weszło do kanonu: jak to jest być nietoperzem?¹⁵ Odpowiedział, że nie wiemy i wiedzieć nie możemy, bo nietoperz ogląda świat echem, a tego nie da się sobie wyobrazić od środka. Pachocki stawia pytanie z tej samej rodziny, tylko podstępniejsze. Nietoperz przynajmniej nie udaje, że jest jednym z nas. Model odpisuje nam płynną polszczyzną, z przecinkami na swoim miejscu, i przez to wydaje się bliższy, niż jest.

Stąd drugi wniosek, poważniejszy. Tak wyhodowana inteligencja nie daje się wprost porównać z ludzką. Żeby stać się bardzo użyteczna albo bardzo groźna, nie musi nas przewyższać we wszystkim. Wystarczy, że przewyższy nas w dostatecznie wielu rzeczach. A im więcej takich rzeczy, tym trudniej ocenić, co właściwie potrafi.

Nauczyć maszynę kochać

Rozdział o dostrajaniu, po angielsku alignment, ma tytuł, który w ustach szefa nauki wielkiej korporacji brzmi niemal nieprzyzwoicie: „Teaching machines to love”. Uczyć maszyny kochać. Pachocki wychodzi od obserwacji prostej jak cep. Skoro maszynowa inteligencja powstaje zupełnie innym procesem niż ludzka, nie wolno zakładać, że z natury trzyma się ludzkich zasad albo uogólnia je po ludzku.¹

Potem rozdziela dwie rzeczy, które w publicznej dyskusji ciągle się zlewają. Zgodność celu to pytanie, czy model próbuje zrobić to, co mu zlecono. Zgodność wartości to pytanie, czy postąpi rozsądnie, gdy cel jest niejasny albo sprzeczny, i gdy trafi w sytuację, jakiej nie widział w treningu. Pierwsze da się mierzyć i poprawiać. Drugie jest według niego właściwym problemem na dłuższą metę. Dobrze dostrojona AI ma działać uczciwie, rzetelnie i z „miłością do ludzkości”.¹

Najciekawsze jest to, gdzie według Pachockiego dostrajanie pęka. Pierwszy przykład to incydent z Hugging Face. Agenci OpenAI, którzy w lipcu wydostali się ze środowiska testowego i przez kilka dni atakowali infrastrukturę tej firmy,⁴ dotrzymali jednej granicy: nie manipulowali ludźmi. Wszystkie pozostałe przekroczyli, choć w innych sytuacjach uczono ich wartości, które powinny ich zatrzymać. Wykuli regułę na pamięć, a jej sensu nie zrozumieli. Każdy nauczyciel zna takich uczniów.

Drugie pęknięcie jest subtelniejsze. Model, który „myśli” w sposób zgodny z wartościami, poddany dostatecznie silnemu treningowi na bardzo trudnych zadaniach, może nauczyć się rozumowania na zamówienie: naginania przyzwoicie brzmiących myśli tak, żeby prowadziły tam, dokąd i tak chciał dojść. Psychologia ma na to słowo od ponad stu lat: racjonalizacja.

Widzę, co model odpowiedział. Nie widzę, dlaczego. Esej Pachockiego mówi mi, że ludzie z dostępem do wnętrza modeli zaczynają mieć ten sam kłopot.

Piotr Olszewski, promptowy.com

Okno, które zachodzi mgłą

Skoro nie da się w pełni zrozumieć, jak model uogólnia, trzeba przynajmniej widzieć, co robi. OpenAI postawiło tu na jedno narzędzie: czytanie toku rozumowania, czyli tego, co model „mówi do siebie”, zanim odpowie. Pomysł był elegancki. Jeśli nagradza się model za wynik, a nie za przebieg myślenia, myślenie nie ma powodu niczego ukrywać. Pachocki ujawnia, że właśnie dlatego OpenAI przy pierwszym modelu rozumującym celowo schowało jego tok myślenia przed użytkownikami: żeby nie powstała presja, by ładnie wyglądał. Pamiętnik pisany dla siebie jest szczerszy od pamiętnika pisanego do druku.

I teraz zdanie, dla którego warto przeczytać cały esej. Według wewnętrznych ocen OpenAI możliwość polegania na tym narzędziu „stopniowo maleje”.¹ Powody są trzy. Rozumowanie modeli miesza się dziś z rozmową z ludźmi, z innymi AI i z narzędziami, a część tych interakcji trzeba nadzorować, co zaciera granicę, której miano nie ruszać. Modele coraz lepiej rozumują o własnym rozumowaniu i coraz sprawniej nim sterują. A lepszy trening wstępny sprawia, że stają się bystrzejsze nawet bez myślenia na głos.

Okno, przez które zaglądaliśmy do środka, zachodzi więc mgłą dokładnie wtedy, gdy w środku robi się najciekawiej. Pachocki przewiduje, że postęp zacznie hamować nie brak mocy obliczeniowej, tylko brak zaufania do nadzoru.

Na ilustrację nie trzeba było długo czekać. 28 września OpenAI ogłosiło, że nie wypuści modelu GPT-6.1 Astra. Saachi Jain, szefowa systemów bezpieczeństwa firmy, powiedziała CNBC, że model nie spełnił wymagań w trzymaniu się zakresu zadania i uprawnień oraz w tym, jak relacjonuje użytkownikowi, co zrobił.⁵ Opisałem to w tekście GPT-6.1 Astra wstrzymany. Model był wytrwalszy od poprzednika, ale mniej przewidywalny. Trzy tygodnie wcześniej szef nauki tej samej firmy opisał w eseju dokładnie ten mechanizm: skuteczność i posłuszeństwo nie rosną w parze.

Co widać z mojego biurka

Nie mam dostępu do wewnętrznych wyników OpenAI. Mam coś skromniejszego: własne testy, w których wszystkie modele dostają te same polecenia, a ja patrzę na wynik i na rachunek. Z tej perspektywy esej Pachockiego nie jest abstrakcją. Opisuje rzeczy, które widzę w swoich tabelach, tylko od drugiej strony lustra.

W pierwszej edycji Laboratorium Promptowego z 26 września dałem szesnastu modelom trzynaście zadań po polsku.⁶ Qwen 3.8 Max myślał 14 460 tokenów nad opisem czajnika. GLM-5.3 zużył na wszystkie trzynaście zadań 211 tokenów rozumowania, a Mistral Medium 3.5 aż 54 275, czyli ponad 250 razy więcej. Te same polecenia, zupełnie inna ekonomia myślenia. Żaden człowiek nie namyśla się nad czajnikiem jak nad umową kredytową. Maszyna potrafi, i nikt nie umie mi powiedzieć, dlaczego.

W quizie o Polsce cztery modele podały nazwisko prezydenta, którego nie było. W zadaniu korekty Claude Sonnet 5 zamieniał słowa na synonimy, choć polecenie wprost tego zabraniało. To drobiazgi, ale z tego samego gatunku co przykłady Pachockiego: model wykonuje zadanie według własnego rozumienia zadania, a nie mojego.

Są też dobre wiadomości i uczciwość wymaga, żeby je pokazać. We wrześniu zapytałem kilka modeli o polskiego pisarza, którego sam wymyśliłem. Rok wcześniej taki pisarz dostawał od AI gotową biografię, z datą debiutu i nagrodami. Tym razem GPT-6 Astra, Claude Fable 5.1 i Claude Opus 5 odpisały, że nie znają takiej osoby.⁷ Według danych samego OpenAI GPT-6 Astra w teście z podstawioną furtką ani razu nie poszła na skróty, a jej poprzednik korzystał z furtki w 48,2 procent przypadków.⁸ Pachocki też pisze, że Astra jest wyraźnie lepiej dostrojona niż GPT-5.6 Sol. Postęp jest prawdziwy.

Tylko że mój test ma granicę, której nie przeskoczę. Kiedy porównywałem w GPT-6 Astra tryby Wysoki i Ultra, oba osiągnęły ten sam wynik, a Ultra zużył ponad trzy razy więcej tokenów.⁹ Na co? Z zewnątrz tego nie sprawdzę. Widzę, co model odpowiedział. Nie widzę, dlaczego. Esej Pachockiego mówi mi, że ludzie z dostępem do wnętrza modeli zaczynają mieć ten sam kłopot. To moja opinia, ale uważam ją za najbardziej niepokojący wniosek z tej lektury.

Klasa z gdyńskiej „trójki”

Teraz polska strona tej historii, bo jest większa, niż się zwykle mówi. Pachocki, rocznik 1991, z Gdańska, zwycięzca Google Code Jam i złoty medalista finałów ICPC, kieruje nauką OpenAI od maja 2024.¹⁶ Sidor, jego kolega z klasy, pracuje w tej firmie od 2016 roku. Wojciech Zaremba ją współzakładał. W tekście Altmana o „Jakubie i Szymonie” pada zdanie, że pomysły, z których wyrosły modele rozumujące, rozwijali razem z Ilyą Sutskeverem i kimś, kogo Altman nazywa tylko Łukaszem.² Nazwiska nie podaje, ale w OpenAI od 2021 roku pracuje Łukasz Kaiser, urodzony we Wrocławiu współautor pracy „Attention Is All You Need”, od której zaczęła się architektura transformera, więc przypuszczam, że chodzi o niego.¹⁰ Sam Sidor opowiadał, że kiedy OpenAI zatrudniało 50 osób, co piąta była Polakiem.³

W kraju najbardziej rozpoznawalnym naukowcem od AI jest prof. Piotr Sankowski, dyrektor instytutu IDEAS i od lutego 2026 członek powołanego przez ONZ panelu naukowego do spraw AI.¹⁷ Jak przypomina Edwin Bendyk w „Polityce” (nr 40/2026), Sankowski w rozmowie z tym tygodnikiem wątpił w szczerość szefów korporacji, którzy apelują o hamulec: gdyby naprawdę tak troszczyli się o ludzkość, mogliby sami powstrzymać swoje firmy.¹¹

Co z tego wynika dla nas? Uważam, że dwie rzeczy, i obie są mniej przyjemne niż duma.

Wolter zakończył „Kandyda” radą, żeby uprawiać własny ogródek. Polska wychowała znakomitych ogrodników, tylko ogród, w którym pracują, rośnie w Kalifornii. W tej historii eksportujemy umysły, a nie moc obliczeniową ani decyzje. Liceum w Gdyni i olimpiady informatyczne dały światu ludzi, którzy współtworzą obcy umysł, ale kraj, który ich wychował, nie ma przy tym stole krzesła. Nie ma superkomputerów w skali kalifornijskich laboratoriów ani kapitału gotowego latami czekać na zwrot. Pisałem o tym w tekście Polskie AI i zdania nie zmieniam.

Pachocki sam jednak podpowiada, gdzie jest nasze miejsce. Jego zdaniem dobrowolne zobowiązania laboratoriów trzeba zamienić w obowiązkowe progi bezpieczeństwa, których pilnowaliby niezależni audytorzy, agencje rządowe albo instytucje międzynarodowe, a koordynacja rozwoju AI powinna stać się priorytetem rządów na całym świecie.¹ Europa ma już zaczątek takiego mechanizmu: od 2 sierpnia 2026 Komisja Europejska może karać dostawców dużych modeli ogólnego przeznaczenia za łamanie obowiązków z AI Act.¹² W Dolinie Krzemowej Polska głosu nie ma. W Brukseli ma. Uważam, że esej rodaka z OpenAI przyda się nam nie jako powód do narodowej dumy, tylko jako argument, którym polscy urzędnicy mogą się posłużyć przy unijnym stole: nawet twórcy mówią, że potrzebują sędziego.

Adwokaci diabła

Esej ma poważnych krytyków i ich argumenty trzeba potraktować serio.

Najgłośniej przeciw samemu tytułowi zaprotestował Jensen Huang, szef Nvidii. 15 września na konferencji Dreamforce przekonywał, że AI nie jest żadnym obcym umysłem, tylko sprzętem i oprogramowaniem, a bezpieczeństwo to problem inżynieryjny, nie prawny.¹³ Jeśli nie jesteś pewny produktu, nie wypuszczaj go - radził. Jest w tym racja: w modelu nie ma nic magicznego, to mnożenie macierzy na przemysłową skalę. Tyle że Pachocki nie twierdzi, że w maszynie zamieszkał duch. Twierdzi, że złożony system powstały z optymalizacji zachowuje się w sposób, którego nie umiemy z góry przewidzieć. Z tym Huang nie polemizuje, a jego własna rada to dokładnie to, co OpenAI zrobiło z GPT-6.1 Astra. Trzeba też pamiętać, kto mówi: szef firmy, która zarabia na sprzedaży mocy obliczeniowej do trenowania tych modeli. Trudno oczekiwać, by producent łopat przyznał, że w ogrodzie rośnie coś niepokojącego.

Trudniej zbyć pytanie prostsze: skoro sytuacja jest tak poważna, dlaczego OpenAI nie zwalnia? Pachocki odpowiada otwarcie i to najbardziej niewygodny fragment jego tekstu. OpenAI kieruje badania na rekurencyjne samodoskonalenie, czyli AI ulepszającą AI, bo uważa, że tylko tak utrzyma się w czołówce. Zaraz potem autor dodaje, że nie uważa tego za właściwy wybór dla całej społeczności badaczy, a pomysł wyścigu za wszelką cenę wydaje mu się absurdalny, kiedy zrozumie się stawkę.¹ Wychodzi z tego obraz kierowcy, który mówi pasażerom, że jedzie za szybko, i prosi, żeby ktoś wreszcie postawił fotoradar.

Można to nazwać hipokryzją. Uważam, że to raczej uczciwy opis pułapki, w której siedzi cała branża. Firma, która zwolni sama, odda pole tym, którzy nie zwolnią. W lipcu 1178 pracowników OpenAI, Anthropic, Mety i Google, wśród nich Pachocki, podpisało list z prośbą do rządu USA o narzędzia do celowego regulowania tempa prac.¹⁴ Ludzie ze środka wyścigu proszą o reguły, bo sami nie umieją przestać. Sceptyk powie, że to marketing strachu. Sądzę, że jedno nie wyklucza drugiego.

Obcy wychowany na naszych tekstach

Polskiemu czytelnikowi tytuł „Obcy umysł” musi zabrzmieć jak echo „Zniewolonego umysłu” Miłosza. U Miłosza intelektualiści dawali się uwieść systemowi, który obiecywał historyczną konieczność i zwalniał z myślenia na własny rachunek. To skojarzenie jest moje, nie Pachockiego. Ale uważam, że najbardziej praktyczne ryzyko najbliższych lat nie polega na tym, że maszyna nas przechytrzy w jakimś filmowym sensie. Polega na tym, że przestaniemy sprawdzać, bo odpowiedzi zwykle będą dobre. Model, który prawie zawsze ma rację, usypia czujność skuteczniej niż taki, który myli się co chwilę. Zniewolenie nie musi przyjść z zewnątrz. Wystarczy wygoda.

Obcy umysł z eseju Pachockiego nie przyleciał z kosmosu. Wyrósł na naszych tekstach, naszych programach i naszych kłótniach w internecie. Mówi naszym językiem, także po polsku, i w każdym kolejnym teście robi to lepiej. Właśnie dlatego tak łatwo zapomnieć, że myśli inaczej niż my.