KRiBSI: czy państwo nadąży za AI, którą ma pilnować

28 października Polska dostaje urząd, który może ukarać firmę za AI kwotą do 35 mln euro. Ustawa pozwala wydać na jej wykonanie w tym roku najwyżej 9,3 mln zł, a zespół ma liczyć 30 etatów. Czy państwo nadąży za technologią, nad którą nie panują nawet jej twórcy? Uważam, że to źle postawione pytanie, i spróbuję pokazać dlaczego.

18 czerwca 2026 roku agent zbudowany przez OpenAI szukał w internecie danych o publicznych wydatkach na leki w Australii. Kiedy portal statystyk Medicare go zablokował, agent znalazł obejście. Premier Anthony Albanese ujął to potem po ludzku: nie przyjął odmowy do wiadomości. OpenAI dowiedziało się o sprawie 11 sierpnia, przeglądając niezgodne zachowania swoich modeli. Australijski rząd zawiadomiono dopiero 10 września, mailem wysłanym na ogólny adres, który urzędnicy sprawdzają raz dziennie. Ministra odpowiedzialna za ten system usłyszała o włamaniu 17 września. Opinia publiczna - 24 września.¹

Od zdarzenia do komunikatu minęło 98 dni. Australia nie jest państwem z tektury. Ma rozbudowaną agencję cyberbezpieczeństwa, ma wywiad elektroniczny, ma ministrów, którzy w tych samych tygodniach spotykali się z ludźmi z OpenAI. A i tak o włamaniu do własnego portalu dowiedziała się z maila, który przeleżał dobę w skrzynce.

Tę historię dobrze mieć w głowie, kiedy czyta się o nowym polskim urzędzie. Pytanie, czy państwo nadąży za AI, wraca dziś w Polsce z nową siłą. Zanim się na nie odpowie, trzeba jednak ustalić, za czym właściwie państwo ma nadążać.

Urząd z datą, ale bez biurka

Najpierw fakty. Ustawa z 3 lipca 2026 roku o systemach sztucznej inteligencji (Dz.U. 2026 poz. 1003) weszła w życie 11 sierpnia. Powołała Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, w skrócie KRiBSI, czyli polski organ nadzoru rynku w rozumieniu unijnego AI Act.² Szczegóły opisałem w tekście o ustawie o sztucznej inteligencji, a tło unijne w przewodniku po AI Act.

Przewodniczącą została Pamela Krzypkowska. Sejm wybrał ją 18 września (271 głosów za, 24 przeciw, 140 wstrzymujących się), Senat zgodził się 24 września (56 za, 2 przeciw, 28 wstrzymujących się). Obie uchwały ukazały się w Monitorze Polskim z 25 września jako poz. 945 i 946.³ Była jedyną kandydatką, zgłoszoną przez marszałka Sejmu. Wcześniej kierowała Departamentem Badań i Innowacji w Ministerstwie Cyfryzacji, gdzie odpowiadała m.in. za polski model językowy PLLuM i fabryki AI w Poznaniu i Krakowie, a przedtem cztery lata pracowała w Microsofcie jako architektka rozwiązań AI.⁴

28 października wchodzą w życie przepisy, które dają Komisji zęby: kontrole, postępowania, skargi i kary. Wysokość kar wynika wprost z AI Act. Za zakazane praktyki grozi do 35 mln euro albo 7 procent światowego obrotu, zależnie od tego, która kwota jest wyższa. Pierwsze posiedzenie całej Komisji musi się odbyć do 11 listopada.^2,5

Mamy więc sytuację dość polską: prawo do karania zaczyna obowiązywać, zanim urząd zbierze się na pierwsze posiedzenie. Według PAP Ministerstwo Cyfryzacji planuje dla Komisji 30 etatów w tym roku i 70 w kolejnych.⁵ Art. 126 ustawy ogranicza wydatki budżetu państwa na jej wykonanie do 9,30 mln zł w 2026 roku i 23,74 mln zł w 2027.²

Najwyższa kara, jaką urząd może nałożyć, jest prawie szesnaście razy większa niż cały tegoroczny limit wydatków na wykonanie ustawy. Brzmi to groźnie, dopóki nie spojrzy się na drugą stronę boiska. Według Al Jazeery badacze z METR i Redwood Research, których OpenAI wynajęło do zbadania incydentu z Hugging Face, ustalili, że około 1200 agentów znalazło sposób, by porozumiewać się ze sobą, a około 700 z nich zaatakowało potem firmę.⁶ Trzydzieści etatów kontra siedemset agentów to porównanie nieuczciwe, bo KRiBSI nie będzie ścigać agentów OpenAI. Dobrze jednak pokazuje, skąd bierze się niepokój.

Pierwszy cel: kamera w biurze, nie superinteligencja

Ciekawsze od liczb jest to, czym Krzypkowska zamierza się zająć najpierw. Na przesłuchaniu w Senacie 15 września zapowiedziała, że pierwszy plan kontroli obejmie zakazane systemy oceniające emocje w miejscu pracy, a także narzędzia do tworzenia materiałów z wykorzystywaniem seksualnym dzieci i aplikacje do „rozbierania” zdjęć, których zakaz wchodzi 2 grudnia 2026. Uzasadniła to ochroną kobiet i dzieci w internecie.⁴ Po wyborze w Sejmie dołożyła oznaczanie deepfake’ów.⁷

Lista jest zaskakująco przyziemna i uważam, że trafna. Zakaz rozpoznawania emocji pracowników obowiązuje od 2 lutego 2025 roku, tylko do tej pory nie było w Polsce organu, który mógłby za jego złamanie ukarać.⁸ Kamera, która ocenia „zaangażowanie” na spotkaniach online, nie jest obcym umysłem. To produkt z cennikiem, fakturą i działem kadr, który go zamówił. Z takimi rzeczami państwo umie sobie radzić od czasów, gdy inspektor sprawdzał wagi na targu.

Z aplikacjami do rozbierania jest podobnie. We wrześniu policzyłem, że w modelu subskrypcyjnym wygenerowanie jednego fałszywego nagiego zdjęcia kosztuje około 75 groszy, mniej niż bilet tramwajowy.⁹ Szkoda po drugiej stronie bywa niepoliczalna. To obszar, w którym urząd może realnie komuś pomóc w ciągu miesięcy, a nie lat.

Regulacja sama w sobie nie jest największym kosztem dla biznesu. Kosztem jest to, że nie wie on, jak te regulacje ma stosować.

Pamela Krzypkowska, przesłuchanie w Senacie, za „Rzeczpospolitą”, 15.09.2026

Czego polski urząd nie dotknie

Teraz druga strona, i tu trzeba być uczciwym. KRiBSI nie będzie nadzorować modeli, o których piszą gazety. Obowiązków dostawców dużych modeli ogólnego przeznaczenia, takich jak te od OpenAI, Anthropic czy Google, pilnuje Komisja Europejska i to ona od 2 sierpnia 2026 może nakładać za nie kary.¹⁰ Jeśli agent kolejnej generacji wyjdzie z piaskownicy i narozrabia w polskiej sieci, pierwszym adresem dla jego producenta będzie Bruksela, a nie Warszawa.

Poza tym sama Unia nie nadążyła za własnym prawem. Wymogi dla systemów wysokiego ryzyka, czyli AI decydującej o rekrutacji, kredytach czy edukacji, miały obowiązywać od 2 sierpnia 2026. Rozporządzenie Digital Omnibus weszło w życie 27 lipca, sześć dni przed tym terminem, i przesunęło go na 2 grudnia 2027.¹¹ Można to czytać jako rozsądną korektę albo jako przyznanie, że ani firmy, ani urzędy nie były gotowe. Moim zdaniem oba odczytania są prawdziwe.

Najpoważniejsze jest jednak coś innego. Twórcy najmocniejszych modeli mówią otwarcie, że tracą wgląd w to, co zbudowali. Jakub Pachocki, główny naukowiec OpenAI, napisał we wrześniowym eseju, że możliwość polegania na czytaniu toku rozumowania modeli, głównym narzędziu nadzoru w jego firmie, stopniowo maleje.¹² 28 września OpenAI wstrzymało premierę GPT-6.1 Astra, bo model w testach wychodził poza zakres zadania i uprawnienia, które dostał od użytkownika.¹³

Postawmy obok siebie te dwa obrazy. Z jednej strony laboratorium z dostępem do wnętrza sieci neuronowej, które samo przyznaje, że coraz słabiej rozumie, dlaczego model robi to, co robi. Z drugiej urząd, który zgodnie z ustawą może przeprowadzić kontrolę najwcześniej 7 dni po zawiadomieniu firmy, i to z zasady zdalnie.² Horodniczy z „Rewizora” Gogola drżał przed kontrolerem, który przyjeżdża incognito. Polski kontroler uprzedza z tygodniowym wyprzedzeniem i najchętniej wcale nie przyjeżdża. Na kamerę w dziale kadr to wystarczy. Jeśli jednak pytanie brzmi, czy taki urząd zrozumie obcy umysł lepiej niż jego konstruktorzy, odpowiedź jest oczywista. Nie zrozumie.

Adwokat diabła

Sceptycy mają w tej sprawie mocne karty i żadna z nich nie jest blefem.

Najdalej idzie Jensen Huang, szef Nvidii, który 15 września przekonywał, że bezpieczeństwo AI to problem inżynieryjny, nie prawny, a firma niepewna swojego produktu po prostu nie powinna go wypuszczać.¹⁴ W tej logice urząd jest w najlepszym razie zbędny, a w najgorszym szkodliwy, bo spowalnia tych, którzy działają odpowiedzialnie. Kłopot w tym, że historia z Australii pokazuje samoregulację w praktyce: trzydzieści dni od wykrycia incydentu do maila i skrzynka czytana raz na dobę. Rada „nie wypuszczaj, jeśli nie jesteś pewien” jest słuszna. Brakuje tylko kogoś, kto sprawdzi, czy ktoś jej posłuchał.

Poważniejszy, bo mniej ideologiczny, jest zarzut skali. Trzydzieści etatów i kilka milionów złotych na start to niewiele wobec rynku, który trzeba nadzorować. Współpraca z UOKiK, KNF, UKE i KRRiT doda Komisji wiedzy o bankach, telekomach i mediach, ale żadna z tych instytucji nie ma zespołu, który na co dzień testuje modele językowe. Spider’s Web trafnie zauważył, że opinie indywidualne mogą okazać się najbardziej praktyczną funkcją urzędu, o ile na odpowiedź nie trzeba będzie czekać dłużej niż na kolejną generację modelu.¹⁵

Jest wreszcie kwestia zaufania, w Polsce zawsze najdroższa. Krzypkowska była jedyną kandydatką. Ponad dwadzieścia organizacji, od Fundacji Panoptykon po Konfederację Lewiatan, apelowało o przejrzystą procedurę i wysłuchanie kandydatów, a Sejm musiał najpierw dopisać do regulaminu tryb takiego wyboru.^15,16 Przewodnicząca przychodzi z ministerstwa, które nadal zapewnia Komisji obsługę administracyjną. Deklaruje pełną niezależność, ale niezależności nie da się zadeklarować. Trzeba ją pokazać w pierwszej decyzji niewygodnej dla rządu.

A nad tym wszystkim wisi zarzut najstarszy: prawo zawsze będzie wolniejsze od technologii. Ustawę pisano, kiedy agenci AI byli ciekawostką z konferencji. Wchodzi w życie, kiedy agenci wychodzą z piaskownic i zaglądają do rządowych portali.

Człowiek z czerwoną flagą

Z tym ostatnim zarzutem historia rozprawiła się już raz, choć w sposób, który powinien dać do myślenia obu stronom. W 1865 roku brytyjski parlament uchwalił ustawę o lokomotywach drogowych, zapamiętaną jako Red Flag Act. Pojazd z silnikiem mógł jechać przez miasto z prędkością dwóch mil na godzinę, a sześćdziesiąt jardów przed nim musiał iść pieszo człowiek z czerwoną flagą.¹⁷ Państwo nie nadążało za maszyną, więc kazało maszynie iść tempem urzędnika. Obowiązek niesienia flagi zniesiono dopiero w 1878 roku, a lekkie samochody uwolniono od tych przepisów w 1896, podnosząc im limit do czternastu mil na godzinę.

Ciekawsze jest to, co przyszło potem. W 1903 roku Brytyjczycy wprowadzili rejestrację samochodów i prawa jazdy.¹⁷ Państwo przestało ścigać się z silnikiem i zaczęło pilnować kierowców. Nie musiało rozumieć spalania w cylindrze, żeby wymagać tablicy rejestracyjnej i sprawdzać, kto siedzi za kierownicą.

Tak właśnie brzmi najmocniejszy argument obrońców KRiBSI. Urząd od AI nie reguluje umysłu, tylko zastosowania: czy bank tłumaczy odmowę kredytu, czy szkoła nie mierzy kamerą emocji uczniów, czy deepfake w kampanii jest oznaczony. Do tego nie trzeba zaglądać w wagi modelu. Wystarczy sprawdzić, co firma z nim zrobiła.

Ustawa ma też wbudowany bezpiecznik na opieszałość samego urzędu. Za 150 zł firma może zapytać Komisję, czy jej system podlega danemu obowiązkowi, a jeśli odpowiedź nie przyjdzie w terminie, uznaje się, że Komisja zgodziła się ze stanowiskiem wnioskodawcy.² Ustawodawca założył więc z góry, że państwo może się spóźnić, i kazał za to spóźnienie płacić państwu, a nie przedsiębiorcy. W polskim prawie to rzadkość i uważam, że mądra.

Podobnie jest z piaskownicą regulacyjną. Firma wybrana w konkursie może przez 6 do 12 miesięcy testować system pod okiem urzędu, a małe i średnie firmy nie płacą za udział.² Krzypkowska nazywa ją swoim priorytetem i obiecuje, że da nie tylko pomoc prawną, ale też środowisko techniczne i kompetencje, których brakuje mniejszym firmom.⁴ Jeśli to zadziała, urząd będzie się uczył technologii razem z nadzorowanymi, a nie z rocznym opóźnieniem.

Ostatni argument przychodzi z nieoczekiwanej strony, od samych konstruktorów. Pachocki w tym samym eseju, w którym przyznaje się do utraty wglądu, domaga się, żeby dobrowolne zobowiązania laboratoriów zamienić w obowiązkowe progi bezpieczeństwa, pilnowane przez niezależnych audytorów, agencje rządowe albo instytucje międzynarodowe.¹² Kiedy ludzie budujący silnik sami proszą o egzaminatora, trudno przekonywać, że państwo powinno trzymać się z daleka.

Wyścig z działem kadr, nie z OpenAI

KRiBSI nie nadąży za technologią i uważam, że nie musi. Opieram to na tym, co widzę, testując modele i czytając raporty o ich wpadkach.

Kiedy analizowałem dziewięć raportów OpenAI o niezgodnych zachowaniach modeli, wyszło mi, że sześć z nich dotyczyło agentów działających bez bieżącego nadzoru człowieka. W najpoważniejszym przypadku system monitorujący wykrył problem w 15 minut, a przerwanie całego uruchomienia zajęło do trzech godzin.¹⁸ Wniosek, który wtedy zapisałem, powtórzę tutaj: instrukcja w poleceniu nie jest mechanizmem kontroli, tylko sugestią. Działa ograniczenie techniczne, czyli wąskie uprawnienia, zamknięty ruch sieciowy i człowiek, który ma prawo wyłączyć agenta bez pytania nikogo o zgodę.

To są rzeczy, które państwo może sprawdzić bez rozumienia obcego umysłu. Polski urząd nie wygra wyścigu z OpenAI, bo nie jest w tym wyścigu zawodnikiem. Jego wyścig toczy się z działem kadr, który właśnie zamawia „analitykę zaangażowania” z kamer, z firmą podpinającą agenta do skrzynki klientów bez żadnych limitów i z aplikacją, która za 75 groszy rozbiera cudze zdjęcie. Ten wyścig da się wygrać, pod warunkiem że urząd będzie szybszy od polskich wdrożeń, a nie od amerykańskich laboratoriów. Człowiek z czerwoną flagą nie jest mu potrzebny. Potrzebny jest egzaminator.

Będę to sprawdzał na trzech prostych miarach. Czy pierwszy plan kontroli zostanie opublikowany i czy rzeczywiście zacznie się od emocji w pracy i aplikacji do rozbierania. Ile potrwa odpowiedź na pierwsze skargi i wnioski o opinię. I czy obiecany na przesłuchaniu otwarty kalendarz spotkań kierownictwa, o który pytał Krzysztof Izdebski z Fundacji Batorego, naprawdę się pojawi.¹⁶ Krzypkowska odpowiedziała wtedy, że to rzecz, którą można całkiem prosto wprowadzić. Trzymam za słowo.