Jeden dobry chatbot. Dlaczego polskie urzędy tak wolno doganiają AI

👁 121 przeczytań

Spróbuj kiedyś o dwudziestej drugiej zapytać ZUS o prostą rzecz. Nie o nic skomplikowanego, po prostu kiedy wpłynie przelew albo jak zmienić dane. Prywatny bank w tej samej chwili odpowie ci w okienku czatu, zrozumie pytanie napisane niechlujnie, z literówką, w połowie po polsku i w połowie ze zniecierpliwienia. Urząd każe ci przyjść rano, zadzwonić w godzinach pracy infolinii albo poszukać w zakładce, której nazwy nikt normalny nie odgadnie. I w tej drobnej różnicy mieści się cała historia, którą chcę tu opowiedzieć.

Bo pytanie „dlaczego ZUS nie ma dobrego chatbota” brzmi jak czepianie się, a jest w istocie pytaniem o to, jak w ogóle działa polskie państwo w zderzeniu z technologią, która zmieniła się szybciej niż jakikolwiek regulamin. Opóźnienie urzędów wobec AI nie jest awarią systemu. Jest jego logicznym skutkiem.

Mit leniwego urzędnika

Najłatwiej wszystko zwalić na ludzi. Że urzędnik nie chce, nie rozumie, boi się, pije kawę i czeka na emeryturę. To wygodna opowieść, bo pozwala nam poczuć się nowocześniejszymi od tych po drugiej stronie okienka. Problem w tym, że jest fałszywa.

Znam z obserwacji wystarczająco dużo osób pracujących w administracji, by wiedzieć, że wewnątrz tych instytucji siedzą ludzie, którzy doskonale wiedzą, czym jest model językowy i co potrafi. Widzą to samo co my. Różnica polega na tym, że dla nich wdrożenie takiego narzędzia nie jest decyzją o zakupie, tylko decyzją o wzięciu na siebie ryzyka, za które w sektorze prywatnym nikt nie odpowiada głową.

Kiedy chatbot banku pomyli się przy odpowiedzi o oprocentowaniu, bank przeprosi, poprawi, czasem zwróci parę złotych. Kiedy chatbot ZUS pomyli się przy odpowiedzi o wysokości emerytury albo terminie składki, mamy do czynienia z instytucją zaufania publicznego, która wprowadziła obywatela w błąd. W świecie administracji „wprowadzenie w błąd” to nie wpadka marketingowa. To coś, co trafia do protokołu, do skargi, czasem do sądu.

Dlatego urzędnik, który dostaje do ręki technologię potrafiącą czasem zmyślać z absolutną pewnością siebie, nie widzi w niej cudu. Widzi minę. I zupełnie racjonalnie woli jej nie rozbrajać na własnej zmianie.

Trzy litery, trzy osobne światy

ZUS, NFZ, KRUS. Wymawiamy je jednym tchem, jakby były jednym organizmem, a to trzy zupełnie osobne państwa w państwie, z osobnymi systemami informatycznymi, osobną historią, osobnymi bazami danych, które często ze sobą nie rozmawiają. I tutaj dochodzimy do rzeczy, o której w dyskusjach o „AI w urzędach” prawie się nie mówi, a która jest sednem sprawy.

Dobry chatbot to nie jest ładne okienko czatu. To okienko jest najtańszą i najmniej istotną częścią całości. Prawdziwa wartość powstaje wtedy, gdy model ma dostęp do twoich danych, do aktualnych przepisów, do stanu twojej sprawy. Inaczej jest tylko gadającą wyszukiwarką, która ładnie opowiada ogólniki. A żeby dać mu ten dostęp, trzeba mieć dane uporządkowane, spójne, dostępne przez interfejsy, opisane w sposób, który maszyna zrozumie.

Urzędy nie przegrywają z AI na etapie sztucznej inteligencji. Przegrywają dużo wcześniej, na etapie zwykłego porządku w danych, którego nikt nie zrobił przez dwadzieścia lat, bo nie było widać, komu miałby się opłacić.

Polskie instytucje przez dekady budowały swoje systemy warstwami, jak stare miasto. Nowe na starym, poprawka na poprawce, baza z lat dziewięćdziesiątych podłączona kablem do czegoś z zeszłego roku. Każda z tych warstw żyje własnym życiem. Nałożenie na to inteligentnego asystenta jest jak próba zbudowania szybkiej kolei na torach, które w połowie są z drewna, a w połowie ich w ogóle nie ma. Można kupić najszybszy pociąg świata. Pojedzie dokładnie tak szybko, jak pozwolą tory.

To dlatego bank wyprzedził urząd. Nie dlatego, że bank jest mądrzejszy, tylko dlatego, że bank od początku budował się cyfrowo, z jedną bazą klienta i jasnym celem, jakim jest zysk. Urząd budował się jako papier przeniesiony do komputera, bez jednego właściciela danych i bez jednego celu, który dałoby się policzyć w pieniądzu.

Kto za to zapłaci i kto za to odpowie

Są dwa pytania, które zabijają więcej projektów w administracji niż jakiekolwiek ograniczenia techniczne. Pierwsze brzmi: z czyjego budżetu. Drugie: kto podpisze.

Prywatna firma liczy to prosto. Chatbot kosztuje X, oszczędza na infolinii Y, jeśli Y jest większe od X, robimy to. W urzędzie równanie wygląda inaczej. Oszczędność na infolinii nie trafia do kieszeni tego, kto podjął decyzję. Trafia gdzieś w ogólną otchłań budżetu państwa, często w ogóle niewidoczna. Za to ryzyko porażki trafia bardzo konkretnie, imiennie, do osoby, która podpisała się pod wdrożeniem.

Mamy więc układ, w którym sukces jest wspólny i rozmyty, a porażka jest osobista i podpisana z imienia i nazwiska. W takim układzie żaden rozsądny człowiek nie rwie się na pierwszą linię. Nie dlatego, że jest tchórzem. Dlatego, że system premiuje ostrożność i karze inicjatywę. To nie błąd ludzi, to projekt instytucji.

Dorzućmy do tego zamówienia publiczne. Żeby urząd kupił nowoczesne narzędzie AI, musi przejść przez procedurę, która z założenia faworyzuje najniższą cenę i jasno opisany, zamknięty przedmiot zamówienia. A technologia, o której mówimy, zmienia się co kilka miesięcy. Napisanie specyfikacji na coś, co za rok będzie wyglądać inaczej, jest zadaniem karkołomnym. Zanim postępowanie się skończy, zanim przejdzie przez ewentualne odwołania konkurentów, model, który chciano kupić, bywa już przeszłością. Procedura stworzona po to, by chronić publiczne pieniądze przed marnotrawstwem, w praktyce chroni urząd przed nowoczesnością.

Dane, których nie wolno dotknąć

Jest jeszcze warstwa, o której trzeba mówić uczciwie, bo bywa używana jako wymówka, ale jest też realna. Dane, którymi dysponują te instytucje, to najbardziej wrażliwe informacje o Polakach, jakie istnieją. NFZ wie o twoich chorobach. ZUS o twoich dochodach przez całe życie. KRUS o twoim gospodarstwie i rodzinie. To nie są dane o tym, jakie buty oglądałeś w sklepie internetowym.

Wpuszczenie mode[lu - zdanie urwane]lu językowego w pobliże takich danych to decyzja, która musi być przemyślana do końca, bo konsekwencje wycieku albo błędu są nieodwracalne. I tu mam ambiwalentne zdanie. Z jednej strony rozumiem i popieram ostrożność, bo lekkomyślność w tym miejscu byłaby katastrofą. Z drugiej strony widzę, jak ta sama ostrożność staje się parasolem, pod którym chowa się zwykły brak decyzji. „Nie możemy, bo dane wrażliwe” bywa prawdą, a bywa wygodną formułą, która kończy każdą rozmowę, zanim ktokolwiek sprawdzi, co faktycznie dałoby się zrobić bezpiecznie.

Bo przecież dałoby się zacząć od rzeczy nieryzykownych. Asystent, który tłumaczy przepisy prostym językiem, nie dotykając twoich danych. Narzędzie wewnętrzne, które pomaga samym urzędnikom szybciej znaleźć właściwą podstawę prawną. To są obszary, gdzie ryzyko jest małe, a korzyść natychmiastowa. Że się ich nie wykorzystuje na szeroką skalę, to już nie kwestia wrażliwości danych. To kwestia inercji.

Powolność, która ma swoją cenę

Można by powiedzieć: i dobrze, niech się spieszą ci od reklam, państwo niech będzie rozważne. Jest w tym ziarno racji. Nie chcę urzędu, który eksperymentuje na moich składkach jak startup na inwestorskich pieniądzach. Ale ta powolność nie jest darmowa, i trzeba nazwać, kto za nią płaci.

Płaci ją starsza osoba, która trzy razy jedzie autobusem do placówki, bo nie umie znaleźć informacji online. Płaci ją człowiek, który spędza godzinę na infolinii, zamiast dostać odpowiedź w minutę. Płaci ją sam urzędnik, który robi po raz tysięczny tę samą czynność, którą maszyna wykonałaby za niego, uwalniając go do spraw naprawdę wymagających człowieka. Powolność administracji nie jest neutralnym stanem spoczynku. Jest nieustannym podatkiem płaconym w czasie i nerwach milionów ludzi, tyle że nikt go nie nazywa podatkiem, bo nie widać go w przelewie.

I tu dochodzę do sedna tego, co uważam. Problem nie polega na tym, że polskie urzędy nie potrafią zbudować chatbota. Potrafią, a przynajmniej potrafiliby zamówić kogoś, kto to zrobi. Problem polega na tym, że cała konstrukcja - odpowiedzialność, finansowanie, zamówienia, kultura ostrożności - jest zaprojektowana tak, by nikomu nie opłacało się spróbować. To nie jest luka kompetencyjna. To jest struktura bodźców, która działa dokładnie tak, jak została zbudowana.

Co by musiało pęknąć

Żeby to ruszyło, nie potrzeba lepszego modelu AI. Modele już są wystarczająco dobre. Potrzeba trzech rzeczy, z których żadna nie jest technologiczna.

Pierwsza to ktoś, kto weźmie odpowiedzialność za sukces całości, a nie tylko za uniknięcie porażki na swoim wycinku. Jeden właściciel sprawy, mający realną władzę i gotów podpisać się pod ryzykiem, bo za sukces też coś mu się należy. Druga to pozwolenie na małe, kontrolowane błędy, bez których żadna nowa technologia nigdy nigdzie nie powstała. Trzecia to uporządkowanie danych, ta nudna, niewdzięczna, niewidoczna robota, bez której najmądrzejszy model jest tylko ozdobą.

Dopóki tego nie będzie, możemy kupować kolejne systemy, ogłaszać kolejne strategie cyfryzacji i dziwić się, czemu nic z tego nie wynika. A wynika dokładnie to, co wynikać musi.

Czasem myślę, że ten jeden dobry chatbot w ZUS, którego wszyscy byśmy chcieli, jest najlepszym możliwym testem stanu państwa. Nie dlatego, że chatbot jest ważny. Jest drobiazgiem. Ale żeby ten drobiazg zadziałał naprawdę, musiałoby wcześniej zadziałać wszystko inne: dane, decyzyjność, odwaga, zaufanie. Chatbot jest łatwy. Trudne jest państwo, które potrafiłoby go unieść. I właśnie dlatego ciągle go nie ma.