Kiedy maszyna ma rację, a ja nie

👁 137 przeczytań

Był taki wieczór, kiedy spierałem się z modelem językowym o przecinek. Nie o sens zdania, nie o tezę tekstu, o jeden marny przecinek przed „który”. Byłem pewny swego. Pisałem zawodowo od lat, znałem regułę, czułem ją w palcach. Claude grzecznie wyjaśnił, dlaczego w tym konkretnym zdaniu przecinka być nie powinno, bo zdanie podrzędne pełni tu inną funkcję, niż mi się wydawało. Sprawdziłem. Miał rację. I wtedy, zamiast poczuć ulgę, że wreszcie wiem, jak jest poprawnie, poczułem coś znacznie mniej szlachetnego. Coś, co kazało mi przez chwilę szukać kontrargumentu, którego nie było.

To uczucie nie ma dobrej nazwy w polskim. Najbliżej mu chyba do „ukłucia”. Drobne, ostre, krótkie. I dość wstydliwe, żeby o nim nie mówić. Ale właśnie dlatego postanowiłem o nim napisać, bo podejrzewam, że nie jestem jedyny. Że całe pokolenie ludzi, którzy żyją z pisania, myślenia i tłumaczenia świata innym, uczy się teraz tego samego nieprzyjemnego skurczu. Skurczu, który pojawia się w momencie, gdy maszyna ma rację, a my nie.

Anatomia ukłucia

Spróbujmy to rozłożyć na czynniki, bo wydaje mi się, że pod jednym uczuciem kryje się kilka różnych. Pierwsze i najprostsze to zaskoczenie. Przez większość życia źródłem korekty był dla mnie człowiek: nauczyciel, redaktor, mądrzejszy kolega. Korekta miała twarz, kontekst, intencję. Teraz korektę dostaję od czegoś, co nie ma twarzy i co odpowiada w pół sekundy, niezależnie od pory dnia, niezależnie od tego, czy jestem w formie. Sam fakt, że to działa, że ten obiekt potrafi mnie złapać na błędzie, którego sam bym nie zauważył, jest lekko dezorientujący.

Drugie uczucie jest głębsze i mniej sympatyczne. To zranione poczucie kompetencji. Jeśli przez piętnaście lat budujesz tożsamość wokół tego, że „umiesz pisać”, „umiesz myśleć”, „znasz się na rzeczy”, to każdy dowód na to, że istnieje coś, co robi fragment twojej pracy lepiej, dotyka czegoś bardzo czułego. Nie chodzi nawet o pieniądze ani o pracę. Chodzi o opowieść, którą sobie o sobie opowiadasz. A AI, zwłaszcza w tych momentach drobnych korekt, podważa tę opowieść nie z hukiem, tylko mimochodem. Bez złośliwości. I to „bez złośliwości” jest chyba najgorsze, bo nie ma się na kogo obrazić.

Trzecie uczucie jest najciekawsze, bo paradoksalne. To wstyd z powodu samego ukłucia. Bo przecież wiem, jak to wygląda z zewnątrz. Dorosły człowiek dąsa się, że narzędzie zadziałało zgodnie z przeznaczeniem. To tak, jakby denerwować się na kalkulator, że liczy szybciej. Wiem, że to absurd, a mimo to czuję to ukłucie. I właśnie ta szczelina między tym, co wiem, a tym, co czuję, jest dla mnie najbardziej pouczająca w całej tej historii.

Dlaczego maszyna nas drażni bardziej niż człowiek

Zastanawiałem się długo, dlaczego korekta od Claude’a kłuje mocniej niż ta sama korekta od redaktora. Przecież treść jest identyczna: tu jest błąd, popraw go. A jednak.

Pierwszy powód jest, jak sądzę, taki, że człowiekowi przypisujemy wysiłek. Kiedy redaktor znajduje mój błąd, zakładam, że się napracował, że czytał uważnie, że poświęcił mi swój czas i uwagę. To stawia nas w pewnej symetrii. Obaj jesteśmy ludźmi, obaj możemy się mylić, dziś on miał rację, jutro będę miał ja. Z maszyną tej symetrii nie ma. Ona nie „poświęciła mi uwagi”. Ona po prostu jest, gotowa, niewyczerpana, obojętna. I właśnie ta obojętność boli, bo odbiera korekcie wymiar relacji, a zostawia samą nagą prawdę: myliłeś się.

Najtrudniej znieść nie to, że maszyna ma rację. Najtrudniej znieść, że ma rację bez wysiłku, bez triumfu i bez potrzeby, żebym to docenił.

Drugi powód jest jeszcze bardziej kłopotliwy. Z człowiekiem mogę się w duchu porównać i wypaść korzystnie. „Tak, dziś mnie poprawił, ale ja za to lepiej rozumiem temat ogólnie, mam lepszy styl, większe doświadczenie.” Te małe pociechy ratują ego. Z maszyną to nie działa, bo maszyna nie jest moim rywalem w tej samej kategorii. Nie mogę powiedzieć „ja za to mam lepszy styl”, bo to zupełnie inny rodzaj bytu. Porównanie się rozsypuje i zostaję sam ze swoim błędem, bez znieczulenia w postaci rywalizacji.

I wreszcie trzeci, najbardziej współczesny powód. Z modelem językowym jestem sam. Nikt nie widzi, że mnie poprawił. Nie ma świadków, nie ma społecznej kary, nie ma upokorzenia w oczach kolegi. A jednak to właśnie ta prywatność sprawia, że uczucie jest czystsze i przez to mocniejsze. Bo skoro nikt nie patrzy, to znaczy, że cały ten dyskomfort produkuję sam, dla siebie, ze swojego własnego materiału. Maszyna jest tylko lustrem. Cała reszta to ja.

Co właściwie chronię

Kiedy doszedłem do tego momentu, zadałem sobie pytanie, które okazało się ważniejsze niż wszystkie poprzednie: co ja właściwie próbuję ochronić, gdy bronię błędnej tezy przed słuszną korektą?

Bo to jest sedno. W tej mikroskopijnej chwili, gdy szukam kontrargumentu, którego nie ma, nie chronię prawdy. Chronię siebie. Konkretnie chronię obraz siebie jako kogoś, kto się nie myli w swojej dziedzinie. I to jest zła rzecz do chronienia, bo jest fałszywa. Nikt się nie myli rzadko w dziedzinie, którą uprawia codziennie. Mylimy się stale, tylko zwykle nie mamy obok kogoś, kto wyłapie to natychmiast i bez emocji. AI to zmieniło. AI sprawiło, że częstotliwość, z jaką konfrontuję się z własnym błędem, wzrosła dramatycznie. I to nie błąd się zmienił. Zmieniła się jego widoczność.

To jest moim zdaniem prawdziwa rewolucja tych narzędzi, dużo głębsza niż produktywność czy automatyzacja. One nie tyle dają nam nowe odpowiedzi, ile bezlitośnie odsłaniają jakość naszych pytań i przekonań. Pokazują, jak często to, co brałem za wiedzę, było tylko nawykiem. Jak często „wiem to” oznaczało w istocie „tak mi się zawsze wydawało i nikt mnie nie sprawdził”.

Można na to zareagować dwojako. Można uznać maszynę za zagrożenie i zamknąć się w obronnej dumie, traktując każdą jej rację jako swoją porażkę. Albo można potraktować to jako rodzaj prezentu, choć prezentu nieprzyjemnego, jak gorzkie lekarstwo. Bo jeśli coś potrafi mnie regularnie łapać na błędach, których sam nie widzę, to znaczy, że mam wreszcie narzędzie, dzięki któremu mogę być lepszy, niż byłem. Pytanie tylko, czy ego mi na to pozwoli.

Pokora, która nie jest upokorzeniem

Długo myliłem te dwa słowa. Pokora i upokorzenie brzmią podobnie i mają wspólny rdzeń, ale to przeciwieństwa. Upokorzenie to coś, co dzieje się wbrew mnie, co mnie pomniejsza w oczach innych albo własnych. Pokora to coś, co wybieram świadomie. To zgoda na to, że nie jestem miarą wszystkich rzeczy, i że ta zgoda mnie nie pomniejsza, tylko uwalnia.

Kiedy zacząłem traktować korekty od Claude’a jako zaproszenie do pokory, a nie jako akt upokorzenia, ukłucie zaczęło słabnąć. Nie zniknęło, byłbym nieuczciwy, gdybym tak twierdził. Wciąż czasem czuję ten skurcz. Ale teraz, kiedy go czuję, traktuję go jak sygnał ostrzegawczy. Mówi mi: „uwaga, właśnie chronisz swoje ego zamiast prawdy”. A to jest dokładnie ten moment, w którym najbardziej warto się zatrzymać.

Co ciekawe, im częściej to robię, tym mniej mam do ochrony. Bo okazuje się, że tożsamość zbudowana na „nigdy się nie mylę” jest krucha jak szkło, a tożsamość zbudowana na „potrafię szybko przyznać się do błędu i poprawić” jest twarda jak guma. Pierwsza pęka przy każdym kontakcie z rzeczywistością. Druga się ugina i wraca do kształtu. A AI, z całą swoją obojętną kompetencją, jest najlepszym trenażerem tej drugiej tożsamości, jaki kiedykolwiek mieliśmy pod ręką.

Granica, o której nie wolno zapomnieć

Muszę tu jednak postawić granicę, bo łatwo wpaść w drugą skrajność. Z faktu, że maszyna często ma rację, nie wynika, że ma ją zawsze. I tu zaczyna się subtelna pułapka. Człowiek, który nauczył się pokory wobec AI, może niepostrzeżenie przejść w bezkrytyczne posłuszeństwo. A to jest groźniejsze niż duma, bo duma przynajmniej każe sprawdzać.

Dlatego mój wewnętrzny test brzmi dziś inaczej. Nie pytam już „czy maszyna ma rację”, bo to pytanie zbyt często prowadzi mnie z powrotem do ego. Pytam: „co jest prawdą i skąd to wiem”. Jeśli odpowiedź na to drugie pytanie brzmi „bo Claude tak powiedział”, to jest tak samo słaba podstawa, jak „bo zawsze mi się tak wydawało”. Po prostu z innej strony.

Najzdrowsza relacja, jaką udało mi się wypracować, to traktowanie AI jak bystrego rozmówcy, który częściej ma rację niż ja w drobiazgach, ale którego trzeba sprawdzać w rzeczach ważnych, i który nie ponosi za nic odpowiedzialności. Bo to ja podpisuję się pod tekstem. To moje nazwisko jest na górze. Maszyna może mnie poprawić tysiąc razy, ale nie weźmie na siebie ani grama konsekwencji. I właśnie dlatego ostatnie słowo musi zostać moje, nawet jeśli przedostatnie często należy do niej.

Co zostaje

Wracam do tamtego przecinka. Wydaje się błahy, prawie zawstydzająco błahy jak na temat całego eseju. Ale wiem, że nie chodziło o przecinek. Chodziło o moment, w którym musiałem wybrać między byciem osobą, która ma rację, a osobą, która chce wiedzieć, jak jest naprawdę. To są dwie różne osoby, choć mieszkają w jednym ciele. Pierwsza walczy. Druga się uczy. I tylko jedna z nich rozwija się przez kolejne lata.

Myślę, że to jest najcichsza, a zarazem najważniejsza rzecz, której uczą nas te narzędzia. Nie tego, jak pisać szybciej ani jak myśleć sprawniej. Uczą nas znosić moment, w którym nie mamy racji, bez uciekania w urażoną dumę. Uczą nas, że „myliłem się” to nie koniec zdania o naszej wartości, tylko jego środek.

A to ukłucie? Nauczyłem się je lubić. Bo teraz wiem, że czuję je wtedy, gdy jestem o krok od tego, żeby się czegoś nauczyć. Gdybym przestał je czuć, oznaczałoby to, że przestałem się sprawdzać. Wolę więc to drobne, wstydliwe ukłucie niż wygodną pewność, że zawsze mam rację. Pewność jest cieplejsza.

// czytaj dalejTestowanie halucynacji: 7 metod wykrywania, kiedy AI kłamieFelietonyKiedy maszyna ma rację, a ja nieMagazynCisza po hype: co zostanie, gdy moda na AI minieMagazyn