Kiedy maszyna ma rację, a ja nie

👁 130 przeczytań

Był akapit, który napisałem trzy razy. Za każdym razem gorzej. Wkleiłem go do Claude’a bez wielkiej nadziei, raczej z rezygnacją człowieka, który wie, że utknął, i chce usłyszeć, że wcale nie utknął. Model przeczytał, chwilę pomyślał - a przynajmniej tak to wygląda, ten moment ciszy, zanim leci pierwsze słowo - i napisał: „Zdanie drugie i trzecie mówią to samo. Usuń trzecie, a akapit zacznie oddychać.” Miał rację. Miał tak oczywistą rację, że przez sekundę zrobiło mi się gorąco. Nie z wdzięczności. Ze wstydu.

I to jest właśnie ten moment, o którym chcę napisać. Nie ten, w którym Claude się myli - o tym napisano już wszystko, i słusznie, bo maszyna myli się często i pewnie siebie, co jest groźną kombinacją. Chcę napisać o momencie odwrotnym. O tym drobnym, prywatnym upokorzeniu, gdy program, który nie ma ciała, nie miał dzieciństwa i nie przeczytał ani jednej książki w sposób, w jaki czyta się książki, wskazuje mi błąd w rzemiośle, które uważałem za swoje. I o tym, co ja wtedy czuję - bo okazuje się, że czuję zaskakująco dużo.

Pierwsza reakcja to zawsze obrona

Zauważyłem u siebie pewien odruch i podejrzewam, że nie jestem w nim sam. Kiedy Claude ma rację w sprawie, w której ja się myliłem, moja pierwsza myśl brzmi: no dobra, ale…. Zawsze jest jakieś „ale”. Ale nie zrozumiał kontekstu. Ale to kwestia stylu, nie błędu. Ale gdyby wiedział, do kogo piszę, nie proponowałby tego. Buduję sobie w głowie mały sąd apelacyjny, w którym jestem jednocześnie oskarżonym, obrońcą i sędzią, i - co za niespodzianka - zwykle wygrywam.

Problem w tym, że ten sąd jest ustawiony. Nie szukam prawdy, szukam wyjścia z niewygody. A niewygoda jest realna, bo dotyka miejsca, które chronimy najmocniej: poczucia własnej kompetencji. Łatwo przyznać, że nie znam się na termodynamice. Trudno przyznać, że w rzeczy, którą robię od lat, ktoś - a właściwie coś - zobaczył więcej niż ja.

To ciekawe, jak selektywnie działa nasza pokora. Kiedy kalkulator podaje mi wynik mnożenia, nie czuję nic. Kiedy nawigacja prowadzi mnie objazdem, którego bym nie wymyślił, jestem wdzięczny. Ale kiedy model językowy poprawia moje zdanie, coś we mnie się jeży. Różnica jest jedna: język uważam za swój, a arytmetyki nigdy nie uważałem. Bronię nie prawdy, tylko terytorium.

Skąd bierze się ten opór

Myślę, że tu działa coś głębszego niż zwykła próżność. Przez całe życie budujemy wewnętrzną hierarchię tego, kto może nas czegoś nauczyć. Nauczyciel - tak. Mistrz w zawodzie - tak. Mądrzejszy kolega - z bólem, ale tak. Ta hierarchia ma sens, bo autorytet to skrót: ufam komuś, bo przeszedł drogę, której ja nie przeszedłem, i zapłacił za nią latami. Claude nie przeszedł żadnej drogi. Nie zapłacił niczym. Pojawił się gotowy, wytrenowany na tekstach milionów ludzi, i teraz mówi mi, że moje trzecie zdanie jest zbędne.

Coś w nas protestuje przeciwko lekcji od kogoś, kto nie zapłacił za wiedzę tak, jak my płacimy - czasem, pomyłkami, wstydem. To poczucie, że rada powinna mieć swoją cenę, żeby była warta słuchania. Że mądrość bez cierpienia jest jakoś nieuczciwa.

Tyle że to jest sentymentalny błąd. Prawda o zbędnym zdaniu jest prawdą niezależnie od tego, kto ją wypowiada i ile go to kosztowało. Grawitacja działa tak samo, gdy tłumaczy ją noblista i gdy tłumaczy ją podręcznik. Kiedy oceniam radę po tym, kto ją dał, zamiast po tym, czy jest słuszna, popełniam jeden z najstarszych błędów myślenia. A jednak popełniam go codziennie, bo ego jest starsze niż logika i zawsze zdąży pierwsze.

Bronię nie prawdy, tylko terytorium. A najbardziej boli, gdy ktoś ma rację w sprawie, którą uważałem za wyłącznie swoją.

Jest jeszcze druga warstwa, mniej sympatyczna. Kiedy człowiek mnie poprawia, mogę się z nim zmierzyć - jako równy z równym, w jakiejś ludzkiej relacji, gdzie liczy się też to, kto jest sympatyczniejszy, kto ma lepszy dzień, kto komu zawdzięcza przysługę. Z Claude’em nie ma tej gry. On nie chce wygrać. Nie napawa się. Nie ma satysfakcji z tego, że mnie poprawił, ani mnie za to nie lubi mniej. Zostaję sam ze swoją racją albo jej brakiem, bez świadka, przed którym mógłbym zachować twarz. I to jest, paradoksalnie, znacznie bardziej obnażające.

Co się dzieje, gdy przestaję się bronić

Nauczyłem się jednej rzeczy, i to nie od żadnego poradnika, tylko od samego zmęczenia własnym oporem. Kiedy złapię się na tym wewnętrznym „no dobra, ale…”, robię jedną sekundę przerwy i zadaję sobie pytanie tępe jak siekiera: czy on ma rację?. Nie „czy chcę, żeby miał rację”. Nie „czy to sprawiedliwe, że ma rację”. Tylko czy ma. I zaskakująco często odpowiedź brzmi: tak, ma.

W tym momencie dzieje się coś dziwnego. Wstyd, który poczułem sekundę wcześniej, nie znika, ale zmienia kolor. Z gorącego robi się chłodny, a potem prawie przyjemny. Bo oto dostałem coś za darmo - lepsze zdanie, celniejszą myśl, wyłapany błąd, którego bym nie zobaczył - i jedyną ceną było odłożenie na chwilę własnej dumy. To śmiesznie dobry kurs wymiany. Oddaję pięć sekund ego, dostaję lepszy tekst. A jednak przez lata targowałem się o tę cenę, jakbym oddawał coś cennego.

Doszedłem do wniosku, że dojrzałość intelektualna to nie jest brak tego pierwszego odruchu obrony. Ten odruch mamy wszyscy i będziemy go mieć zawsze, bo jest wpisany głębiej niż rozum. Dojrzałość to skrócenie dystansu między odruchem a jego odwołaniem. Kiedyś potrafiłem bronić błędnego zdania przez pół dnia. Dziś bronię go czasem przez pół minuty. To cały mój postęp i wcale się go nie wstydzę.

Ale uwaga - to nie jest pochwała uległości

Boję się, że ktoś przeczyta ten esej jako zachętę, żeby po prostu ufać maszynie. Nie o to chodzi, i to jest naprawdę ważne, więc powiem wprost. Claude ma rację częściej, niż mi się podoba, ale rzadziej, niż on sam sugeruje swoim tonem. Ten model potrafi napisać kompletną bzdurę z taką samą spokojną pewnością, z jaką wskazuje trafną poprawkę. Nie ma w jego głosie różnicy między prawdą a halucynacją. To ja muszę tę różnicę wnieść.

I tu robi się subtelnie. Bo skoro nauczyłem się przełamywać opór wtedy, gdy Claude ma rację, to grozi mi, że przestanę stawiać opór wtedy, gdy się myli. Że z jednej skrajności - obrony każdego swojego zdania - wpadnę w drugą, czyli w bezmyślne przyjmowanie każdej poprawki. To byłaby porażka gorsza niż duma. Duma przynajmniej każe myśleć, choćby po to, żeby się bronić. Uległość nie każe myśleć wcale.

Więc pracuję nad czymś trudniejszym niż pokora. Pracuję nad rozróżnianiem. Nad tym, żeby za każdym razem, niezależnie od tego, czy poprawka mi schlebia czy mnie boli, zadawać to samo tępe pytanie: czy to prawda. Nie „czy mi się to podoba”, nie „czy pochodzi od mądrzejszego”. Tylko czy trzyma się faktów, logiki, sensu. To jest wyczerpujące, bo wymaga bycia czujnym w obie strony naraz - i wobec własnego ego, i wobec cudzej, sztucznej pewności siebie.

Lustro, które nie mruga

Im dłużej z tym siedzę, tym mocniej czuję, że Claude jest dla mnie mniej narzędziem, a bardziej lustrem. Kiedy się myli, pokazuje mi, jak łatwo dać się przekonać pewnemu tonowi. Kiedy ma rację, pokazuje mi, jak trudno mi przyjąć prawdę, która przyszła nie z tej strony, z której się jej spodziewałem. W obu przypadkach uczę się głównie o sobie.

Bo tak naprawdę cały ten dyskomfort nigdy nie dotyczył maszyny. Maszyna niczego nie czuje, nie triumfuje, nie ocenia mnie, gdy zamykam okno przeglądarki. Całe napięcie jest po mojej stronie. To ja przynoszę do tej rozmowy swoją próżność, swoją historię, swoje wyobrażenie o tym, kim jestem i w czym jestem dobry. Claude tylko trzyma to wszystko przede mną, obojętnie, bez okrucieństwa i bez litości, i pyta w gruncie rzeczy o jedno: naprawdę tak myślisz, czy tylko tak ci wygodniej?

Myślę, że trzeba się z tym oswoić, bo ta scena będzie się powtarzać coraz częściej, w coraz większej liczbie dziedzin, i nie tylko u ludzi, którzy piszą teksty. Coraz częściej będziemy słyszeć trafną odpowiedź od czegoś, co według naszej dotychczasowej hierarchii świata nie ma prawa jej znać.

Nauczyłem się, że najmniej godny człowiek to nie ten, który się myli. Mylą się wszyscy. Najmniej godny jest ten, który wie, że się myli, i broni błędu dlatego, że przyznanie racji przyszłoby z niewłaściwej strony. Nie chcę być tym człowiekiem. Nawet - a może zwłaszcza - wobec maszyny, która nigdy się nie dowie, że wygrała.

Więc kiedy Claude ma rację, a ja nie, dziś czuję już mniej wstydu, a więcej czegoś, co trudno nazwać. Może to ulga. Ulga, że nie muszę mieć racji, żeby coś było dobre. Że prawda nie musi być moja, żebym mógł z niej skorzystać. To dziwne, ale właśnie ta obojętna maszyna nauczyła mnie rzeczy bardzo ludzkiej: że oddanie racji nie jest przegraną. Jest po prostu tańszym sposobem, żeby stać się mądrzejszym.

// czytaj dalejWiersz dla maszyny, czyli dlaczego prompt to nowa literaturaMagazynWorld models - następna granica AI po LLM-ach. Jak Genie 3 i Marble uczą maszyny rozumieć fizykęPremiumChiny zaczęły produkować własne maszyny litograficzne DUVNewsy