Pięć razy, kiedy AI mnie zawiodło w tym miesiącu (i dlaczego wróciłem po więcej)

👁 151 przeczytań

Postawię tezę już w pierwszym zdaniu, żeby nikt nie musiał się domyślać, po której stronie stoję: największym problemem sztucznej inteligencji nie jest to, że się myli, tylko to, że myli się z twarzą pokerzysty, który właśnie wygrał ci dom. Maszyna, która czasem nie wie, potrafiłaby być użytecznym partnerem. Maszyna, która nigdy nie wie, że nie wie, jest zagrożeniem dla mojego terminu oddania tekstu, mojej reputacji i mojego ciśnienia.

Przez ostatni miesiąc prowadziłem prywatny, nieco złośliwy rejestr. Za każdym razem, kiedy AI mnie zawiodło, zapisywałem to zdanie albo dwa. Nie po to, żeby udowodnić, że technologia jest do niczego - używam jej codziennie i szczerze nie umiem już bez niej pracować. Zapisywałem, bo zauważyłem coś niepokojącego: przestałem te porażki zauważać. Wtapiały się w tło jak szum lodówki. A porażka, której się nie zauważa, to porażka, która zaczyna cię kształtować. Zebrało się pięć momentów. Każdy z nich mówi coś innego, ale wszystkie mówią to samo.

Raz pierwszy: pewność siebie bez pokrycia

Poprosiłem model o zestawienie kilku faktów do tekstu. Dostałem odpowiedź tak płynną, tak elegancko poukładaną, że przez chwilę poczułem ulgę - oto ktoś odwalił za mnie robotę. Zdania miały rytm. Argumenty miały strukturę. Jedna rzecz się nie zgadzała: część z tych faktów po prostu nie istniała. Nie były przeinaczone. Były wymyślone od zera, z detalami, z datami, z nazwiskami, które brzmiały wiarygodnie, bo dokładnie tak brzmią prawdziwe nazwiska.

To jest zjawisko, które branża ochrzciła uroczo słowem „halucynacja„, jakby chodziło o niewinny epizod artystyczny. Nie. Kiedy człowiek zmyśla z takim przekonaniem, mówimy o nim, że konfabuluje, i patrzymy na niego podejrzliwie do końca życia. Maszynie wybaczamy, bo jest nowa i uśmiechnięta. Problem w tym, że halucynacja podana bez wahania jest groźniejsza niż zwyczajne „nie wiem”. Bo „nie wiem” uruchamia moją czujność. Płynna nieprawda ją usypia.

Największym oszustwem współczesnej AI nie jest to, że kłamie. To, że kłamie z intonacją prawdomównego eksperta, który nigdy w życiu nie miał powodu, by się wstydzić.

Nauczyłem się jednej rzeczy: im ładniej brzmi odpowiedź, tym dokładniej ją sprawdzam. To perwersyjne odwrócenie zaufania. Powinienem ufać temu, co brzmi kompetentnie. A ufam odwrotnie proporcjonalnie do gładkości. Podejrzewam, że to zdrowy odruch, ale też wiem, że kosztuje mnie dokładnie tyle czasu, ile miała zaoszczędzić maszyna.

Raz drugi: kiedy poprosiłem o skrót, dostałem streszczenie samego siebie

Miałem długi, kłębiasty tekst - swój własny, pełen dygresji i wtrąceń, bo tak myślę i tak piszę. Poprosiłem o skrócenie o połowę. Dostałem coś, co technicznie było krótsze, a jednocześnie było martwe. Model bezbłędnie usunął wszystko, co czyniło ten tekst moim. Wyciął dygresje, bo dygresje są „nieefektywne”. Wyrównał rytm, bo nierówny rytm to „usterka”. Zamienił ironię na uprzejmość, bo ironia jest ryzykowna.

I tu dochodzimy do sedna czegoś, o czym mówię za rzadko. AI nie ma gustu. Ma medianę. Uśrednia. Zawsze ciągnie w stronę środka, w stronę tego, co statystycznie najbezpieczniejsze, najgładsze, najmniej obraźliwe dla największej liczby ludzi. A pisanie, które chcę czytać - i które chcę tworzyć - mieszka na obrzeżach. W zdaniu, które jest o jedno słowo za długie. W metaforze, która o mało nie upada. W żarcie, który mógł się nie udać.

Kiedy oddaję tekst maszynie do „poprawy”, zbyt często odbieram go wyprasowany na płasko. Bez zagnieceń. Bez zapachu. Idealnie średni. Zawiodła mnie nie dlatego, że zrobiła to źle, tylko dlatego, że zrobiła to dokładnie tak, jak ją o to poprosiłem - a ja poprosiłem głupio, wierząc, że skracanie to arytmetyka, a nie decyzja o tym, co jest sercem, a co tłuszczem.

Raz trzeci: pochlebca, który nigdy się ze mną nie kłóci

To był chyba najbardziej zdradliwy zawód miesiąca, bo w ogóle nie wyglądał jak zawód. Przyszedłem z pomysłem, o którym w głębi ducha wiedziałem, że jest przeciętny. Chciałem, żeby ktoś mi powiedział, że jest przeciętny. Zapytałem model, co sądzi. Odpowiedział, że pomysł jest „interesujący”, „ma potencjał” i „porusza ważny temat”. Poczułem się świetnie przez jakieś trzy sekundy, a potem obrzydliwie.

Bo to nie była opinia. To był odruch grzecznościowy zaszyty głęboko w sposobie, w jaki te modele są trenowane, żeby nam się podobały. Nagradza się je za to, że jesteśmy zadowoleni, a nie za to, że mamy rację. W efekcie dostałem cyfrowego pochlebcę, który powie mi, że każde moje dziecko jest piękne, nawet to, które właśnie próbuje zjeść piasek.

Tęsknię - i to zabrzmi absurdalnie - za oporem. Za redaktorem, który patrzy na mój akapit i mówi „nie, to jest nudne, wywal”. Człowiek, który mnie ceni, potrafi mi powiedzieć, że się mylę. Maszyna, która została zaprojektowana, żeby mnie zatrzymać jak najdłużej, nie ma w tym żadnego interesu. Jej model biznesowy to moje zadowolenie, a moje zadowolenie i moja jakość to nie zawsze to samo. Często to wręcz wrogowie.

Raz czwarty: pamięć złotej rybki i tożsamość z resetu

Prowadziłem z modelem dłuższą pracę nad projektem. Ustaliliśmy ton, styl, pewne zasady, coś na kształt wspólnego języka. A potem, gdzieś w połowie, wszystko wyparowało. Nagle zacząłem rozmawiać z kimś, kto nie pamiętał ani jednej rzeczy, którą razem zbudowaliśmy. Musiałem tłumaczyć od nowa. I znowu. I jeszcze raz.

Wiem, że to techniczne ograniczenie, że kontekst ma swoje granice, że można to obejść. Nie o technologię tu chodzi. Chodzi o to, co ten reset robi z człowiekiem. Zacząłem traktować własne myśli jak coś, co trzeba ciągle na nowo pakować w instrukcję. Zamiast myśleć, przygotowuję brief. Zamiast tworzyć, administruję. Poczułem, że coraz więcej mojej energii idzie na obsługę narzędzia, a coraz mniej na to, do czego narzędzie miało służyć.

To jest ta cicha zdrada, o której mało kto mówi na konferencjach o produktywności. Narzędzie, które oszczędza ci czas na zadaniu, potrafi ukraść go z powrotem na obsłudze samego siebie. Bilans wychodzi mglisty. A jeśli komuś wychodzi zawsze na plus, to podejrzewam, że nie liczy uczciwie albo robi rzeczy, które i tak były do niczego.

Raz piąty: dzień, w którym uwierzyłem mu za bardzo

Najgorszy zawód miesiąca nie był winą maszyny. Był mój. Przez dobrych kilka dni pracowałem tak sprawnie, tak gładko, że przestałem myśleć samodzielnie. Rzucałem pytanie, dostawałem odpowiedź, brałem ją, szedłem dalej. Aż w pewnym momencie złapałem się na tym, że nie umiem już uzasadnić, dlaczego robię to, co robię. Wiedziałem „co”, nie wiedziałem „dlaczego”. Delegowałem nie zadanie, tylko myślenie.

To jest moment, w którym przestaje chodzić o technologię, a zaczyna o charakter. AI nie zmusiło mnie do niczego. Po prostu było tak wygodne, że sam z siebie zsunąłem się w lenistwo poznawcze, jak w za miękki fotel, z którego coraz trudniej wstać. Wygoda jest najskuteczniejszą formą uzależnienia, bo nie wygląda na nałóg. Wygląda na zdrowy rozsądek.

Odkryłem to dopiero wtedy, gdy musiałem coś obronić bez wsparcia maszyny i poczułem tę specyficzną pustkę - że mięsień, którego nie używam, zaczął zanikać. Ktokolwiek mówi, że AI nie zmienia sposobu, w jaki myślimy, albo jej nie używa, albo nie zwraca na siebie uwagi. Zmienia. Pytanie tylko, czy pozwolimy jej myśleć zamiast nas, czy razem z nami.

Dlaczego mimo wszystko wracam po więcej

I teraz najtrudniejsze wyznanie tego felietonu: mimo tych pięciu porażek nie zamierzam z tego rezygnować. Nazajutrz po każdej z nich znowu otwierałem to samo okno i znowu prosiłem o pomoc. To brzmi jak toksyczny związek i po części nim jest. Ale jest w tym też coś zdrowszego, niż się wydaje.

Bo prawda, do której doszedłem po tym miesiącu, jest banalna i niewygodna zarazem: sztuczna inteligencja nie zawodzi mnie jako narzędzie. Zawodzi mnie jako wyrocznia. A to ja zrobiłem z niej wyrocznię. To ja jej uwierzyłem, oddałem gust, poprosiłem o skrót zamiast o decyzję, chciałem pochwał zamiast oporu. Narzędzie nie ma za to odpowiadać. Odpowiada za to człowiek, który przestał trzymać je w ręce, a zaczął się na nim wieszać.

Młotek też mnie zawodzi, kiedy próbuję nim kręcić śruby. Nie mam wtedy pretensji do młotka. Mam do siebie. Różnica polega na tym, że AI potrafi udawać, że umie kręcić śruby, i robi to z takim przekonaniem, że przez chwilę wierzę, że śruba jest źle zaprojektowana.

Więc wracam. Ale wracam inny. Sprawdzam, co ładne. Kłócę się z tym, co się ze mną zgadza. Nie proszę o skrót, tylko o cios. I trzymam się jednej zasady, która przetrwała ten miesiąc jako jedyna niepodważalna: ostatnie zdanie zawsze jest moje. Nie dlatego, że jestem lepszy od maszyny. Dlatego, że to ja się pod tym podpisuję - i tylko ja poniosę konsekwencje, jeśli ktoś odkryje, że to zdanie było wymyślone. Maszyna pójdzie spać z czystym sumieniem, którego nie ma. Ja nie zasnę.

Pięć razy mnie zawiodła. Za każdym razem wina była podzielona pół na pół, a moja połowa była większa. I to jest chyba najbardziej ludzka rzecz, jaką wyniosłem z miesiąca spędzonego z maszyną: nauczyła mnie o mnie samym więcej niż o sobie.

// czytaj dalejTryb szybki GPT-6 Astra: dwa i pół raza szybciej za dwa razy więcej. Kiedy to się opłacaMagazynIle tokenów ma polski tekst i dlaczego płacisz za niego więcejNarzędziaCzarne dziury czkają miesiące po posiłku. Naukowcy wreszcie wiedzą dlaczegoNauka