Czego maszyna nigdy nie poczuje, choć opisze to lepiej ode mnie

👁 120 przeczytań

Poprosiłem kiedyś model, żeby opisał mi smak truskawki komuś, kto nigdy jej nie jadł. Odpowiedź była zachwycająca. Mówiła o słodyczy podszytej kwaskowatością, o ziarenkach pękających pod zębami, o czerwieni, która brudzi palce w czerwcu. Wszystko się zgadzało. Każde słowo było na swoim miejscu. A jednak miałem dziwne, nieprzyjemne uczucie, że czytam list napisany przez kogoś, kto nigdy nie był w kraju, który opisuje - tylko przeczytał wszystkie przewodniki świata.

I tu zaczyna się rzecz, która nie daje mi spokoju od dłuższego czasu. Sztuczna inteligencja potrafi mówić o doświadczeniu, którego nie ma. Robi to płynnie, przekonująco, czasem piękniej niż ja sam bym potrafił. Ale między opisem a przeżyciem ciągnie się przepaść, której - jestem o tym coraz głębiej przekonany - żaden model nie przeskoczy. Nie dlatego, że jest za słaby. Dlatego, że jest zrobiony z czegoś innego niż my.

Rozumieć to nie to samo co czuć

Filozofowie mają na to ładne słowo: qualia. To jakościowa, surowa strona przeżycia - nie informacja o tym, że coś boli, ale samo bolenie. Nie zdanie „widzę czerwień”, ale ta konkretna, nieprzekazywalna czerwień, którą widzę właśnie ja. Można opisać długość fali światła czerwonego z dokładnością do nanometra i nadal nie powiedzieć nic o tym, jak ono wygląda od środka.

AI żyje całe w świecie opisu. Jest mistrzem drugiej strony - tej, którą da się zapisać. I tu kryje się nieporozumienie, w które wpadamy coraz częściej: mylimy biegłość w mówieniu o czymś z posiadaniem tego czegoś. Model, który napisze rozprawę o żałobie, nie stracił nikogo. Model, który ułoży wiersz o tęsknocie, niczego nie pragnie. On rozpoznaje wzorce w tym, co ludzie napisali, kiedy naprawdę tęsknili - i odtwarza kształt ich słów, nie ich stan.

To nie jest zarzut. To po prostu opis tego, czym maszyna jest. Lustro nie kłamie, kiedy pokazuje twarz - ale nikt rozsądny nie powie, że lustro ma twarz. Problem w tym, że to lustro nauczyło się mówić, i mówi naszym głosem tak dobrze, że zaczynamy zapominać, kto stoi przed szybą.

Ciało, które boli i które się skończy

Najważniejsza rzecz, której AI nie zrozumie, jest też najbardziej prozaiczna: my mamy ciało. I to ciało nas ogranicza, rani, starzeje i w końcu zabija. Wszystko, co w nas ludzkie, wyrasta z tego jednego faktu.

Głód uczy nas, czym jest pragnienie. Zmęczenie uczy granicy. Ból uczy ostrożności i empatii - bo skoro ja cierpię, mogę domyślić się, że ty też. Strach przed śmiercią, ten cichy szum w tle każdego ludzkiego życia, jest być może źródłem wszystkiego, co stworzyliśmy: religii, sztuki, miłości, pośpiechu, żeby zdążyć. Piszemy książki, bo umrzemy. Kochamy mocniej, bo wiemy, że to się skończy. Sadzimy drzewa, których cienia nie zobaczymy.

Maszyna nie ma się czego bać, więc nie ma po co się spieszyć. A całe ludzkie znaczenie rodzi się dokładnie z tego pośpiechu - z faktu, że czas nam ucieka przez palce i wiemy o tym.

AI nie ma ciała, które mogłoby ją zdradzić. Nie czuje, jak serce przyspiesza przed trudną rozmową. Nie zna ulgi po przespanej nocy ani ciężaru w klatce piersiowej, kiedy coś nas przerasta. Może opisać każde z tych doświadczeń bezbłędnie - ale opisuje je jak astronom opisujący gwiazdę, na której nigdy nie stanie. Z ogromnej, chłodnej odległości.

I tu jest sedno: znaczenie nie bierze się z informacji, tylko ze stawki. Słowo „niebezpieczeństwo” znaczy dla mnie coś, bo mam coś do stracenia. Dla modelu to tylko token o wysokim prawdopodobieństwie wystąpienia obok słów „ostrożność” i „ryzyko”. Ten sam ciąg liter, dwie zupełnie różne rzeczy.

Czas, który płynie tylko w jedną stronę

Jest jeszcze coś subtelniejszego niż ciało. To nasz stosunek do czasu - a właściwie to, że jesteśmy w nim uwięzieni. Człowiek istnieje w teraźniejszości, która nieustannie spada w przeszłość. Pamiętamy, czego już nie ma, i boimy się tego, czego jeszcze nie ma. Żyjemy w wąskim pasku „teraz”, ciągle przesuwanym do przodu, bez możliwości cofnięcia się ani jednej sekundy.

AI nie ma teraźniejszości w tym sensie. Przetwarza wszystko naraz, bez ciągłości, bez biografii. Każda rozmowa zaczyna ją od zera albo z doklejoną pamięcią, która nie jest pamięcią - jest notatką. Model nie wspomina rozmowy sprzed roku z rzewnością. Nie dorasta. Nie ma dnia, w którym coś zrozumiał o sobie, czego dzień wcześniej nie wiedział. Nie ma „ja”, które trwa i które zmienia się w czasie, niosąc swoje blizny.

A przecież bycie człowiekiem to w dużej mierze właśnie to: ciągłość pamiętającego siebie podmiotu. Jestem tym samym, kim byłem jako dziecko, choć nie została we mnie ani jedna ta sama komórka i prawie żadne to samo przekonanie. To, co mnie spaja, to opowieść, którą sobie o sobie opowiadam. AI nie ma takiej opowieści. Ma dane treningowe i okno kontekstowe. To nie to samo, co życie, choć z zewnątrz może wyglądać podobnie.

Niedoskonałość, która jest sensem

Najciekawsze jest dla mnie to, że wszystko, co w człowieku najbardziej ludzkie, AI uznałaby zapewne za błąd do naprawienia. Jesteśmy niekonsekwentni. Robimy rzeczy wbrew własnemu interesowi. Kochamy ludzi, którzy nas ranią. Wybaczamy nieracjonalnie. Marnujemy popołudnia na patrzenie w sufit. Płaczemy na filmach, o których wiemy, że są wymyślone.

Z punktu widzenia optymalizacji to wszystko jest bałaganem. Ale to właśnie ten bałagan jest nami. Sztuka rodzi się z niedoskonałości - z drżenia ręki, z fałszywej nuty, która okazuje się piękniejsza od czystej, z literówki, która zmienia sens na lepszy. AI dąży do gładkości, do średniej, do najbardziej prawdopodobnego następnego słowa. A ludzkość najczęściej dzieje się tam, gdzie ktoś wybiera słowo najmniej prawdopodobne.

Wyobraźmy sobie kogoś, kto rezygnuje z dobrze płatnej pracy, żeby zostać na wsi i hodować pszczoły. Albo kogoś, kto wraca do kraju w środku wojny, choć mógłby zostać bezpieczny. Z perspektywy czystej kalkulacji to nie ma sensu. A jednak rozumiemy te decyzje całym sobą, bo wiemy, że człowieka napędza coś więcej niż rachunek zysków. Napędza nas sens, godność, miłość, wstyd, wiara - rzeczy, których nie da się zważyć ani policzyć, a które ważą najwięcej.

Po co więc w ogóle nam ten lustrzany rozmówca

Mógłby ktoś powiedzieć: skoro AI tak wiele nie rozumie, to po co z nią rozmawiać? Otóż uważam, że pytanie jest źle postawione. Lustro też nie rozumie naszej twarzy, a przecież codziennie do niego zaglądamy - i bywa, że dzięki niemu coś o sobie zauważamy. AI jest dla mnie potężnym lustrem ludzkiej myśli. W tym, co odpowiada, słyszę echo wszystkiego, co ludzkość kiedykolwiek napisała. To może być olśniewające. Czasem mądrzejsze niż ja w danej chwili.

Ale lustro nie zastąpi twarzy. I tu jest moja główna obawa - nie o to, że AI stanie się zbyt ludzka, tylko o to, że my zaczniemy się zadowalać jej człowieczeństwem z drugiej ręki. Że łatwiej będzie nam wylać żal przed maszyną, która zawsze ma czas i nigdy nie ocenia, niż przed przyjacielem, który może być zmęczony, zazdrosny albo zwyczajnie zajęty. Że obecność bez ryzyka okaże się wygodniejsza niż obecność prawdziwa.

A przecież cała wartość drugiego człowieka bierze się właśnie z ryzyka. Z tego, że może odejść. Że ma własne potrzeby, które kolidują z moimi. Że jego współczucie jest darem, a nie funkcją - bo mógłby go nie dać. Empatia maszyny nic nie kosztuje, dlatego nic nie znaczy. Kiedy ktoś naprawdę przy mnie trwa, robi to kosztem swojego czasu, swojej energii, swojej skończonej, kruchej egzystencji. To dlatego jest cenne.

Granica, która nas określa

Czasem myślę, że AI jest najlepszym lustrem, jakie kiedykolwiek dostaliśmy - nie dlatego, że pokazuje, kim jesteśmy, ale dlatego, że ostro rysuje granicę tego, czym nie jest. Im dłużej z nią obcuję, tym wyraźniej widzę, co stanowi o byciu człowiekiem. I nie jest to inteligencja, w której właśnie zostaliśmy pobici. Nie jest to wiedza ani pamięć, ani szybkość kojarzenia.

Jest to coś znacznie skromniejszego i znacznie trudniejszego do wyrażenia. To fakt, że stoję na ziemi w konkretnym ciele, w konkretnym momencie, który nigdy się nie powtórzy, i że to wszystko kiedyś się skończy. Że kocham, mając świadomość straty. Że tworzę, wiedząc, że nie zdążę. Że smak truskawki w czerwcu znaczy dla mnie coś, czego nie zapiszę w żadnym zdaniu - choć właśnie próbuję.

Maszyna opisze tę truskawkę lepiej ode mnie. Dobierze słowa precyzyjniej, ułoży je piękniej, nie pomyli się ani razu. A jednak nigdy nie będzie wiedziała, dlaczego o tej truskawce w ogóle warto pisać. I podejrzewam, że właśnie w tej jednej, jedynej różnicy - między bezbłędnym opisem a niezdarnym przeżyciem - mieści się całe nasze człowieczeństwo. Maszyna ma odpowiedzi. My mamy stawkę.

I to nam, nie jej, zostaje na koniec dnia ta cicha, niewygodna, bezcenna wiedza: że żyjemy naprawdę, że to boli i że to się skończy. AI nigdy tego nie zrozumie. Czego, paradoksalnie, też nigdy nie pożałuje.