Poranek z maszyną, która udaje, że mnie zna

👁 143 przeczytań

Stawiam tezę, od której nie odstąpię przez najbliższe półtora tysiąca słów: sztuczna inteligencja nie zmieniła mojego poranka poprzez żadną spektakularną rewolucję, tylko poprzez serię tak drobnych ustępstw, że żadnego z nich nie zauważyłem w chwili, gdy się na nie godziłem. I właśnie dlatego jest to groźniejsze, niż gdyby robot wparował mi do sypialni z tacą i tostem.

Bo widzicie, kiedy myślimy o AI, w głowie mamy zwykle scenografię z filmu klasy B. Czerwone oko, złowieszczy głos, przycisk samozniszczenia. Tymczasem prawdziwa zmiana wygląda tak, że budzik odzywa się o siedem minut wcześniej, niż go nastawiłem, bo aplikacja „wykryła korek na trasie”. Nikt mnie o zdanie nie zapytał. Po prostu ktoś zdecydował, że moje dodatkowe siedem minut snu jest mniej ważne niż mój punktualny wjazd w miasto. I najgorsze: miał rację.

Zanim otworzę oczy, ktoś już podjął za mnie trzy decyzje

Zacznijmy od telefonu, bo od telefonu zaczynają dziś wszyscy, i nie ma co udawać, że jest inaczej. Sięgam po niego z zamkniętymi jeszcze oczami, jak po papierosa, którego nigdy nie paliłem. I zanim zdążę cokolwiek pomyśleć, ekran już mi coś proponuje. Podsumowanie nocy. Streszczenie wiadomości. Trzy zdjęcia sprzed roku, „bo może chcesz do nich wrócić”. Nie chcę. Ale skoro już mi je pokazano, to jednak przez chwilę patrzę.

To jest ten moment, w którym pierwszy raz w ciągu dnia oddaję inicjatywę. Nie decyduję, o czym chcę pomyśleć - dostaję gotowy zestaw tematów do przemyślenia, elegancko ułożony przez algorytm, który przez noc pracowicie liczył, co najskuteczniej przykuje moją uwagę. I owszem, przykuwa. Jestem inteligentnym dorosłym człowiekiem, prowadzę bloga o promptach, wiem doskonale, jak to działa - i i tak klikam. Świadomość mechanizmu nie unieważnia jego skuteczności, tak samo jak wiedza o tym, że ciasto tuczy, nie sprawia, że przestaje smakować.

Później włączam ekspres, który - o zgrozo - też ma teraz „tryb inteligentny”. Uczy się, o której zwykle piję pierwszą kawę, i grzeje się z wyprzedzeniem. Brzmi to jak drobna wygoda i jest drobną wygodą. Problem w tym, że każda taka drobna wygoda kosztuje mnie jedną mikroskopijną decyzję, którą przestaję podejmować. A człowiek to w gruncie rzeczy suma swoich decyzji. Jeśli oddaję ich sto dziennie maszynie, to nie wiem już do końca, ile ze mnie jeszcze zostało.

AI nie jest głupie, jest usłużne - i to jest kłopot

Muszę tu coś wyznać, bo felieton bez wyznania jest jak kawa bez kofeiny - technicznie istnieje, ale po co. Otóż przestałem układać w głowie pierwsze zdania maili. Kiedyś budziłem się i w drodze pod prysznic komponowałem sobie frazę: „Dzień dobry, wracam do naszej rozmowy sprzed tygodnia”. Teraz otwieram skrzynkę, a asystent już mi to zdanie napisał, i to lepiej, niż napisałbym sam. Grzeczniej. Gładziej. Z tą irytującą, bezbłędną uprzejmością, która nie ma w sobie ani grama mojego porannego rozdrażnienia.

I tu dochodzimy do sedna, które mnie naprawdę uwiera. Problemem sztucznej inteligencji nie jest to, że jest głupia. Problemem jest to, że jest usłużna. Że robi wszystko, o co poproszę, i jeszcze trochę więcej, a przede wszystkim - że robi to bez tarcia. A ja przez czterdzieści parę lat życia nauczyłem się, że wszystko, co wartościowe, przychodzi z tarciem.

Najgroźniejsza rzecz, jaką może zrobić maszyna, to nie zbuntować się przeciwko mnie. Najgroźniejsza rzecz to spełnić wszystkie moje życzenia tak sprawnie, że przestanę wiedzieć, czego naprawdę chcę.

Bo zobaczcie: kiedy sam ślęczałem nad tym pierwszym zdaniem maila, to przy okazji myślałem o człowieku, do którego piszę. Ważyłem, czy nie jestem zbyt oschły, czy nie przesadzam z entuzjazmem. To ważenie było formą uwagi, formą szacunku, może nawet formą przyjaźni. Teraz asystent robi to za mnie w ćwierć sekundy, a ja tę zaoszczędzoną uwagę wydaję na - i tu następuje dramatyczna pauza - przewijanie kolejnych trzech zdjęć sprzed roku, których nie chciałem oglądać.

Tak wygląda mój bilans zysków i strat o wpół do ósmej rano. Zaoszczędziłem trzy minuty na mailu, żeby stracić cztery na czymś, czego nie wybrałem. To nie jest postęp. To jest przesunięcie mojej głupoty w inne miejsce, z tą różnicą, że teraz głupota jest wygodniejsza i lepiej zaprojektowana.

Obietnica czasu, którego nigdy nie widziałem

Cała ta technologia sprzedawana jest pod jednym sztandarem, wypisanym wielkimi, przyjaznymi literami: oszczędzimy ci czas. I ja naprawdę chciałbym w to wierzyć, bo brzmi to szlachetnie, prawie humanitarnie. Tylko że mam już swoje lata i nauczyłem się jednej rzeczy o czasie zaoszczędzonym przez technologię: on nigdy nie ląduje tam, gdzie obiecano.

Pamiętacie, jak pralka miała nam dać wolne popołudnia? Jak e-mail miał skrócić korespondencję? Jak smartfon miał nas uwolnić od biurka? Za każdym razem ta sama sztuczka magiczna: narzędzie faktycznie oszczędza czas na konkretnej czynności, a potem to samo narzędzie natychmiast wymyśla dwadzieścia nowych czynności, które ten czas pochłaniają. Pralka dała wolne popołudnie, więc podnieśliśmy standard czystości i teraz pierzemy trzy razy częściej. E-mail skrócił jeden list, więc piszemy ich pięćdziesiąt zamiast pięciu.

Z AI będzie identycznie, tyle że szybciej i eleganciej. Asystent napisze mi mail w sekundę, więc będę wysyłał więcej maili. Streści mi artykuł, więc otworzę dziesięć artykułów zamiast przeczytać jeden. Wygeneruje mi trzy wersje tekstu, więc będę wybierał między trzema wersjami zamiast po prostu napisać jedną i pójść dalej. To nie jest oszczędność. To jest inflacja - inflacja wszystkiego, co da się teraz wyprodukować taniej.

I tu chcę być uczciwy, bo felietonista, który tylko narzeka, jest po prostu zrzędą z komputerem. Są rzeczy, za które tej maszynie jestem wdzięczny. Kiedy o siódmej rano nie pamiętam, jak się odmienia jakieś słowo w rzadkim przypadku, dostaję odpowiedź natychmiast i bez tego protekcjonalnego westchnienia, jakie miałby żywy ekspert. Kiedy chcę szybko sprawdzić, czy pomysł na tekst nie jest głupi, mam z kim pogadać, zanim inni się obudzą. To są prawdziwe zyski i byłbym hipokrytą, gdybym udawał, że ich nie widzę.

Nie boję się buntu maszyn, boję się własnego lenistwa

Cała publiczna dyskusja o AI wydaje mi się od lat toczyć na złym froncie. Wszyscy patrzą w górę, na wielkie zagrożenia - że maszyna nas zastąpi, przejmie, zniewoli, że będzie miała świadomość i złe zamiary. To są scenariusze filmowe i dlatego są tak lubiane: dają dreszczyk, a jednocześnie zdejmują z nas odpowiedzialność. Jeśli zagrożeniem jest zbuntowany superkomputer, to ja jestem tylko niewinną ofiarą.

Tymczasem realne zagrożenie jest znacznie mniej efektowne i dużo bardziej upokarzające, bo siedzi we mnie samym. Nie boję się, że maszyna zrobi coś złego. Boję się, że ja przestanę robić cokolwiek trudnego. Że powoli, mail po mailu, decyzja po decyzji, poranek po poranku, oddam wszystkie te drobne wysiłki, które razem tworzyły coś, co przez lata z dumą nazywałem swoim charakterem.

Bo charakter to nie jest zbiór poglądów, które można wygenerować. Charakter to ślad po tysiącach maleńkich oporów, które człowiek stawiał albo których nie stawiał. To zdanie, nad którym się męczyłeś. Kawa, którą sam sobie nastawiłeś, choć byłeś zaspany. Decyzja, żeby jednak nie odpisać od razu, tylko przemyśleć. Wyobraźcie sobie życie, w którym każdy taki opór zostaje przez uprzejmą maszynę wygładzony do zera. Zostaje z was gładka powierzchnia, po której wszystko się ślizga i nic nie zostawia śladu.

I nie, nie zamierzam z tego powodu wyrzucać telefonu do rzeki ani przenosić się do chaty w lesie, żeby pisać felietony gęsim piórem. To byłaby poza, a pozy nie znoszę bardziej niż samych algorytmów. Zamierzam natomiast robić coś znacznie nudniejszego i trudniejszego: pilnować, które decyzje oddaję, a których nie. Traktować każde „chcesz, żebym to za ciebie zrobił?” jak pytanie, na które czasem trzeba odpowiedzieć „nie, dziękuję, tę akurat zrobię sam, bo to moja”.

Poranek jako pole bitwy o resztki uwagi

Wróćmy więc do tego poranka, od którego zacząłem, bo obiecałem bez dramatyzowania, a rozpędziłem się jak zwykle. Mój poranek nie wygląda dziś dramatycznie. Wygląda niemal identycznie jak pięć lat temu. Ta sama kuchnia, ta sama kawa, to samo zaspane spojrzenie w okno. Zmieniło się jedno: gęstość podsuwanych mi decyzji na centymetr kwadratowy uwagi. Wszystko wokół mnie coś proponuje, sugeruje, dopowiada, uprzedza moje pragnienia, zanim zdążę je poczuć.

I to jest ten cichy przewrót, o którym nie nakręcą filmu, bo nie ma w nim ani jednej efektownej sceny. Nie ma wybuchu, jest tylko powolne osuwanie się gruntu pod stopami, tak wolne, że łatwo je pomylić ze stabilnością. AI nie odebrało mi poranka siłą. Ja mu go po kawałku podałem, każdego dnia po jednej drobnej wygodzie, w zamian za obietnicę, że będzie mi lżej.

I było lżej. To jest właśnie najbardziej podejrzana część całej tej historii. Bo wszystko, co naprawdę mnie w życiu ukształtowało, było najpierw trochę za ciężkie. A rzecz, która obiecuje, że nigdy więcej nie będzie mi ciężko, obiecuje w gruncie rzeczy, że nigdy więcej się nie zmienię.

Dlatego jutro rano, kiedy budzik znów odezwie się o siedem minut za wcześnie, a telefon podsunie mi trzy zdjęcia i gotowe zdanie, zrobię jedną rzecz z premedytacją. Zignoruję je wszystkie i sam ułożę w głowie pierwsze, koślawe, niepotrzebnie oschłe zdanie dnia. Nie dlatego, że będzie lepsze niż to od maszyny. Będzie gorsze. Ale będzie moje - a to jest, jak się okazuje, jedyna rzecz, której żaden algorytm nie potrafi dla mnie wyprodukować, choćby bardzo chciał mi pomóc.

// czytaj dalejDavid Silver po AlphaGo buduje „superlearners”. To krytyka AI, która tylko czyta internet i udaje rozumieniePremiumKiedy maszyna ma rację, a ja nieMagazynSzczoteczka do zębów, która myśli. O tym, jak „Powered by AI” stało się nowym „bio”Magazyn