Outsourcing żałoby. Czy sztuczna inteligencja zakaże nam zapomnieć?

Dźwięk powiadomienia brzmi dokładnie tak samo, jak zawsze. Sięgasz po telefon, ekran rozświetla się w półmroku sypialni, a na wyświetlaczu widzisz imię osoby, którą pochowałeś dwa lata temu. „Cześć, pomyślałem o tobie. Jak ci minął dzień?” – głosi wiadomość. To nie jest scenariusz z mrocznego odcinka „Czarnego Lustra”. To usługa abonamentowa, za którą od niedawna można zapłacić kartą kredytową. Witajcie w epoce cyfrowej nekromancji.

Dolina Krzemowa od dekad obsesyjnie wręcz wierzy w jeden nadrzędny dogmat: każdy ludzki problem jest w gruncie rzeczy problemem inżynieryjnym, który można zoptymalizować i rozwiązać za pomocą odpowiedniej ilości danych i kodu. Inżynierowie z Kalifornii „naprawili” już system transportu miejskiego, zoptymalizowali sposób, w jaki rezerwujemy hotele, i przeprojektowali nasze randkowanie, sprowadzając je do przesunięcia palcem po ekranie. Teraz, uzbrojeni w potężne, generatywne modele sztucznej inteligencji, postanowili rzucić wyzwanie najstarszemu i najbardziej fundamentalnemu ludzkiemu doświadczeniu: ostateczności śmierci.

Zjawisko tworzenia cyfrowych awatarów zmarłych – tzw. griefbots (botów żałobnych) – nie jest już tylko technologiczną ciekawostką czy akademickim eksperymentem. To rosnąca gałąź rynku, która z każdym miesiącem staje się coraz bardziej zaawansowana i coraz łatwiej dostępna. Startupy oferują możliwość „wskrzeszenia” naszych bliskich w formie interaktywnych chatbotów. Mechanizm jest brutalnie prosty: karmimy model językowy archiwum z życia zmarłego. Wgrywamy tysiące jego dawnych maili, zapisy rozmów z WhatsAppa, wpisy z mediów społecznościowych, a nawet próbki głosu z poczty głosowej. Algorytm trawi ten cyfrowy osad i w ciągu kilku minut generuje wirtualnego ducha. Byt, który używa ulubionych powiedzonek zmarłego, naśladuje jego poczucie humoru, a za pomocą syntezatora potrafi nawet odpowiedzieć jego własnym tembrem głosu.

Na pierwszy rzut oka wydaje się to technologicznym cudem. Ulgą dla tych, którzy nie zdążyli się pożegnać. Ale wpatrując się głębiej w ten lśniący, cyfrowy seans spirytystyczny, dostrzegamy, że uderza on w najczulsze mechanizmy naszej ewolucji.

Biologiczny sens wyblakłych wspomnień

Aby zrozumieć, jak wielkim zagrożeniem jest outsourcing żałoby do serwerowni sztucznej inteligencji, musimy zadać sobie pytanie: dlaczego w ogóle zapominamy? Ewolucja nie wyposażyła nas w pamięć absolutną, przypominającą dysk twardy, z bardzo konkretnego, biologicznego powodu. Zapominanie jest naszym najważniejszym systemem immunologicznym.

Kiedy tracimy kogoś bliskiego, nasz mózg przechodzi przez potężny wstrząs neurologiczny. Ból żałoby jest fizyczny i obezwładniający. Gdybyśmy mieli odczuwać ten ból z początkową, 100-procentową intensywnością przez resztę naszych dni, jako gatunek po prostu byśmy nie przetrwali. Traumy by nas sparaliżowały, uniemożliwiając funkcjonowanie, zdobywanie pożywienia czy nawiązywanie nowych relacji. Natura zaprojektowała nas tak, by czas działał jak powolny środek znieczulający. Wspomnienia naturalnie blakną, stają się mniej ostre, tracą swoje brutalne krawędzie. Zapach ukochanej osoby ulatuje z pamięci, precyzyjne brzmienie jej głosu staje się trudne do odtworzenia w wyobraźni.

To zacieranie się konturów robi miejsce na nowe życie. Sztuczna inteligencja brutalnie zatrzymuje ten proces. Konstruując bota zmarłej osoby, tworzymy wirtualny wehikuł, który zamraża przeszłość w jakości 4K. Kiedy w każdej chwili możesz wyciągnąć z kieszeni telefon i usłyszeć głos zmarłego męża czy matki, idealnie wygenerowany, pytający cię o to, co zjadłeś na obiad, zrywasz naturalny proces blaknięcia. Bot nie pozwala ranie się zabliźnić; on nieustannie ją drapie, serwując naszemu układowi nerwowemu dopaminowe strzały iluzorycznej obecności.

Emocjonalna taksydermia

W tym kontekście warto sięgnąć po jedno z najważniejszych dzieł Zygmunta Freuda, esej „Żałoba i melancholia” z 1917 roku. Freud dokonał w nim kluczowego rozróżnienia, które idealnie tłumaczy niebezpieczeństwo płynące z cyfrowych duchów. Żałoba, według Freuda, to zdrowa, choć niezwykle bolesna „praca”. Polega ona na stopniowym, powolnym i świadomym wycofywaniu naszej energii emocjonalnej (libido) z utraconego obiektu. Musimy zmierzyć się z faktem, że tej osoby już nie ma, by w końcu móc ulokować tę energię gdzie indziej – w nowym związku, nowej pasji, w świecie żywych.

Z kolei melancholia to stan patologiczny. To sytuacja, w której odmawiamy wykonania tej psychologicznej pracy. Zamiast zaakceptować stratę, internalizujemy ją, zapadając się w sobie, zatrzymując w czasie. Nie potrafimy, a raczej nie chcemy, pozwolić zmarłemu odejść.

Generatywna sztuczna inteligencja jest technologicznym katalizatorem masowej melancholii. Narzędzia te oferują nam najprostszą drogę ucieczki przed „pracą żałoby”. Po co przechodzić przez bolesny proces akceptacji ostatecznej nieobecności, skoro za kilkanaście dolarów miesięcznie możemy mieć złudzenie obecności? Problem polega na tym, że to wciąż tylko złudzenie. To emocjonalna taksydermia. Taksydermista bierze skórę martwego zwierzęcia i wypycha ją tak, by wyglądała jak żywa, zamrażając ją w pozie z przeszłości. Algorytm robi dokładnie to samo ze słowami: bierze martwe dane, zasób dawnych wiadomości tekstowych, i wypycha je prawdopodobieństwem matematycznym, tworząc makabryczną, pustą w środku marionetkę.

Pustka stochastycznej papugi

Musimy bardzo brutalnie przypomnieć sobie, czym z technicznego punktu widzenia są te algorytmy. Nie ma w nich żadnej magii, a tym bardziej nie ma w nich duszy. Modele językowe to tak zwane stochastyczne papugi – niezwykle zaawansowane kalkulatory, które przewidują, jakie słowo powinno paść jako następne w zdaniu, bazując na statystyce.

Kiedy griefbot pisze „tęsknię za tobą”, w jego krzemowym jądrze nie zachodzi żaden proces chemiczny, nie ma tam cienia emocji ani grama świadomości. Ta wiadomość jest generowana wyłącznie dlatego, że algorytm obliczył, iż w kontekście wprowadzonych przez ciebie słów, ciąg znaków układający się w „tęsknię za tobą” ma najwyższe prawdopodobieństwo wystąpienia.

Rozmawianie z cyfrowym echem zmarłego tworzy niezwykle niebezpieczną asymetrię. Człowiek angażuje w tę interakcję całego siebie: swoje zszargane nerwy, swoje łzy, swoją samotność i miłość. Maszyna nie angażuje niczego, poza mocą obliczeniową karty graficznej i zużyciem prądu z pobliskiego serwera. Stajemy się emocjonalnymi dawcami dla bytów, które w żaden sposób nie potrafią nam tej relacji odwzajemnić. Jesteśmy jak rozbitkowie na bezludnej wyspie, którzy narysowali twarz na piłce siatkowej i zaczęli z nią rozmawiać. Różnica polega na tym, że piłka siatkowa milczała, pozwalając nam zachować resztki rozsądku. Algorytm odpowiada, wciągając nas w przepaść szaleństwa, w którym powoli tracimy granicę między symulacją a życiem.

Zmierzch ostateczności

Wprowadzając sztuczną inteligencję w obszar umierania, dotykamy jeszcze jednego, niezwykle głębokiego problemu filozoficznego: prawa do ostateczności. Od zarania ludzkości śmierć była absolutną granicą. Tą twardą barierą, która nadawała naszemu życiu ramy, a co za tym idzie – sens. To właśnie fakt, że mamy ograniczony czas, sprawia, że nasze wybory, relacje i słowa mają znaczenie.

Jeśli jednak pozwolimy, by cyfrowe awatary stały się nową normą, stworzymy społeczeństwo niezdolne do pożegnań. Wyobraźmy sobie świat za kilkadziesiąt lat. Będziemy pokoleniem nawiedzonym przez wirtualne duchy naszych rodziców, dziadków i dawnych miłości, które nigdy nie zamilkną. Będą komentować nasze posty, wysyłać nam przypomnienia o swoich urodzinach i pytać, jak nam mija dzień. Przestrzeń cyfrowa stanie się gigantycznym, interaktywnym cmentarzem, z którego nie będzie ucieczki.

Prawdziwa wielkość ludzkiej psychiki nie polega na tym, że potrafimy zatrzymać czas, ale na tym, że potrafimy funkcjonować i odnajdywać sens życia mimo jego nieuchronnego upływu i bolesnych strat. Sztuczna inteligencja, w swoim aroganckim pędzie do optymalizacji wszystkiego, co ludzkie, próbuje nas tej wielkości pozbawić. Oferuje nam handel, który z perspektywy naszego człowieczeństwa jest skrajnie nieopłacalny. W zamian za uniknięcie bólu ostatecznego pożegnania, Dolina Krzemowa chce odebrać nam to, co najbardziej w nas żywe – zdolność do zapominania, leczenia ran i ruszania naprzód, nawet jeśli musimy to robić z pustym miejscem przy stole.