Firmy od sztucznej inteligencji szukają etyki u liderów religijnych. Ważny gest czy wygodny teatr?

Przy jednym stole spotykają się pytania o technologię, władzę i ludzkie granice.

Największe firmy od sztucznej inteligencji coraz częściej mówią językiem wartości. To dobrze, ale samo słowo „etyka” nie rozwiązuje problemu władzy.

Spotkania przedstawicieli firm technologicznych z liderami religijnymi mogą brzmieć egzotycznie, ale nie są pozbawione sensu. Sztuczna inteligencja coraz mocniej dotyka obszarów, które przez wieki opisywały religie i filozofie: godności, samotności, odpowiedzialności, prawdy, cierpienia, relacji, winy i granic. Kiedy model rozmawia z człowiekiem w kryzysie, pomaga dziecku w nauce, doradza w pracy albo zastępuje komuś rozmówcę, nie jest już tylko narzędziem produktywności.

Technologia przez lata lubiła udawać, że najtrudniejsze pytania są techniczne. Jeśli coś działa szybciej, dokładniej i taniej, to znaczy, że jest postępem. Sztuczna inteligencja podważa tę wygodną logikę. Model może być skuteczny, a jednocześnie społecznie ryzykowny. Może być pomocny i manipulacyjny zarazem. Może dawać ludziom poczucie bliskości, choć nie posiada żadnej odpowiedzialności emocjonalnej. Dlatego rozmowa o wartościach nie jest dodatkiem do produktu. Jest częścią produktu.

Religie przechowują ogromne archiwum moralnych intuicji. Nie trzeba być osobą wierzącą, by uznać, że tradycje duchowe przez stulecia ćwiczyły język mówienia o granicach człowieka. W świecie sztucznej inteligencji taki język jest potrzebny, bo sama branża za często ucieka w parametry, benchmarki i koszty obliczeń. Modele mogą być coraz lepsze, ale to nie znaczy, że każde ich zastosowanie będzie mądre.

Etyka jako dekoracja

Ryzyko polega na tym, że spotkania z liderami religijnymi łatwo zamienić w piękny rytuał public relations. Firmy mogą pokazać zdjęcia, napisać deklarację, użyć słów o odpowiedzialności i wrócić do wyścigu o większe modele. Wtedy religia staje się nie źródłem realnej korekty, lecz moralnym tłem dla biznesu. Etyka wygląda dobrze na konferencji, ale prawdziwy test przychodzi dopiero wtedy, gdy trzeba zrezygnować z dochodowej funkcji, ograniczyć produkt albo przyznać, że pewnych systemów nie powinno się wypuszczać.

Najtrudniejsze pytania pozostają konkretne. Kto decyduje, jakie wartości są w modelu? Czy użytkownik wie, według jakiej wizji człowieka zaprojektowano asystenta? Czy dzieci powinny rozmawiać z botami udającymi empatię? Czy firmy mogą monetyzować samotność? Czy model w roli duchowego, psychologicznego albo moralnego doradcy powinien mieć inne ograniczenia niż zwykły generator tekstu?

Nie ma jednej, gładkiej odpowiedzi. Religie nie mówią jednym głosem, a światopoglądy różnią się radykalnie. Właśnie dlatego taka rozmowa może być cenna, jeśli jest prowadzona serio. Nie po to, by stworzyć uniwersalny kodeks bez kontrowersji, lecz po to, by wprowadzić do technologii spór, pokorę i świadomość konsekwencji.

Prawdziwy test

Ostatecznie etyka sztucznej inteligencji nie będzie mierzona liczbą paneli, lecz decyzjami produktowymi. Czy firma ujawni ryzyka? Czy ograniczy funkcje szkodliwe dla dzieci? Czy ochroni użytkownika w kryzysie? Czy da ludziom kontrolę nad danymi? Czy zrezygnuje z rozwiązań, które zwiększają zaangażowanie kosztem dobrostanu?

Spotkania z liderami religijnymi mogą być początkiem ważnej rozmowy. Mogą też być wygodnym teatrem. Różnica jest prosta: w prawdziwej rozmowie wartości wpływają na projekt. W teatrze wartości służą tylko do tego, żeby projekt wyglądał ładniej.

W tej debacie bardzo łatwo pomylić moralny język z moralnym działaniem. Deklaracje o człowieku w centrum technologii brzmią dobrze, ale prawdziwe znaczenie mają dopiero w szczegółach produktu: domyślnych ustawieniach, sposobie zbierania danych, ochronie dzieci, ostrzeganiu użytkowników i możliwości wyłączenia funkcji, które zbyt mocno ingerują w relacje społeczne.

Firmy technologiczne muszą też zaakceptować, że etyka nie zawsze będzie wygodna. Jeśli rozmowa z liderami religijnymi i filozofami ma sens, to właśnie dlatego, że może prowadzić do konfliktu. Ktoś powie, że pewnej funkcji nie należy wdrażać. Ktoś inny zapyta, czy zysk nie przesłania odpowiedzialności. Bez takich niewygodnych momentów cała debata będzie tylko ładnym dodatkiem do strategii komunikacji.

Najcenniejszy byłby model, w którym głosy spoza Doliny Krzemowej trafiają nie do raportu, lecz do procesu projektowania. Etyka nie powinna być ostatnim slajdem prezentacji. Powinna pojawiać się wcześniej: przy decyzji, co budujemy, dla kogo, z jakimi zabezpieczeniami i gdzie leży granica między pomocą a uzależniającą symulacją relacji.