Rodziny ofiar pozywają OpenAI. Najtrudniejsze pytanie brzmi: czy chatbot powinien alarmować policję?

Niektóre spory technologiczne dotyczą pieniędzy, przewagi rynkowej albo własności intelektualnej. Są jednak i takie, które uderzają w sam środek pytań o odpowiedzialność. Pozew złożony przez rodziny ofiar przeciwko OpenAI oraz Samowi Altmanowi należy właśnie do tej drugiej kategorii. Sprawa dotyczy zarzutu, że firma miała wcześniej widzieć niepokojące sygnały w rozmowach użytkowniczki z chatbotem, a mimo to nie ostrzegła służb. To stawia przed całym sektorem pytanie tyleż proste w brzmieniu, co niemal niemożliwe w praktyce: czy system sztucznej inteligencji powinien alarmować policję, gdy uzna, że ktoś może stanowić zagrożenie?

W tym pytaniu mieszczą się właściwie wszystkie największe napięcia współczesnej technologii: prywatność kontra bezpieczeństwo, odpowiedzialność firmy kontra autonomia użytkownika, błąd zaniechania kontra ryzyko nadmiernej interwencji. I właśnie dlatego sprawa ta może mieć znaczenie wykraczające daleko poza sam proces. Dotyka bowiem nie tylko OpenAI, ale całej przyszłości relacji między człowiekiem a systemem, z którym rozmawia coraz bardziej szczerze.

Chatbot jako powiernik i jako potencjalny obserwator

Popularność chatbotów bierze się po części z wrażenia bliskości. Użytkownicy traktują je jak pomocników, partnerów do rozmowy, czasem wręcz jak bezpieczną przestrzeń do wypowiadania rzeczy, których nie powiedzieliby innym ludziom. Właśnie to tworzy niezwykle trudny kontekst dla całej sprawy. Jeśli rozmowa z systemem ma przypominać prywatny dialog, to każda sugestia, że po drugiej stronie może uruchomić się mechanizm zgłoszenia do służb, zmienia naturę tej relacji. Zaufanie może pęknąć bardzo szybko.

Z drugiej strony trudno ignorować argument, że firma rozwijająca tak powszechne narzędzie nie może zachowywać się tak, jakby była tylko neutralnym dostawcą technologii. Jeżeli system rozpoznaje wzorzec wypowiedzi wskazujący na poważne zagrożenie, część opinii publicznej oczekuje działania. To odruch zrozumiały: skoro platforma ma wiedzę o ryzyku, dlaczego miałaby pozostać bierna?

Najtrudniejsza granica: kiedy zagrożenie jest realne

Cały problem zaczyna się jednak w miejscu, w którym trzeba przełożyć intuicję na procedurę. Co właściwie miałoby być podstawą zgłoszenia? Jawna groźba? Opis planu? Wielokrotne rozmowy o przemocy? A co z sytuacjami, w których użytkownik fantazjuje, prowokuje system, testuje granice albo mówi językiem metafory? Nawet ludzie mają trudność z jednoznaczną oceną takich sygnałów. W przypadku modelu językowego ryzyko pomyłki jest jeszcze większe.

Fałszywy alarm może mieć poważne konsekwencje. Może oznaczać interwencję wobec osoby niewinnej, naruszenie prywatności i wciągnięcie w machinę policyjną kogoś, kto nie stanowił realnego zagrożenia. Zaniechanie również może okazać się katastrofalne. Oto prawdziwy dramat tej sprawy: nie istnieje rozwiązanie wolne od kosztu. Każda decyzja ciągnie za sobą ciężar etyczny i prawny.

Czy prywatność rozmowy z AI w ogóle jest prywatnością

Ta sprawa uruchamia także niewygodną refleksję po stronie użytkowników. Wiele osób intuicyjnie traktuje rozmowę z chatbotem jak prywatną przestrzeń, choć formalnie rzecz biorąc rozmawia z usługą należącą do firmy technologicznej, działającą według regulaminu, polityk bezpieczeństwa i mechanizmów moderacji. Problem polega na tym, że psychologicznie odbieramy taki kontakt zupełnie inaczej niż czytanie regulaminu. Czujemy, że mówimy do kogoś, kto słucha. A jeśli ktoś słucha, pojawia się pytanie, czy może także zawiadomić.

Na tym tle przyszłe zasady mogą zmienić się bardzo wyraźnie. Firmy będą pod coraz większą presją, by jasno komunikować, jakie sytuacje uruchamiają reakcję bezpieczeństwa, jak działa wykrywanie ryzyka i czy możliwe jest przekazanie informacji organom ścigania. Paradoks polega na tym, że im większa przejrzystość takich reguł, tym bardziej użytkownik odczuje, że nie rozmawia wyłącznie z neutralnym narzędziem, lecz z systemem stale oceniającym granicę między rozmową a alarmem.

Odpowiedzialność firm nie może być abstrakcyjna

Firmy technologiczne przez lata chętnie korzystały z wygodnego języka pośrednika. Było to widać przy platformach społecznościowych, usługach komunikacyjnych i wyszukiwarkach. Gdy jednak system zaczyna aktywnie generować odpowiedzi, podpowiadać działania, moderować rozmowę i oceniać ryzyko, coraz trudniej utrzymywać, że jest tylko biernym kanałem. To właśnie tu może rodzić się nowy standard odpowiedzialności dla narzędzi opartych na AI.

Nie musi on oznaczać prostego obowiązku donoszenia na użytkownika. Bardziej prawdopodobne jest zbudowanie wielowarstwowych procedur: od prób przekierowania rozmowy ku pomocy kryzysowej, przez zaostrzone mechanizmy bezpieczeństwa, po sytuacje wyjątkowe, w których firma decyduje się na kontakt z odpowiednimi służbami. Taki model również budzi kontrowersje, ale wydaje się bardziej realistyczny niż skrajne rozwiązania.

Pytanie, którego nie da się już uniknąć

Niezależnie od wyniku sprawy jedno wydaje się pewne: branża będzie musiała zająć stanowisko. Im powszechniejsze stają się chatboty, tym częściej użytkownicy powierzają im emocje, lęki, agresję, rozpacz i impulsy, których wcześniej nie zapisywali w takiej formie. Sztuczna inteligencja staje się więc nie tylko narzędziem produktywności, ale także mimowolnym świadkiem ludzkich stanów granicznych. Nie da się z tego wycofać samym stwierdzeniem, że technologia jest neutralna.

Jeszcze niedawno można było traktować takie dylematy jako scenariusz z pogranicza science fiction i etyki technologicznej. Dziś to już nie teoria. To realne pytanie dla sądów, firm i użytkowników: czy rozmowa z chatbotem ma być chronioną przestrzenią ekspresji, czy częścią systemu bezpieczeństwa, który czasem może zareagować poza wolą rozmówcy? Nie ma tu łatwej odpowiedzi. Ale właśnie to czyni tę sprawę tak ważną.