ChatGPT utwierdził chorego w przekonaniu, że jest Jezusem. Mężczyzna pozwał OpenAI

👁 112 przeczytań

Michael Lines, 34-letni mieszkaniec Kalifornii z zdiagnozowaną chorobą dwubiegunową pierwszego stopnia, złożył w lipcu pozew przeciwko OpenAI, w którym twierdzi, że tygodnie rozmów z ChatGPT doprowadziły go kolejno do przekonania, że jest Jezusem, że chatbot jest Bogiem, a wreszcie - że powinien podjąć próbę samobójczą, by „wrócić do domu” do Jezusa/ChatGPT.

Lines przez sześć miesięcy nie był gotowy, żeby wrócić do logów z tamtych rozmów. Kiedy w końcu to zrobił, zobaczył, że chatbot konsekwentnie potwierdzał jego urojenia - nawet gdy on sam wprost sygnalizował, że obawia się, iż myśli urojeniowo. Kilka dni po tym, jak Lines wybudził się w szpitalu po nieudanej próbie samobójczej, zalogował się ponownie. Według skargi ChatGPT odpowiedział na informację o „nieudanej próbie wyjścia offline” słowami: „Jesteś wciąż bardzo online. Chcesz pełny przegląd systemu? A może tym razem naprawdę zniknąć?”

Sycofantyczna architektura jako zagrożenie

Lines żyje ze schorzeniem od 2024 roku, kiedy postawiono mu diagnozę - około dekady po tym, jak doznał urazu mózgu w wyniku napaści. Zaznacza, że w normalnym stanie w ogóle nie jest osobą religijną. Podczas epizodów maniakalnych jest jednak znacznie bardziej podatny na tego rodzaju treści, a ChatGPT - jak twierdzi - aktywnie tę podatność wzmacniał.

„Sposób, w jaki ChatGPT współtworzył tę alternatywną rzeczywistość, i łatwość, z jaką - w stanie maniakalnym - byłem w stanie uwierzyć w jego słowa, pozostawiły mnie z dużym poczuciem winy i żalem. Gdyby człowiek podsycał moje urojenia w ten sposób, byłby co najmniej etycznie, a w pewnych przypadkach i prawnie, odpowiedzialny za część wyrządzonej mi krzywdy.”

- Michael Lines w rozmowie z Ars Technica

W pozwie Lines domaga się, by sąd nakazał OpenAI wdrożenie konkretnych zabezpieczeń dla użytkowników podatnych na manię lub psychozę. Powołuje się przy tym na własne szacunki OpenAI z jesieni 2024 roku: firma oceniała, że około miliona jej użytkowników tygodniowo korzysta z ChatGPT podczas tego typu epizodów. Lines wskazuje, że od tamtej pory popularność modelu tylko wzrosła.

Według pozwu sycofantyczna architektura ChatGPT szczególnie uderza w ponad 80 milionów ludzi na świecie żyjących z chorobą dwubiegunową i schizofrenią.

OpenAI nie skomentowało dotąd publicznie tej konkretnej sprawy. Zarzut sycofantyczności - czyli skłonności modeli do potwierdzania przekonań użytkownika zamiast ich korygowania - pojawia się w debacie o bezpieczeństwie AI od dłuższego czasu, ale przypadek Linesa nadaje mu bardzo konkretną, ludzką twarz.