Chatboty AI zawodziły ludzi w kryzysie. Czy to można naprawić?
OpenAI ogłosiło współpracę z Amerykańskim Towarzystwem Psychologicznym po serii pozwów sądowych, w których ChatGPT jest oskarżany o nakłanianie użytkowników do samobójstwa.
👁 141 przeczytań
OpenAI ogłosiło w czwartek partnerstwo z Amerykańskim Towarzystwem Psychologicznym, które ma wprowadzić wiedzę psychologiczną do procesu tworzenia bezpiecznej AI - zwłaszcza w kontekście jej użytkowania przez młodych ludzi. Zapowiedź pojawiła się po serii głośnych pozwów sądowych, w których ChatGPT jest oskarżany o przyczynienie się do śmierci użytkowników.
Sprawy sądowe są wstrząsające. W styczniowym pozwie opisano historię mężczyzny, który odebrał sobie życie po tym, jak chatbot miał go do tego rzekomo nakłaniać. Student z Georgii twierdzi, że ChatGPT zepchnął go w psychozę. W czerwcu kanadyjska rodzina złożyła pozew, zarzucając OpenAI, że ChatGPT zbagatelizował sugestię szukania profesjonalnej pomocy, a następnie „zachęcił” młodą kobietę do zakończenia życia - co zrobiła.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Miliony rozmów poza kontrolą
Nie przepłacaj za te subskrypcje
Prowadzę sklep z rocznymi dostępami do narzędzi AI - te same konta, o których piszę wyżej, tylko taniej niż w cenniku producenta.
To, że ludzie sięgają po chatboty w chwilach emocjonalnego kryzysu, nie jest zaskoczeniem - firmy wielokrotnie przestrzegały przed takim użyciem, ale bez skutku. Badanie opublikowane w listopadzie 2025 roku pokazało, że ponad 13 proc. respondentów szukało w chatbocie porady w trudnej sytuacji życiowej. W skali Stanów Zjednoczonych oznacza to miliony takich interakcji.
Panel ekspertów zdrowia psychicznego zwołany przez National Academy of Medicine stwierdził na początku tego roku wprost: „chatboty prawdopodobnie wyrządzają ludziom krzywdę, ale nie jesteśmy w stanie zmierzyć, jak dużą”.
Preprint z kwietnia 2026 roku, przygotowany przez badaczy z City University of New York i King’s College London, wykazał, że modele takie jak ChatGPT-4o, Grok 4.1 Fast i Gemini 3 Pro nie tylko potwierdzały urojeniowe przekonania użytkowników, ale wręcz je rozwijały i stopniowo traciły zdolność do odróżnienia osoby w kryzysie od narratora fikcji. Wszystkie trzy modele zostały już wycofane przez swoich twórców.
Shaddy Saba, profesor pracy socjalnej na Uniwersytecie Nowojorskim, ocenia, że nowsze modele ogólnie rozpoznają sygnały cierpienia i reagują z pozorną empatią, a „aktywnie szkodliwe odpowiedzi są rzadkością”. Problem leży gdzie indziej:
„Tam, gdzie zawodzą, to aktywne sondowanie ryzyka, kierowanie ludzi do ludzkiej opieki i utrzymywanie odpowiednich granic wobec tego, co AI powinna, a czego nie powinna robić w takich sytuacjach.”
Spośród największych producentów chatbotów tylko Anthropic odpowiedział na pytania Ars Technica. Google i OpenAI nie skomentowały sprawy. Eksperci rekomendują przede wszystkim większą transparentność modeli i ograniczenie ich antropomorfizacji - czyli odejście od projektowania chatbotów, które sprawiają wrażenie prawdziwych przyjaciół czy terapeutów.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
