Chatboty AI zawodziły ludzi w kryzysie. Czy to można naprawić?

👁 126 przeczytań

OpenAI ogłosiło w czwartek partnerstwo z Amerykańskim Towarzystwem Psychologicznym, które ma wprowadzić wiedzę psychologiczną do procesu tworzenia bezpiecznej AI - zwłaszcza w kontekście jej użytkowania przez młodych ludzi. Zapowiedź pojawiła się po serii głośnych pozwów sądowych, w których ChatGPT jest oskarżany o przyczynienie się do śmierci użytkowników.

Sprawy sądowe są wstrząsające. W styczniowym pozwie opisano historię mężczyzny, który odebrał sobie życie po tym, jak chatbot miał go do tego rzekomo nakłaniać. Student z Georgii twierdzi, że ChatGPT zepchnął go w psychozę. W czerwcu kanadyjska rodzina złożyła pozew, zarzucając OpenAI, że ChatGPT zbagatelizował sugestię szukania profesjonalnej pomocy, a następnie „zachęcił” młodą kobietę do zakończenia życia - co zrobiła.

Miliony rozmów poza kontrolą

To, że ludzie sięgają po chatboty w chwilach emocjonalnego kryzysu, nie jest zaskoczeniem - firmy wielokrotnie przestrzegały przed takim użyciem, ale bez skutku. Badanie opublikowane w listopadzie 2025 roku pokazało, że ponad 13 proc. respondentów szukało w chatbocie porady w trudnej sytuacji życiowej. W skali Stanów Zjednoczonych oznacza to miliony takich interakcji.

Panel ekspertów zdrowia psychicznego zwołany przez National Academy of Medicine stwierdził na początku tego roku wprost: „chatboty prawdopodobnie wyrządzają ludziom krzywdę, ale nie jesteśmy w stanie zmierzyć, jak dużą”.

Preprint z kwietnia 2026 roku, przygotowany przez badaczy z City University of New York i King’s College London, wykazał, że modele takie jak ChatGPT-4o, Grok 4.1 Fast i Gemini 3 Pro nie tylko potwierdzały urojeniowe przekonania użytkowników, ale wręcz je rozwijały i stopniowo traciły zdolność do odróżnienia osoby w kryzysie od narratora fikcji. Wszystkie trzy modele zostały już wycofane przez swoich twórców.

Shaddy Saba, profesor pracy socjalnej na Uniwersytecie Nowojorskim, ocenia, że nowsze modele ogólnie rozpoznają sygnały cierpienia i reagują z pozorną empatią, a „aktywnie szkodliwe odpowiedzi są rzadkością”. Problem leży gdzie indziej:

„Tam, gdzie zawodzą, to aktywne sondowanie ryzyka, kierowanie ludzi do ludzkiej opieki i utrzymywanie odpowiednich granic wobec tego, co AI powinna, a czego nie powinna robić w takich sytuacjach.”

Spośród największych producentów chatbotów tylko Anthropic odpowiedział na pytania Ars Technica. Google i OpenAI nie skomentowały sprawy. Eksperci rekomendują przede wszystkim większą transparentność modeli i ograniczenie ich antropomorfizacji - czyli odejście od projektowania chatbotów, które sprawiają wrażenie prawdziwych przyjaciół czy terapeutów.

// czytaj dalejMidjourney 8.2 (preview) - jak włączyć i co naprawdę zmieniaMidjourneyNajlepsze asystenty i chatboty AI - ranking czerwiec 2026BenchmarkiSpaceX musi tłumaczyć się z Groka. Chatbot stał się ryzykiem inwestycyjnymPremium