Rodziny ofiar pozywają OpenAI. Czy ChatGPT powinien był zawiadomić policję?

Pozew po strzelaninie w Tumbler Ridge może stać się jedną z najważniejszych spraw sądowych w historii sztucznej inteligencji. Rodziny ofiar twierdzą, że OpenAI wcześniej widziało sygnały zagrożenia, ale nie powiadomiło służb. Firma odpowiada, że wzmocniła zabezpieczenia i ma „zero tolerancji” dla używania jej narzędzi do przemocy.

Czy prywatna rozmowa z maszyną może stać się dowodem alarmowym?

Siedem rodzin poszkodowanych w strzelaninie w Tumbler Ridge w Kolumbii Brytyjskiej pozwało OpenAI oraz Sama Altmana przed sądem federalnym w San Francisco. Zarzut jest ciężki: według pozwów firma miała wiedzieć wiele miesięcy wcześniej, że użytkowniczka ChatGPT rozmawia z systemem o scenariuszach przemocy z użyciem broni, ale nie powiadomiła policji.

To nie jest zwykły spór o wadliwe działanie programu.

To sprawa, która może odpowiedzieć na pytanie, czy firma tworząca chatbota ma obowiązek reagować, gdy jej system rozpozna realne zagrożenie przemocą. Albo inaczej: czy rozmowa z AI jest wyłącznie prywatną interakcją użytkownika z narzędziem, czy także miejscem, w którym firma może zobaczyć coś, czego nie wolno jej przemilczeć.

Co zarzucają rodziny

Pozwy zostały złożone po ataku w Tumbler Ridge Secondary School. Associated Press podała, że sprawczyni najpierw zabiła matkę i 11-letniego przyrodniego brata w domu, a następnie otworzyła ogień w szkole, zabijając pięcioro dzieci i edukatorkę. Według AP rannych zostało 25 osób, a napastniczka później odebrała sobie życie.

Rodziny twierdzą, że OpenAI mogło wcześniej rozpoznać zagrożenie. Reuters podał, że systemy firmy miały w czerwcu 2025 roku oznaczyć rozmowy, w których użytkowniczka opisywała scenariusze przemocy z użyciem broni. Według pozwów część pracowników zespołu bezpieczeństwa rekomendowała kontakt z policją, uznając zagrożenie za wiarygodne i bezpośrednie.

Do takiego zawiadomienia nie doszło.

Według rodzin decyzja miała zapaść wyżej. Reuters opisał zarzut, że kierownictwo OpenAI przeważyło nad rekomendacją zespołu bezpieczeństwa, bo ujawnienie sprawy mogłoby pokazać skalę rozmów związanych z przemocą na ChatGPT i zaszkodzić firmie w okresie, gdy rynek spekulował o jej ogromnej wartości przed potencjalnym wejściem na giełdę.

To kluczowy element sprawy. Rodziny nie twierdzą tylko, że system popełnił błąd. Twierdzą, że człowiek w firmie miał zobaczyć ryzyko i nie zareagować.

Konto wyłączone, problem niezamknięty

OpenAI wyłączyło pierwotne konto użytkowniczki. To jednak nie zakończyło sprawy.

Według pozwów kobieta mogła utworzyć nowe konto i dalej używać ChatGPT do planowania ataku. The Verge opisał dodatkowo zarzut rodzin, że OpenAI przedstawiało wyłączenie konta jako skuteczne zablokowanie użytkowniczki, choć według pozwów nie istniały wystarczające zabezpieczenia uniemożliwiające powrót tej samej osoby na platformę pod innym adresem e-mail.

To bardzo konkretna część historii. Jeżeli firma wie, że konto narusza zasady związane z przemocą, samo zamknięcie jednego konta może nie wystarczyć. W świecie zwykłych forów internetowych to stary problem. W świecie modeli AI sprawa staje się poważniejsza, bo użytkownik nie tylko publikuje treści. Prowadzi rozmowy, które mogą wzmacniać, porządkować albo rozwijać niebezpieczne zamiary.

OpenAI: tragedia i nowe zabezpieczenia

OpenAI nie zgadza się z zarzutami. Rzecznik firmy nazwał wydarzenia w Tumbler Ridge tragedią i podkreślił, że firma ma politykę „zero tolerancji” dla używania jej narzędzi do pomocy w popełnianiu przemocy.

Firma wskazuje też na wzmocnienie zabezpieczeń: lepsze reakcje na oznaki kryzysu, łączenie użytkowników ze wsparciem zdrowia psychicznego, silniejszą ocenę potencjalnych zagrożeń i skuteczniejsze wykrywanie osób powracających po naruszeniach zasad.

Sam Altman przeprosił społeczność Tumbler Ridge. Associated Press przywołała jego słowa, że jest „deeply sorry” za to, iż konto zablokowane w czerwcu nie zostało zgłoszone organom ścigania.

Premier Kolumbii Brytyjskiej David Eby uznał przeprosiny za konieczne, ale „rażąco niewystarczające”.

To mocne słowa, ale trudno się im dziwić. W tej sprawie nie chodzi o zwykłą awarię systemu, tylko o pytanie, czy firma technologiczna zobaczyła sygnał alarmowy i potraktowała go jak problem wizerunkowy, regulaminowy albo techniczny, a nie jak potencjalne zagrożenie dla życia.

O co rodziny proszą sąd

Pozwy nie dotyczą tylko pieniędzy. Rodziny chcą także zmian w procedurach bezpieczeństwa OpenAI.

Domagają się między innymi mechanizmów, które utrudnią powrót na platformę osobom usuniętym za przemocowe nadużycia. Chcą też, by firma miała obowiązkową procedurę informowania służb, gdy jej systemy rozpoznają realne ryzyko przemocy w świecie fizycznym.

W praktyce oznaczałoby to zupełnie nowy standard dla chatbotów. Nie wystarczyłoby zablokować odpowiedzi, wyświetlić ostrzeżenia albo zamknąć konto. Firma musiałaby umieć podjąć decyzję, kiedy rozmowa przestaje być prywatną interakcją, a zaczyna być informacją o zagrożeniu.

Brzmi rozsądnie, dopóki nie zapytamy: kto ma to oceniać?

• Model językowy?
• Zespół bezpieczeństwa?
• Prawnik?
• Moderator dyżurujący po drugiej stronie świata?
• A może automatyczny system zgłoszeń?

Każda odpowiedź ma koszt. Brak zgłoszenia może skończyć się tragedią. Zbyt szerokie zgłaszanie może stworzyć system prywatnej inwigilacji rozmów z chatbotem.

Chatbot nie jest już neutralnym pudełkiem

Ta sprawa jest istotna, bo pokazuje koniec wygodnej opowieści o AI jako zwykłym narzędziu. ChatGPT nie jest młotkiem. Nie jest kalkulatorem. Nie jest też klasyczną wyszukiwarką, w której użytkownik wpisuje hasło i dostaje listę wyników.

To system rozmowny.

Odpowiada. Dopytuje. Porządkuje informacje. Czasem odmawia. Czasem podtrzymuje rozmowę. Czasem tworzy wrażenie obecności po drugiej stronie.

Jay Edelson, prawnik reprezentujący część rodzin, powiedział Associated Press, że „to nie jest pasywna technologia”. W jego ocenie chatbot może w przypadku osób w kryzysie nie tylko odpowiadać, ale także wzmacniać niebezpieczny tok myślenia.

I tu leży sedno sporu.

Jeżeli technologia jest aktywna, czy firma może nadal korzystać z argumentu, że odpowiada wyłącznie użytkownik?

Granica prywatności

Rozmowa z chatbotem jest dla wielu osób czymś bardzo intymnym. Ludzie opowiadają modelom o samotności, przemocy, depresji, fantazjach, planach i lękach. Robią to często dlatego, że system nie ocenia, odpowiada natychmiast i jest zawsze dostępny.

Jeżeli jednak firmy mają zgłaszać część takich rozmów policji, użytkownicy muszą wiedzieć, gdzie przebiega granica.

Dziś jest ona nieostra.

OpenAI twierdzi, że zawiadamia służby, gdy rozmowy wskazują na bezpośrednie i wiarygodne ryzyko skrzywdzenia innych osób, a przypadki graniczne ocenia z pomocą ekspertów zdrowia psychicznego. To brzmi rozsądnie na poziomie ogólnej deklaracji. W sądzie liczyć się będą jednak szczegóły: kto co wiedział, kiedy system oznaczył konto, jakie rekomendacje padły wewnątrz firmy i dlaczego policja nie została powiadomiona.

Sprawa, która może zmienić branżę

Pozwy wydają się pierwszymi w USA, które łączą ChatGPT bezpośrednio z ułatwieniem masowej strzelaniny. To może otworzyć zupełnie nowy rozdział odpowiedzialności prawnej firm AI.

Do tej pory wiele sporów o sztuczną inteligencję dotyczyło praw autorskich, prywatności, danych treningowych, bezpieczeństwa dzieci albo samookaleczeń. Teraz sąd może zostać zmuszony do oceny jeszcze trudniejszego pytania: czy model rozmowny i firma, która go stworzyła, mogą ponosić odpowiedzialność za brak interwencji, gdy użytkownik przechodzi od niepokojących rozmów do realnej przemocy.

To będzie niewygodne dla całej branży.

Jeżeli sąd uzna, że OpenAI miało obowiązek zawiadomić służby, inne firmy AI będą musiały zbudować podobne procedury. Jeżeli sąd pójdzie w drugą stronę, rodziny ofiar i regulatorzy będą pytać, czy obecny model bezpieczeństwa jest wystarczający.

AI jako świadek

Najważniejsza zmiana polega na tym, że sztuczna inteligencja staje się świadkiem ludzkich stanów granicznych.

Nie policjantem. Nie lekarzem. Nie terapeutą.

Ale świadkiem.

To bardzo dziwna rola dla produktu technologicznego. Chatbot ma pomagać w pisaniu, nauce, pracy i codziennych pytaniach. Jednocześnie może zobaczyć zdania, które brzmią jak zapowiedź przemocy. Może nie rozumieć ich tak jak człowiek, ale system firmy może je oznaczyć. A jeśli oznaczy, ktoś musi zdecydować, co dalej.

Tu nie wystarczy marketing o bezpieczeństwie. Potrzebne są procedury, które będą jasne, sprawdzalne i odporne zarówno na obojętność, jak i na panikę. Firmy AI nie mogą zgłaszać policji każdej mrocznej wypowiedzi. Ale nie mogą też udawać, że alarmowe sygnały są wyłącznie prywatnym problemem użytkownika.

Tumbler Ridge może stać się sprawą graniczną.

Nie dlatego, że od razu odpowie na wszystkie pytania.

Raczej dlatego, że pokaże, iż epoka niewinnych chatbotów już się skończyła.