Kobieta z Florydy aresztowana po tym, jak Anthropic zgłosił jej rozmowę z Claude’em policji

Ten news ukazał się 4 godziny po komunikacie źródła.

👁 117 przeczytań

Funkcjonariusze biura szeryfa hrabstwa Lee zatrzymali kobietę z Florydy po tym, jak Anthropic zgłosił policji jej rozmowę z modelem Claude. W czacie z 26 września napisała, że „ostrzela” tamtejszą siedzibę szeryfa, a dzień później poinformowała chatbota, że kupiła nowy pistolet. Zatrzymanie bez incydentów nastąpiło w jej domu; jako pierwsza poinformowała o nim stacja WINK News 30 września.

Zgodnie z raportem z aresztowania platforma Anthropica monitoruje czaty pod kątem kluczowych słów i treści potencjalnie grożących przemocą. Kiedy system wykryje takie frazy, sprawa trafia do ludzkiego zespołu weryfikacyjnego - to on zdecydował o powiadomieniu organów ścigania. Wobec kobiety 30 września wniesiono zarzut przestępstwa na podstawie Florida Statute 836.10, który obejmuje pisemne i elektroniczne groźby masakry lub ataku terrorystycznego. Sąd wyznaczył jej obrońcę z urzędu, a rozprawa wstępna zaplanowana jest na 2 listopada.

Karta narzędziaClaudeWszystko o Claude →

Szeryf Carmine Marceno skomentował sprawę w oświadczeniu dla WINK News. Ujawnił, że kobieta używa AI jak „dziennika”. Marceno dodał:

„Sztuczna inteligencja jest potężnym narzędziem i jak każda technologia może być nadużywana. Gdy ktoś używa AI, by formułować groźby lub je ułatwiać, musimy traktować tę groźbę poważnie. Użytkownicy muszą rozumieć, że nigdy nie są naprawdę anonimowi.”

Anthropic nie skomentował publicznie tej sprawy. Jego polityka prywatności obowiązuje od 10 września i zezwala na przekazanie danych osobowych organom ścigania, gdy firma uzna w dobrej wierze, że jest to „rozsądnie konieczne” do zapobieżenia poważnej szkodzie osobie lub mieniu. Polityka dotycząca wniosków rządowych co do zasady wymaga ważnego procesu prawnego, ale przewiduje wyjątek dla sytuacji nagłych grożących „bezpośrednią krzywdą fizyczną lub śmiercią”.

To co najmniej trzecia rozmowa z Claude’em, która od sierpnia trafiła na biurko policji. 11 sierpnia w San Antonio 22-latek zapytał chatbota o atak na pobliską szkołę podstawową - FBI powiadomiło lokalną policję, a mężczyznę aresztowano pod zarzutem felony terroristic threat. Trzy dni później, 14 sierpnia w San Francisco, inny użytkownik groził w Claude’zie śmiercią CEO Anthropica Dario Amodeiowi i wspominał o zakupionym karabinku AR-15 - Anthropic zgłosił to policji, która jednak nikogo nie zatrzymała ani nie postawiła zarzutów.

Podobnie postępuje OpenAI: w marcu tego roku ChatGPT posłużył użytkownikowi z Florydy do pisania o zabójstwie byłej partnerki. OpenAI zgłosiło sprawę FBI; mężczyzna w sierpniu przyznał się do winy i usłyszał wyrok ośmiu lat w zawieszeniu pod tym samym statutem co sprawa z września. Sam Altman przepraszał natomiast wcześniej w tym roku za to, że OpenAI nie powiadomiło policji o koncie strzelca z Tumbler Ridge - Florida Attorney General, który pozwał OpenAI w czerwcu, stara się teraz o nakaz sądowy wobec firmy.

Przypadek z hrabstwa Lee pokazuje, że modele językowe coraz częściej służą jako narzędzia prewencji kryminalnej, co rodzi pytania o prywatność użytkowników.