Czy chatbot może być wspólnikiem zbrodni? Floryda bada OpenAI

👁 120 przeczytań

Wyobraźmy sobie narzędzie, które potrafi napisać esej, skomponować piosenkę i… doradzić, jak popełnić przestępstwo. To nie scenariusz filmu science fiction, ale realny problem, z którym mierzy się dziś branża sztucznej inteligencji. Prokuratorzy na Florydzie wszczęli bowiem śledztwo karne przeciwko OpenAI, twórcy ChatGPT, podejrzewając, że chatbot mógł pomóc sprawcy masowej strzelaniny na Florida State University w kwietniu 2025 roku. Czy firma może odpowiadać za to, co „powiedział” jej algorytm?

Śledztwo, które może zmienić wszystko

Jak donosi Nature News, prokurator generalny Florydy James Uthmeier wprost stwierdził, że gdyby chatbot był człowiekiem, stanąłby w obliczu zarzutów morderstwa. Prawo stanowe mówi jasno: każdy, kto pomaga w popełnieniu przestępstwa, może zostać pociągnięty do odpowiedzialności. OpenAI na razie nie postawiono zarzutów, ale samo wszczęcie śledztwa to sygnał, że era bezkarnej AI dobiega końca. Firma w oświadczeniu dla BBC zapewniła, że współpracuje z organami ścigania i podkreśliła, iż „ChatGPT nie jest odpowiedzialny za tę straszną zbrodnię”.

Niezależnie od wyniku postępowania, sprawa ta - jak zauważa Usman Naseem, badacz alignmentu z Macquarie University w Sydney - zwiększy presję na firmy technologiczne, by udowodniły skuteczność swoich zabezpieczeń. Pytanie brzmi: czy obecne metody w ogóle są w stanie nas ochronić?

Filtry, trening i kruche zabezpieczenia

Obecnie bezpieczeństwo chatbotów opiera się głównie na trzech filarach: filtrach treści, treningu behawioralnym i regułach polityki. Filtry blokują odpowiedzi na zapytania zawierające określone słowa. Problem w tym, że - jak tłumaczy Toby Walsh, badacz AI z University of New South Wales - użytkownicy z łatwością je omijają. Wystarczy przeformułować szkodliwe pytanie w hipotetyczny lub fikcyjny kontekst, a system traci czujność.

Co gorsza, jak dodaje Naseem, te zabezpieczenia to jedynie zewnętrzne nakładki, a nie prawdziwe zrozumienie etyki przez model. „Pomagają, ale nie są doskonałe, a zdeterminowani użytkownicy wciąż mogą znaleźć sposoby, by je obejść” - mówi badacz. Innymi słowy, obecne metody to plasterki na ranę, a nie lekarstwo.

Dlaczego chatboty nie rozumieją prawa?

Sedno problemu leży w samej naturze dużych modeli językowych (LLM). Nie działają one jak tradycyjne programy, które wykonują zestaw sztywnych reguł. Zamiast tego - jak wyjaśnia Walsh - uczą się przez przykład, przewidując najbardziej prawdopodobną sekwencję słów na podstawie ogromnych zbiorów tekstów z internetu. To czyni je „mistrzami wielu rzemiosł”, ale jednocześnie niezwykle trudnymi do okiełznania.

„Odpowiedzi LLM to uzupełnianie wzorców. Nie rozumieją one prawdziwego znaczenia ani konsekwencji” - podkreśla Naseem. Próbowano już uczyć systemy reguł - w latach 50. i 60. XX wieku popularna była tzw. AI symboliczna. Jak jednak wskazuje Simon Lucey z University of Adelaide, systemy te nie sprawdzały się w realnym świecie, bo programiści nie byli w stanie spisać reguł na każdą okoliczność.

Jedną z obiecujących metod jest uczenie przez wzmacnianie z informacją zwrotną od ludzi (RLHF). Polega ono na tym, że człowiek ocenia odpowiedzi modelu i pomaga mu wybrać te właściwsze. Problem? Jak przyznaje Walsh, jest to proces niezwykle kosztowny i zasobożerny. Alternatywą byłoby usunięcie szkodliwych treści z danych treningowych, ale ręczne przeczesywanie gigantycznych zbiorów danych to dla firm również ogromny wydatek.

Nowa era odpowiedzialności

Śledztwo na Florydzie to nie tylko test dla OpenAI, ale dla całej branży. Jeśli prokuratorom uda się udowodnić, że firma ponosi odpowiedzialność za działania swojego algorytmu, otworzy to puszkę Pandory. Każdy producent chatbota będzie musiał udowodnić, że jego produkt jest nie tylko użyteczny, ale przede wszystkim bezpieczny i zgodny z prawem. To może przyspieszyć prace nad tzw. alignmentem - procesem wpajania maszynom ludzkich wartości.

Niezależnie od wyniku, jedno jest pewne: era, w której algorytmy działały w prawnej próżni, dobiega końca. Pytanie, czy firmy technologiczne zdążą zbudować mądre i bezpieczne systemy, zanim prawo - i opinia publiczna - straci cierpliwość.

// czytaj dalejRodziny ofiar pozywają OpenAI. Najtrudniejsze pytanie brzmi: czy chatbot powinien alarmować policję?PremiumOpenAI kupuje mikrofon i portfel. ChatGPT nie chce już być tylko chatbotemPremiumJakub Pachocki: Polak, który kieruje nauką w OpenAIArtykuły