Prawnik zapłacił 5000 dolarów za to, że ChatGPT wymyślił mu świadków morderstwa
Sąd Najwyższy Nowego Meksyku ukarał prawnika grzywną 5000 dolarów za złożenie odwołania nafaszerowanego zmyślonymi przez AI świadkami i fałszywymi zeznaniami policji.
👁 112 przeczytań
Są błędy z nieuwagi, są błędy z ignorancji i są błędy, które trudno wytłumaczyć inaczej niż kompletnym oderwaniem od rzeczywistości. Sprawa Stephena Aaronsa, prawnika z Nowego Meksyku ukaranego właśnie przez tamtejszy Sąd Najwyższy grzywną 5000 dolarów, należy do tej trzeciej kategorii.
Aarons złożył odwołanie od wyroku skazującego w sprawie o morderstwo. W piśmie znalazły się zeznania świadków - tyle że ci świadkowie nigdy nie istnieli. ChatGPT po prostu ich wymyślił. Wymyślił też szczegóły zeznań policji: opis ubrania i wyglądu strzelca. Aarons tego nie sprawdził. Myślał, jak sam przyznał podczas sierpniowego posiedzenia, że narzędzie wygeneruje mu „nieomylne streszczenie” sprawy. Jak można być prawnikiem - zawodem opartym na weryfikacji faktów ponad wszystko - i nie wiedzieć, że tak to nie działa?
Pytanie, które pali
Sędzia C. Shannon Bacon nie kryła zdumienia. Jej słowa, przytoczone przez Reutersa, są celniejsze niż niejeden wyrok:
„Czy ogląda pan wiadomości? Czy słucha pan radia? Czy czyta pan cokolwiek o tym, co dzieje się na świecie? Bo problem z poleganiem przez prawników na AI-halucynacjach to temat z pierwszych stron gazet każdego dnia.”
- sędzia C. Shannon Bacon, Sąd Najwyższy Nowego Meksyku
Trudno o lepsze podsumowanie sytuacji. Nie chodzi nawet o to, że Aarons użył AI - to samo w sobie nie jest przestępstwem ani błędem. Chodzi o to, że użył narzędzia, o którego zasadniczej wadzie wie dosłownie każdy, kto śledzi temat choćby pobieżnie, a potem złożył efekt w sądzie bez żadnej weryfikacji. W sprawie o morderstwo. Gdzie fałszywe zeznania świadków to nie literówka.
Nie pierwszy, nie ostatni
Aarons nie jest wyjątkiem. Jest kolejnym przypadkiem w serii, która zaczęła się na dobre w 2023 roku, gdy słynna sprawa Mata v. Avianca ukazała światu, że prawnicy potrafią składać pisma z cytatami z wyroków, które nigdy nie istniały. Od tamtej pory sądy w USA regularnie natykają się na AI-generowane fikcje ubrane w prawny mundur.
W zeszłym roku sędzia skarcił dwie kancelarie za złożenie pisma z „licznymi fałszywymi, niedokładnymi i wprowadzającymi w błąd cytatami prawnymi”. Prawnicy reprezentujący Mike’a Lindella z MyPillow dostali grzywnę za fałszywe cytaty i zmyślone orzeczenia wygenerowane przez AI. Wzorzec jest żenująco powtarzalny: prawnik, deadline, ChatGPT, brak weryfikacji, sąd.
Dlaczego to się nie kończy? Częściowo dlatego, że halucynacje AI są zdradliwe - wyglądają przekonująco, są napisane pewnym tonem, nie mają wbudowanego disclaimera „to wymyśliłem”. Ale głównie dlatego, że część prawników traktuje AI jak wyrocznię zamiast jak narzędzie wymagające nadzoru.
Czym właściwie jest ChatGPT w kancelarii
Uczciwa odpowiedź brzmi: bardzo dobrym asystentem do wstępnego szkicowania, który ma poważny problem z faktami. To narzędzie do pracy z językiem, nie do pracy z prawdą. Modele językowe nie „wiedzą”, co się wydarzyło na rozprawie - one generują tekst statystycznie prawdopodobny w danym kontekście. Jeśli zapytasz o zeznania świadków w sprawie, o której nie mają żadnych danych, wymyślą je tak sprawnie, że trudno odróżnić fikcję od faktu bez zajrzenia w akta.
To nie jest wada, którą da się naprawić promptem. To fundamentalna cecha architektury tych systemów. I dlatego każda kancelaria, która używa AI do pracy z dokumentami, powinna mieć wdrożony protokół weryfikacji - albo przynajmniej zmuszać prawników do przeczytania pism przed ich złożeniem.
Aarons powiedział Reutersowi: „Jestem skruszony, ale mam nadzieję, że rada dyscyplinarna weźmie pod uwagę, że to był szczery błąd.” Być może. Szczerość błędu nie zmienia jednak jego skutków dla klienta - człowieka skazanego za morderstwo, którego odwołanie zostało zbudowane na zmyślonych fundamentach.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Kto tu naprawdę poniósł koszt
Grzywna 5000 dolarów to w skali kancelarii prawniczej kwota symboliczna. Prawdziwy koszt poniósł klient, którego sprawa - i tak trudna - zyskała teraz dodatkowy ciężar: odwołanie skompromitowane fałszywymi zeznaniami. Sąd musiał poświęcić czas na rozplątanie, co w piśmie jest prawdą, a co halucynacją. System wymiaru sprawiedliwości - i tak przeciążony - dostał kolejną sprawę do rozgrzebania od podstaw.
AI w prawie może być pożyteczna. Może przyspieszać research, pomagać w strukturyzowaniu argumentów, skracać czas pracy nad rutynowymi pismami. Ale wymaga dokładnie tej samej zasady, co każde inne narzędzie w zawodzie opartym na faktach: sprawdź zanim podpiszesz. Szczególnie gdy po drugiej stronie jest człowiek, którego wolność zależy od tego, co napisałeś.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
