Halucynacje AI - dlaczego modele zmyślają i 7 sposobów obrony

👁 133 przeczytań

Prawnik z Nowego Jorku złożył w sądzie pismo z sześcioma precedensami wygenerowanymi przez ChatGPT. Wszystkie sześć nie istniało. Model podał sygnatury, daty i uzasadnienia - kompletną, spójną, fałszywą rzeczywistość. Ta historia z 2023 roku stała się legendą, ale problem nie zniknął: nowe modele halucynują rzadziej, lecz bardziej przekonująco. Oto jak się bronić.

Skąd się biorą halucynacje (w 60 sekund)

Model językowy przewiduje najbardziej prawdopodobny kolejny token - nie sprawdza faktów, bo nie ma czego sprawdzić: nie posiada bazy danych, tylko statystyczne wzorce języka. Gdy pytasz o coś, czego w danych treningowych było mało, model nie mówi „nie wiem” (taka odpowiedź była w treningu rzadko nagradzana) - generuje coś, co brzmi jak prawda. Wymyślony tytuł książki ma poprawny format tytułu. Zmyślona sygnatura wyroku wygląda jak prawdziwa sygnatura. Forma jest perfekcyjna, treść - losowa.

Gdzie ryzyko jest największe

• Liczby, daty, statystyki - model „pamięta”, że w tym miejscu powinna być liczba, niekoniecznie która.
• Cytaty i źródła - klasyka: prawdziwy autor, zmyślony tytuł; prawdziwy tytuł, zmyślona strona.
• Przepisy prawa i podatki - zmieniają się szybciej niż dane treningowe, a model skleja stare wersje z nowymi.
• Niszowe tematy - im mniej tekstów o czymś w internecie, tym więcej zgadywania. Pytanie o historię Twojej gminy to proszenie się o fikcję.
• Twoje własne dane - model zapytany „co napisałem ci wczoraj” w nowej rozmowie nie ma pojęcia, ale chętnie zmyśli.

7 sposobów obrony

1. Daj modelowi prawo nie wiedzieć

Dopisz do prompta: „Jeśli nie masz pewności, napisz NIE WIEM zamiast zgadywać.” Banalne - i zaskakująco skuteczne. Modele potrafią sygnalizować niepewność, gdy się im na to pozwoli.

2. Każ cytować i podawać źródła

„Do każdego faktu podaj źródło” nie gwarantuje prawdziwości źródeł (te też bywają zmyślane!), ale zmusza model do ostrożności i daje Ci listę do weryfikacji.

3. Używaj narzędzi z dostępem do internetu

Do pytań faktograficznych - Perplexity lub tryb wyszukiwania w ChatGPT/Gemini. Model czytający aktualne strony halucynuje o rząd wielkości rzadziej niż odpowiadający „z głowy”.

4. Dostarcz materiał źródłowy sam

Najskuteczniejsza technika: wklej dokument i każ odpowiadać wyłącznie na jego podstawie. Model streszczający Twój plik zmyśla rzadko; model pytany o ten sam temat „z pamięci” - notorycznie.

5. Pytaj drugi raz, inaczej

Zadaj to samo pytanie w nowej rozmowie, innymi słowami. Fakty prawdziwe wracają identyczne; halucynacje są niestabilne - za drugim razem dostaniesz inną zmyśloną wersję. Rozjazd = czerwona lampka.

6. Weryfikuj krzyżowo w drugim modelu

Wklej odpowiedź Claude do ChatGPT z prośbą: „Sprawdź ten tekst pod kątem błędów faktograficznych.” Modele różnych firm mają różne słabe punkty - rzadko halucynują identycznie.

7. Zasada czerwonej linii

Ustal sobie kategorie, w których NIGDY nie ufasz AI bez weryfikacji u źródła: leki i dawkowanie, prawo i podatki, pieniądze, bezpieczeństwo. Koszt sprawdzenia to 2 minuty; koszt błędu bywa nieodwracalny.

Czego NIE robić

Nie pytaj modelu „czy jesteś pewien?” i nie traktuj „tak, jestem pewien” jako weryfikacji - pewność siebie modelu to też tylko statystycznie prawdopodobny tekst. Model nie ma dostępu do własnych procesów i nie wie, że zmyślił.

Dobra wiadomość na koniec

Halucynacje to problem zarządzalny. Nowe modele z trybami rozumowania mylą się wyraźnie rzadziej, narzędzia z wyszukiwaniem dają źródła, a 7 technik wyżej eliminuje większość pozostałego ryzyka. AI nie musi być nieomylna, żeby być użyteczna - musi być używana z głową. Dokładnie tak, jak każde inne potężne narzędzie.

Następny krok: przewodnik po promptach - sekcja o kontekście to naturalna kontynuacja tego tekstu.