Halucynacja
Sytuacja, gdy model z przekonaniem podaje nieprawdę - wymyśloną datę, cytat, źródło. Dlatego weryfikuj fakty.
Halucynacja AI to odpowiedź modelu zawierająca zmyślone lub niepoparte informacjami twierdzenie, które jest przedstawione tak, jakby było prawdziwe.
Przykład: przygotowujesz po polsku opis lokalnej firmy i prosisz asystenta o rok jej założenia. Model wpisuje konkretną datę oraz nazwisko założyciela, choć w dostarczonym materiale nie ma żadnej z tych informacji. Brzmi to wiarygodnie i pasuje do reszty tekstu, lecz wymaga potwierdzenia. To przykładowa sytuacja, nie udokumentowany test konkretnego modelu.
Jak wygląda halucynacja w codziennej pracy
Może to być nieistniejąca publikacja, błędnie przypisany cytat, wymyślona funkcja programu albo liczba, której nie ma w źródle. Czasem większość odpowiedzi jest poprawna, a problem dotyczy jednego zdania. Poprawna pisownia nazwy instytucji i profesjonalny styl nie zabezpieczają przed takim błędem.
Nie każda pomyłka ma identyczną przyczynę. Aplikacja może pobrać stary dokument, źle odczytać tabelę albo otrzymać błędne dane od użytkownika. W praktyce najpierw ustal, które twierdzenie jest niepoparte, a dopiero potem szukaj przyczyny. Samo nazwanie problemu „halucynacją” nie naprawia procesu.
Dlaczego model dopowiada brakujące informacje
Model językowy generuje odpowiedź na podstawie wyuczonych zależności i dostępnego kontekstu. Nie jest automatycznie połączony z kompletną, aktualną bazą faktów. Pytanie zawierające fałszywe założenie może skłonić go do rozwinięcia tego założenia zamiast jego zakwestionowania.
Znaczenie ma również sposób trenowania i oceniania odpowiedzi. Jeżeli zgadywanie bywa nagradzane bardziej niż przyznanie braku wiedzy, model może podawać konkret zamiast odmowy. Mechanizm omawia badanie Why Language Models Hallucinate. Nie wynika z tego, że każdy model myli się równie często lub że każda odpowiedź jest podejrzana.
Jak sprawdzić odpowiedź krok po kroku
Wyodrębnij sprawdzalne twierdzenia. W opisie firmy będą to data, nazwiska, adres i zakres działalności. Nie sprawdzaj tylko ogólnego wrażenia, że tekst „brzmi sensownie”.
Do każdego ważnego faktu przypisz źródło, które możesz otworzyć. Dla firmowego komunikatu będzie to dokument lub oficjalna strona. Sam odnośnik nie wystarcza: sprawdź, czy wskazana strona istnieje i rzeczywiście zawiera daną informację.
Porównaj cytat znak po znaku, a parafrazę z sensem oryginału. Sprawdź datę dokumentu oraz to, czy model nie zmienił „może” na „musi” albo planu na wydarzenie, które już nastąpiło.
Obliczenia powtórz w kalkulatorze lub arkuszu. Poprawnie przepisane liczby nie zapewniają poprawnego wyniku. Jeśli odpowiedź łączy różne okresy lub jednostki, najpierw trzeba je ujednolicić.
Nie publikuj niepotwierdzonego szczegółu. Usuń go, oznacz brak albo wróć do osoby posiadającej dane. Prośba do tego samego modelu „jesteś pewien?” nie jest niezależną weryfikacją.
Jak ograniczyć dopowiadanie w poleceniu
Możesz napisać: „Korzystaj wyłącznie z materiału poniżej. Przy każdym fakcie podaj fragment źródła. Jeśli informacji brakuje, wpisz BRAK DANYCH”. Oddziel w ten sposób streszczenie dokumentu od tworzenia propozycji. Przykładowe hasło reklamowe może być nowe; rok założenia firmy nie może być twórczym uzupełnieniem.
Wyszukiwanie dokumentów, czyli RAG, może dostarczyć właściwy materiał, lecz nie usuwa wszystkich błędów. Nadal trzeba sprawdzić dobór źródła i zgodność odpowiedzi z jego treścią. Zmniejszenie losowości generowania także nie jest przełącznikiem prawdy: ta sama błędna odpowiedź może po prostu powtarzać się częściej.
Najczęstszy błąd: drugi chatbot jako jedyne potwierdzenie
Dwa modele mogą powtórzyć tę samą pomyłkę lub oprzeć się na tym samym wadliwym źródle. Drugi asystent może pomóc wskazać zdania do kontroli, ale zgodność odpowiedzi nie zastępuje dowodu. Sprawdzaj dokument, pomiar lub działanie programu. Pewność powinna wynikać ze źródła, nie z liczby botów, które zgodziły się z pierwszym.