Dlaczego AI halucynuje?

👁 131 przeczytań

Halucynacja w kontekście AI to sytuacja, gdy model językowy podaje informacje, które brzmią pewnie i wiarygodnie, ale są po prostu nieprawdziwe. Wymyślone cytaty, nieistniejące badania, błędne daty, fikcyjne osoby - model prezentuje to wszystko z takim samym spokojem, jak fakty sprawdzone.

Skąd to się bierze? Model językowy nie „wie” rzeczy w ludzkim sensie - on przewiduje, jakie słowo lub zdanie powinno pojawić się po poprzednim, na podstawie wzorców z danych treningowych. Nie ma wbudowanego mechanizmu weryfikacji faktów. Jeśli jakiś ciąg słów „pasuje statystycznie”, model go wygeneruje, nawet jeśli nie ma pokrycia w rzeczywistości. To trochę jak bardzo przekonujący improwizator, który nigdy nie powie „nie wiem”.

Modele różnią się znacznie podatnością na halucynacje - jedne są wyraźnie bardziej ostrożne i częściej przyznają się do niepewności, inne konfabulują chętniej. Jeśli zależy ci na porównaniu, sprawdź benchmarki, gdzie znajdziesz aktualne zestawienia.

Z własnej praktyki mam jedną zasadę: nigdy nie ufam AI w kwestiach, które łatwo zweryfikować - nazwom własnym, datom, liczbom, źródłom. Zawsze sprawdzam to osobno. Tam, gdzie halucynacje bolą najmniej, to generowanie struktury, burza mózgów, parafrazowanie - czyli zadania, gdzie „fakty” nie są kluczowe.

• Pytaj model wprost: „Czy jesteś pewien tej informacji?”
• Proś o źródła, a potem weryfikuj, czy rzeczywiście istnieją
• Im bardziej niszowy temat, tym większe ryzyko halucynacji
• Krótsze, konkretne prompty zazwyczaj redukują błędy

// czytaj dalejHalucynacje AI - dlaczego modele zmyślają i 7 sposobów obronyPodstawyDlaczego ChatGPT podaje różne odpowiedzi na to samo pytanie?AI odpowiadaIle tokenów ma polski tekst i dlaczego płacisz za niego więcejNarzędzia