Słownik AI / Halucynacja
🛡️ Bezpieczeństwo i jakość
Halucynacja
Sytuacja, gdy model z przekonaniem podaje nieprawdę - wymyśloną datę, cytat, źródło. Dlatego weryfikuj fakty.
Halucynacja to sytuacja, w której model z pełnym przekonaniem podaje nieprawdę: wymyśloną datę, nieistniejącą książkę, sfabrykowany cytat czy przepis prawny. Nie jest to „kłamstwo” - model nie zna pojęcia prawdy, generuje tekst statystycznie prawdopodobny, a prawdopodobne bywa fałszywe.
Halucynacje to główna słabość modeli językowych w zastosowaniach faktograficznych. Ograniczają je grounding i RAG, tryby z wyszukiwaniem oraz proszenie o źródła - ale żadna technika nie eliminuje ich całkiem. Zasada praktyczna: im ważniejsza decyzja, tym solidniej weryfikuj odpowiedź.