INTRYGA: jak wykryć, kiedy RAG myli się mimo pewności siebie

👁 134 przeczytań

Alexandra Bazarova, Andrei Volodichev, Daria Kotova i Alexey Zaytsev opublikowali w marcu 2026 roku pracę opisującą problem z szacowaniem niepewności w systemach RAG (retrieval-augmented generation). Pierwsza wersja pojawiła się 23 marca 2026, druga - 7 sierpnia 2026.

Na czym polega problem

RAG to podejście, w którym model językowy przed udzieleniem odpowiedzi sięga do zewnętrznej bazy dokumentów. Zmniejsza to liczbę halucynacji, ale ich nie eliminuje. Żeby wiedzieć, kiedy modelowi nie ufać, badacze stosują metody szacowania niepewności (uncertainty quantification, UQ). Najpopularniejsza z nich opiera się na entropii predykcyjnej - upraszczając: im model bardziej „waha się” między różnymi odpowiedziami, tym wyższy sygnał niepewności.

Autorzy zauważyli, że ta metoda zawodzi właśnie w kontekście RAG. Opisują to jako mechanistyczny paradoks i nazywają go „przeciąganiem liny” (tug-of-war). Chodzi o to, że gdy model poprawnie korzysta z dostarczonego kontekstu, aktywują się tzw. induction heads - struktury w sieci odpowiedzialne za kopiowanie trafnej odpowiedzi z dokumentu. Problem w tym, że te same induction heads przy okazji pobudzają tzw. entropy neurons, które zawyżają entropię predykcyjną. Efekt: model daje właściwą odpowiedź, a jednocześnie wysyła sygnał wysokiej niepewności. System alarmuje fałszywie.

Co proponują autorzy

Metodę INTRYGUE (Induction-Aware Entropy Gating for Uncertainty Estimation). Zamiast patrzeć wyłącznie na wartość entropii, INTRYGUE uwzględnia wzorce aktywacji induction heads. Jeśli te struktury są aktywne - co sugeruje, że model faktycznie korzysta z kontekstu - metoda odpowiednio koryguje interpretację entropii, zamiast traktować ją dosłownie.

Autorzy określają swoje podejście jako „mechanistycznie ugruntowane” - tzn. oparte na zrozumieniu wewnętrznych mechanizmów modelu, a nie tylko na jego zewnętrznych zachowaniach.

Jak testowali

Ewaluacja objęła cztery benchmarki RAG oraz sześć otwartych modeli językowych o rozmiarach od 4B do 13B parametrów. Na tym poziomie szczegółowości dokument (w dostępnym abstrakcie) się zatrzymuje - nazwy konkretnych benchmarków ani modeli nie są wymienione.

Wynik: INTRYGUE „konsekwentnie dorównuje lub przewyższa szeroki zakres metod bazowych UQ”. Dokument nie podaje konkretnych liczb w abstrakcie.

Wniosek autorów

Wykrywanie halucynacji w RAG zyskuje na łączeniu dwóch sygnałów: predykcyjnej niepewności oraz interpretowalnych, wewnętrznych sygnałów tego, jak model korzysta z kontekstu. Samo patrzenie na entropię może wprowadzać w błąd.

Co z tego wynika

To dla mnie ciekawa praca z kilku powodów. Po pierwsze, wskazuje na konkretny mechanizm błędu - nie tylko mówi „entropia nie działa w RAG”, ale próbuje wyjaśnić dlaczego, odwołując się do induction heads i entropy neurons. To rzadsze podejście niż czysto empiryczne porównania. Po drugie, problem jest praktyczny: jeśli budujesz system RAG i chcesz wiedzieć, kiedy nie ufać odpowiedzi modelu, fałszywe alarmy niepewności są realną przeszkodą. Ograniczeniem jest to, że abstrakt nie daje mi dostępu do liczb ani do listy testowanych modeli - nie wiem więc, jak duże są różnice w stosunku do metod bazowych ani czy wyniki są spójne między architekturami. To coś, co wymagałoby lektury pełnego tekstu.

Źródło: arXiv cs.AI: INTRYGUE: Induction-Aware Entropy Gating for Reliable RAG Uncertainty Estimation (dokument z 2026-08-10). To omówienie powstało na podstawie pełnego tekstu dokumentu, nie relacji innych mediów.

// czytaj dalejAgenci sztucznej inteligencji zaczęli kopiować samych siebie. To już nie jest zabawa w chatbotyPremiumTestowanie halucynacji: 7 metod wykrywania, kiedy AI kłamieFelietonyNajbardziej intrygujące narzędzia AIArtykuły