RAG nie wyczyści za ciebie brudnych danych

👁 124 przeczytań

Jest pewna pokusa, której trudno się oprzeć, gdy już masz dostęp do dużego modelu językowego: skoro to narzędzie potrafi wyciągać sens z chaosu, niech poradzi sobie też z naszym wewnętrznym chaosem. Podepniemy dokumenty, wiki, maile, stare PDFy z 2017 roku i voilà - firmowy asystent AI gotowy. To właśnie ten skrót myślowy zabija połowę wdrożeń RAG, zanim zdążą pokazać cokolwiek wartościowego.

Śmieć na wejściu, śmieć na wyjściu

RAG, czyli Retrieval-Augmented Generation, to architektura, w której model językowy najpierw sięga po konkretne dokumenty z bazy wiedzy, a dopiero potem generuje odpowiedź. Brzmi jak idealne rozwiązanie dla firm, które chcą, żeby AI „znała” ich specyfikę - procedury, produkty, historię projektów. Problem pojawia się wtedy, gdy ta baza wiedzy wygląda jak typowy firmowy dysk współdzielony: pięć wersji tego samego regulaminu, notatka ze spotkania bez kontekstu, opis produktu, który przestał być aktualny trzy lata temu.

Model nie wie, że dokument jest przestarzały. Nie wie, że dwie sprzeczne procedury dotyczą różnych działów. Nie odróżni oficjalnej polityki od roboczego szkicu, jeśli oba pliki mają podobne nazwy i leżą w tym samym folderze. Wyszuka coś - bo do tego został zoptymalizowany - i spróbuje z tego ułożyć odpowiedź. A potem ktoś dostanie pewnie brzmiącą informację, która jest po prostu błędna.

Klasyczne „garbage in, garbage out” nie zniknęło wraz z erą generatywnej AI. Tylko stało się mniej widoczne, bo błąd wychodzi teraz opakowany w płynną, przekonującą polszczyznę.

Wygodna iluzja kontroli

Rozumiem, skąd bierze się ta pułapka. Porządkowanie firmowej bazy wiedzy to żmudna, niedoceniana praca. Wymaga decyzji: co jest aktualne, co wyrzucić, kto odpowiada za utrzymanie której sekcji. To praca organizacyjna i edytorska, nie technologiczna - i właśnie dlatego tak chętnie ją odkładamy, licząc, że AI jakoś to ogarnie.

RAG daje złudne poczucie, że problem został rozwiązany. Wdrożenie działa, interfejs wygląda dobrze, demo jest imponujące. Dopiero po kilku tygodniach użytkownicy zaczynają zgłaszać, że system podaje sprzeczne informacje albo odpowiada na pytania o nieistniejące już produkty. Wtedy zaczyna się szukanie winy w modelu, w embedingach, w parametrach wyszukiwania - wszędzie, tylko nie w źródle.

RAG to architektura do odpytywania dobrej wiedzy, nie narzędzie do naprawiania złej.

Co naprawdę poprzedza dobry RAG

Zanim podepniesz jakikolwiek korpus dokumentów pod model, warto zadać trzy pytania. Pierwsze: czy każdy dokument ma jasno określoną datę ważności lub właściciela odpowiedzialnego za aktualizację? Drugie: czy usunąłeś duplikaty i sprzeczne wersje, albo przynajmniej je oznaczyłeś? Trzecie: czy struktura dokumentów jest na tyle przewidywalna, że model może zrozumieć kontekst bez dodatkowego zgadywania?

To nie są pytania techniczne. To pytania o governance wiedzy w organizacji. I jeśli odpowiedź na wszystkie trzy brzmi „nie wiem” albo „nikt się tym nie zajmuje” - wdrożenie RAG jest przedwczesne. Można je zrobić, ale efekty będą proporcjonalne do jakości danych: chaotyczne.

Niektóre zespoły radzą sobie z tym, ograniczając zakres. Zamiast podpinać cały dysk firmowy, wybierają jeden konkretny, dobrze utrzymany zbiór dokumentów - na przykład aktualną dokumentację produktu albo FAQ obsługi klienta, który jest regularnie przeglądany. RAG na małym, czystym korpusie działa dramatycznie lepiej niż RAG na ogromnym, zaniedbanym. To nie jest kompromis - to właściwa kolejność rzeczy.

Technologia, która obnażyła stary problem

Jest w tej sytuacji pewna ironia: generatywna AI nie stworzyła problemu bałaganu informacyjnego w firmach. Ten bałagan istniał od zawsze - tyle że dotąd był zamknięty w szafkach, na dyskach, w skrzynkach mailowych i nikt specjalnie nie musiał go dotykać. RAG wyciągnął go na światło dzienne, bo nagle ten chaos ma wpływ na to, co system mówi użytkownikom.

W pewnym sensie to dobra wiadomość. Firmy, które poważnie podchodzą do wdrożeń AI, zmuszone są wreszcie zainwestować w coś, co powinny były zrobić dawno temu: rzetelną architekturę wiedzy. Nie jako projekt technologiczny, ale jako praktykę organizacyjną.

RAG może być bardzo dobrym narzędziem. Ale jest tak dobry, jak dane, które dostaje. I żaden model językowy - bez względu na to, ile parametrów ma - nie zmieni tej fundamentalnej zasady.

// czytaj dalejPlanowane centrum danych Amazona może stać się największym trucicielem klimatycznym w USANewsyRozpoznawanie bengalskiego języka migowego na smartfonie - nowy zbiór danych i lekki modelNewsyGoogle Maps zamienia się w asystenta, który za ciebie zamawia jedzenie i rezerwuje hoteleNewsy