PROMPTOWY_
Artykuły

RAG krok po kroku: czat z własnymi dokumentami w Pythonie

promptowy@ai:~$ cat news_1

› RAG (retrieval-augmented generation) to czat z własnymi dokumentami: program najpierw wyszukuje w nich fragmenty pasujące do pytania, a dopiero potem model odpowiada na ich podstawie i podaje źródło.

promptowy@ai:~$ cat news_2

› Zbudowałem to od zera w około 70 liniach Pythona: trzy polskie ustawy w PDF, embeddingi liczone lokalnie w Ollamie, baza wektorowa w numpy (i dla porównania w Chroma).

promptowy@ai:~$ cat news_3

› Na 11 pytaniach zadanych potocznym językiem model odpowiedział dobrze w 8 przypadkach, w 2 uczciwie przyznał, że nie znalazł odpowiedzi, i ani razu nie zmyślił.

promptowy@ai:~$ cat news_4

› Poniżej cały kod, wszystkie wyniki i dwie poprawki, które sprawdziłem.

promptowy@ai:~$ open --full
Czytaj całość

RAG krok po kroku: czat z własnymi dokumentami w Pythonie

Otwórz artykuł na promptowy.com