RAG (Retrieval-Augmented Generation)
RAG er en teknikk som kobler en språkmodell til eksterne datakilder, slik at den henter oppdatert informasjon før den formulerer et svar.
RAG, en forkortelse for Retrieval-Augmented Generation, er en arkitektur innen kunstig intelligens som kobler en stor språkmodell sammen med en ekstern kunnskapsbase. I stedet for at modellen kun stoler på det den har lært under sin opprinnelige opplæring, gjør systemet et målrettet oppslag i spesifikke dokumenter idet et spørsmål stilles. De relevante tekstutdragene sendes deretter inn til modellen sammen med det opprinnelige spørsmålet, slik at svaret baseres på faktiske, kontrollerbare kilder.
Denne metoden har raskt blitt industristandarden for bedrifter som ønsker egne digitale assistenter. Ved å bruke RAG kan man gi modellen tilgang til interne håndbøker, ferske rapporter eller juridiske retningslinjer uten å måtte trene opp modellen på nytt. Resultatet er langt mer presise svar, redusert fare for oppspinn, og full sporbarhet til kildene som er brukt.
Slik fungerer RAG trinn for trinn
Prosessen bak et RAG-system kan deles inn i fire enkle steg fra brukeren sender en henvendelse til svaret foreligger:
- Brukerspørsmål: En ansatt eller kunde stiller et spørsmål i et vanlig samtalevindu.
- Gjenfinning (Retrieval): Systemet analyserer spørsmålet og søker gjennom en tilkoblet database etter de mest relevante avsnittene i eksisterende dokumenter.
- Berikelse (Augmentation): De funnede tekstbitene legges ved som bakgrunnsinformasjon i den usynlige instruksen som sendes til språkmodellen.
- Generering (Generation): Språkmodellen leser de vedlagte kildene og formulerer et sammenhengende, naturlig svar basert utelukkende på denne informasjonen.
Et praktisk eksempel fra en norsk kommune
Tenk deg en saksbehandler i byggesaksavdelingen i Drammen kommune. Kommunen har tusenvis av sider med lokale reguleringsplaner, kommunale vedtekter og nasjonale føringer fra plan- og bygningsloven. Hvis en innbygger spør om reglene for å bygge en garasje nær en nabogrense på en spesifikk tomt, vil en standard språkmodell ofte gjette eller blande sammen regler fra ulike år.
Med et RAG-system installert fungerer det annerledes. Systemet søker opp den nøyaktige arealplanen for området og det gjeldende planprogrammet. Disse tekstutdragene mates inn i modellen, som deretter skriver et høflig og lettlest svar: Bygningen kan oppføres inntil én meter fra grensen dersom vilkårene i planens paragraf 4 er oppfylt. I tillegg kan svaret henvise direkte til saksnummeret og dokumentet opplysningen er hentet fra.
Hvorfor RAG er avgjørende for virksomheter
For norske virksomheter, enten det er et regnskapsbyrå i Bergen eller en elektroentreprenør i Trondheim, løser RAG tre store utfordringer med generativ kunstig intelligens:
For det første reduseres såkalt hallusinering dramatisk. Når modellen tvinges til å forholde seg til vedlagte fakta, reduseres sannsynligheten for at den dikterer opp egne sannheter. For det andre holdes kunnskapen fersk. Hvis bedriften oppdaterer et HMS-dokument klokken ni om morgenen, har assistenten tilgang til den nye regelen klokken ni og ett minutt, fordi databasen oppdateres uavhengig av modellen. For det tredje gir det full åpenhet: Brukeren kan klikke på kildehenvisningene for å dobbeltsjekke at sitatet faktisk stemmer overens med selskapets interne retningslinjer.
Kvaliteten avgjøres i søket
Den vanligste feilen mange gjør når de bygger et RAG-system, er å tro at en kraftigere språkmodell kan rette opp dårlig datahåndtering. RAG følger et strengt prinsipp om at dersom søkefunksjonen feiler, feiler hele systemet.
Hvis søkemotoren henter ut feil avsnitt, utdaterte maler eller ufullstendig informasjon, vil språkmodellen formulere et velskrevet, men fullstendig feilaktig svar. Arbeidet med RAG handler derfor sjelden om selve språkmodellen, men om hvordan virksomheten vasker, deler opp og indekserer sine egne filer. Gode metadata, ryddige dokumentarkiver og presise søkemetoder er det som skiller et pålitelig verktøy fra et risikabelt eksperiment.
Ofte stilte spørsmål
Hva står forkortelsen RAG for?
RAG står for Retrieval-Augmented Generation, som på norsk kan oversettes til søkestøttet tekstgenerering.
Er RAG det samme som finjustering (fine-tuning)?
Nei, finjustering endrer modellens indre vekter gjennom ny opplæring, mens RAG gir modellen et digitalt oppslagsverk den leser i sanntid uten at selve modellen endres.
Hvorfor hallusinerer språkmodeller mindre med RAG?
Fordi modellen instrueres til å svare basert på de konkrete kildetekstene den får tildelt, fremfor å hente fakta fra sin egen usikre treningshukommelse.
Hva skjer dersom søkefunksjonen i RAG feiler?
Hvis søket henter irrelevante eller feilaktige tekstdeler, vil modellen basere svaret sitt på feil grunnlag. Kvaliteten på svaret avhenger helt av kvaliteten på søket.
