Finjustering (fine-tuning)
Finjustering er prosessen der en ferdigtrent språkmodell videreutdannes på et eget datasett for å mestre en bestemt tone, stil eller oppgave.
Finjustering, ofte omtalt med det engelske begrepet fine-tuning, betyr at man tar en ferdigtrent språkmodell og trener den videre på en mindre, spesialisert samling med data. Målet er ikke å lære modellen språket på nytt, men å tilpasse måten den svarer på slik at den passer til en helt spesifikk oppgave, et bestemt fagfelt eller en spesiell tonefall.
Ved å justere modellens indre vekter gjennom målrettet etterutdanning, kan du lære den opp til å skrive i tråd med bedriftens egen håndbok, beherske særnorsk fagspråk eller konsekvent levere svar i et strengt strukturert format som JSON. Dette er langt mer ressurseffektivt enn å trene en kunstig intelligens helt fra bunnen av.
Slik fungerer prosessen i praksis
En generell språkmodell har allerede lest enorme mengder tekst og forstår grammatikk, resonnering og sammenhenger. Når du finjusterer modellen, mater du den med nøye utvalgte eksempler på spørsmål og ønskede svar. Prosessen foregår gjerne i følgende steg:
- Innsamling og rensing av data: Du lager et datasett bestående av eksempler av høy kvalitet som viser nøyaktig hvordan du vil at modellen skal oppføre seg.
- Videre opplæring: Modellen eksponeres for disse eksemplene over flere runder, slik at den justerer de eksisterende koblingene sine.
- Evaluering: Du tester modellen på nye oppgaver for å kontrollere at den har fanget opp stilen uten å miste evnen til å resonnere fornuftig.
Et lokalt eksempel: Rørleggerbedriften i Drammen
Se for deg et mellomstort rørleggerfirma i Drammen som vil automatisere skriving av tilbudsbrev og fagrapporter etter oppdrag på baderom. De vanlige språkmodellene skriver ofte for langt, for høytidelig eller bruker feil termer i henhold til norske våtromsnormer og lokale standarder.
Ved å samle inn fem hundre tidligere, godkjente rapporter og tilbud, kan firmaet finjustere en åpen språkmodell. Etter finjusteringen kjenner modellen firmaets faste struktur: den starter alltid med en standardisert tiltaksbeskrivelse, lister opp rørdimensjoner i millimeter og avslutter med et nøkternt prisoverslag på norsk. Modellen har fått stilen og formatet inn i fingrene, noe som sparer prosjektlederne for timevis med redigeringsarbeid hver uke.
Finjustering kontra RAG: Hva velger du når?
En vanlig misforståelse er at finjustering er den beste måten å gi en modell ferske fakta på. Hvis du vil at modellen skal svare på spørsmål om interne rutiner i en kommune eller prislisten for i år, er RAG (Retrieval-Augmented Generation) som regel en langt bedre løsning. RAG fungerer som en åpen bok der modellen slår opp i kildedokumentene dine før den svarer.
Kort oppsummert:
- Bruk RAG: Når du vil tilføre oppdatert kunnskap, vise til kilder og unngå at modellen finner på fakta.
- Bruk finjustering: Når du vil endre tonen, forkorte svarene, lære modellen et komplekst fagspråk eller tvinge den til å følge en fast datastruktur.
- Bruk ledetekster (prompts): Når en god instruks i systemmeldingen er nok til å løse oppgaven. Dette bør alltid testes først.
Vanlige fallgruver
Den største feilen mange gjør, er å mate modellen med store mengder dårlige data. Hvis treningssettet inneholder skrivefeil, uklare formuleringer eller motstridende instruksjoner, vil den finjusterte modellen bli upålitelig. Kvalitet slår alltid kvantitet ved finjustering.
En annen fare er såkalt katastrofal glemmeramme (catastrophic forgetting). Hvis du trener en modell for hardt på en smal oppgave, kan den miste den generelle resonneringsevnen og begynne å hallusinere på områder den tidligere mestret godt. Finjustering bør derfor betraktes som en avansert justering for spesielle behov, og ikke som første steg når du skal ta i bruk kunstig intelligens.
Ofte stilte spørsmål
Er finjustering det samme som å mate modellen med nye fakta?
Nei, finjustering endrer primært modellens væremåte, stil og formatforståelse. Hvis du vil lære modellen nye fakta eller bedriftsinterne data, bør du heller koble den til en ekstern kunnskapsbase med RAG.
Hvor mange eksempler trenger man for å finjustere en modell?
For enkle stilendringer kan noen få hundre eksempler av høy kvalitet holde. For mer krevende fagfelt eller komplekse kodeoppgaver trengs det ofte flere tusen kvalitetssikrede tekstpar.
Hva er billigst av en god system-prompt og finjustering?
En god system-prompt koster nesten ingenting å sette opp og bør alltid prøves først. Finjustering krever mer arbeid med datarensing, testing og teknisk drift, men gir lavere driftskostnader per forespørsel ved svært store volumer.
