Overfitting (overtilpasning)
Overfitting, eller overtilpasning, skjer når en KI-modell pugger treningsdataene utenat i stedet for å lære de generelle sammenhengene bak dem.
Overfitting, på norsk omtalt som overtilpasning, er en av de mest klassiske utfordringene innen maskinlæring og kunstig intelligens. Problemet oppstår når en datamodell lærer treningsdataene sine altfor grundig, slik at den suger til seg tilfeldig støy, unntak og irrelevante detaljer i stedet for å fange opp de faktiske, underliggende mønstrene. Resultatet er en modell som ser ut til å levere feilfrie resultater i laboratoriet, men som kollapser så snart den møter virkeligheten.
En overtilpasset modell har i praksis valgt skippertaksmetoden: den har pugget fasiten ordrett fremfor å forstå faget. Når modellen senere blir presentert for ferske data den aldri har sett før, klarer den ikke å generalisere kunnskapen sin. I store språkmodeller kan dette arte seg som at systemet gjengir lange avsnitt fra kildetekstene ord for ord, i stedet for å formulere et selvstendig og tilpasset svar på brukerens spørsmål.
Hvorfor oppstår overtilpasning?
Maskinlæring handler i bunn og grunn om å finne balansen mellom enkelhet og kompleksitet. Hvis en algoritme får for mye frihet, mange milliarder parametere og for lang tid til å analysere et begrenset datasett, vil den før eller siden begynne å forklare tilfeldigheter. Den leter etter sammenhenger overalt, også der det bare finnes digital bakgrunnsstøy.
Tenk på en elev ved en videregående skole i Bergen som forbereder seg til eksamen i samfunnsfag ved å pugge fjorårets prøve med fasit. Eleven lærer nøyaktig hvilke ord som står på side to i oppgavesettet, og får toppkarakter dersom læreren deler ut nøyaktig samme prøve om igjen. Men hvis læreren endrer formuleringene eller introduserer en ny problemstilling, faller eleven igjennom. Eleven lærte svarene, men forsto aldri faget. Det er presis dette som rammer en overtilpasset algoritme.
Et lokalt eksempel: Vaffelpressen på Grünerløkka
Se for deg en liten kafé på Grünerløkka i Oslo som vil effektivisere innkjøpene sine. Eieren bygger en maskinlæringsmodell for å forutsi hvor mange vafler og kanner med kaffe de vil selge hver formiddag, basert på historiske data om ukedager, vær og temperaturer.
Dersom modellen overtilpasses, vil den legge altfor stor vekt på særegne hendelser. Den kan registrere at et voldsomt regnvær en tirsdag i oktober førte til et uvanlig salg av tretti vafler på under en time. Modellen konkluderer dermed med at kraftig regn på en tirsdag alltid betyr vaffelrush, uten å ta høyde for at den lokale turlagsklubben tilfeldigvis søkte ly for uværet akkurat den dagen. Neste tirsdag med regnvær rører kaféen sammen litervis med vaffelrøre som til slutt må kastes, fordi modellen forvekslet et enkeltstående sammentreff med en varig trend.
Slik unngår du overtilpasning i praksis
For å sikre at en modell blir robust og nyttig i den virkelige verden, benytter utviklere og dataforskere flere etablerte teknikker underveis i treningsprosessen:
- Oppdeling av datasett: Dataene splittes alltid i separate deler for trening, validering og testing. Modellen testes regelmessig på oppgaver den aldri har sett under treningen, for å avsløre om den faktisk generaliserer.
- Tidlig stopping (early stopping): Treningen avbrytes automatisk idet ytelsen på testdataene slutter å forbedre seg, selv om modellen fortsatt gjør det bedre på treningsdataene.
- Regularisering: Matematiske straffemekanismer legges inn i algoritmene for å premiere enkle modeller og straffe unødig komplekse forklaringer.
- Mer variert data: Ved å mate modellen med et bredere og mer mangfoldig kildemateriale tvinges den til å lete etter universelle mønstre fremfor lokale tilfeldigheter.
En vanlig misforståelse blant nybegynnere
En svært utbredt feilantakelse innen maskinlæring er at en modell med tilnærmet hundre prosent treffsikkerhet under utvikling er et bevis på suksess. I ingeniørmiljøer er en perfekt poengsum på treningsdata tvert imot et rødt flagg. En modell som aldri tar feil underveis i opplæringen, har nesten uten unntak blitt et offer for overtilpasning, og vil levere upålitelige resultater så snart den settes i reell drift.
Ofte stilte spørsmål
Hva er den enkle forskjellen på overfitting og underfitting?
Ved overfitting har modellen pugget for mange detaljer og støy, slik at den ikke takler nye data. Ved underfitting er modellen for enkel og klarer ikke engang å oppdage de grunnleggende mønstrene den ble satt til å finne.
Hvordan oppdager man at en modell er overtilpasset?
Tegnet på overtilpasning er et voksende gap i ytelse: Modellen oppnår svært lave feilrater på treningsdataene sine, men gjør mange feil så snart den testes på nye, usette data.
Kan store språkmodeller også rammes av overtilpasning?
Ja, hvis en språkmodell trenes for lenge på et ensidig materiale, kan den begynne å sitere treningsdataene ordrett i stedet for å generere nye, kontekstuelle formuleringer.
