Temperatur (i språkmodeller)
Temperatur er en innstilling i kunstig intelligens som styrer graden av tilfeldighet, oppfinnsomhet og variasjon i tekstene modellen lager.
Temperatur i en språkmodell er en matematisk parameter som bestemmer hvor dristig, tilfeldig eller forutsigbar modellen skal være når den velger neste ord i en setning. Når du ber en kunstig intelligens om å svare på et spørsmål, regner den ut sannsynligheten for tusenvis av mulige ord som kan følge etter hverandre. Temperaturen avgjør om modellen skal holde seg slavisk til det aller mest sannsynlige ordet, eller om den får lov til å utforske mindre opplagte alternativer.
Skalaen går vanligvis fra 0 til 2, der en lav verdi gir nøkterne, konsekvente og faktabaserte svar, mens en høy verdi gir fantasifulle, overraskende og av og til kaotiske formuleringer. I vanlige nettleserversjoner av prateroboter er denne bryteren ofte gjemt bak kulissene, men i utviklerverktøy og programmeringsgrensesnitt er temperatur et av de viktigste verktøyene du har for å styre resultatet.
Slik fungerer sannsynligheten under panseret
Når en språkmodell genererer tekst, beregner den en liste over sannsynlige neste ord. Hvis setningen begynner med «Solen står opp i», vil ordet «øst» ha en skyhøy sannsynlighet, mens ord som «horisonten» eller «morgentimen» har lavere sannsynlighet, og et ord som «bakerovnen» har mikroskopisk sannsynlighet.
Ved en temperatur nær 0,0 tvinger du modellen til nesten utelukkende å velge kandidaten på førsteplass. Svaret blir deterministisk, stramt og repetitivt hvis du stiller det samme spørsmålet flere ganger. Hvis du derimot skrur temperaturen opp til for eksempel 0,8 eller 1,0, jevnes forskjellene i sannsynlighetsfordelingen ut. Da får ord som ligger lenger nede på listen en reell sjanse til å bli valgt, noe som gjør teksten mer fargerik og uforutsigbar.
Praktisk bruk: Et bakeri i Bodø
For å forstå hvordan innstillingen fungerer i praksis, kan vi se for oss et lite håndverksbakeri i Bodø som bruker kunstig intelligens til to vidt forskjellige oppgaver på kontoret:
- Vareopptelling og strukturering (lav temperatur: 0,0 - 0,2): Bakeren skal hente ut tall fra rotete e-poster fra lokale melprodusenter og sette opp en oversiktlig tabell med kilo og liter. Her må temperaturen være helt i bunn. Bakeren vil ikke ha kunstnerisk frihet eller kreative tolkninger, men nøyaktig avskrift og logisk konsistens.
- Idémyldring for nye bakverk (høy temperatur: 0,8 - 1,1): Bakeren vil finne på nye kaker til den lokale kulturuka og ber modellen om ti uvanlige smakskombinasjoner med arktiske bær. Med høy temperatur tør modellen å foreslå overraskende blandinger som einerbær og hvit sjokolade, i stedet for å ramse opp standardoppskrifter på blåbærmuffins.
Hvilke verdier bør du velge?
Ulike arbeidsoppgaver krever ulik grad av strenghet. Her er en grei tommelfingerregel for hvordan du bør stille inn temperaturvelgeren i verktøy som lar deg justere den:
- 0,0 til 0,2: Perfekt for programmering, koding, oversetting mellom språk, matematiske beregninger og uthenting av rådata.
- 0,3 til 0,6: Velegnet for faglige sammendrag, formelle e-poster, saksbehandling og artikler der du trenger godt språk, men ingen ville påfunn.
- 0,7 til 0,9: Standardsonen for markedsføringstekster, idéarbeid, historiefortelling og uformelle samtaler.
- 1,0 til 1,5: For eksperimentell skriving, dikt og uvanlige analogier. Merk at risikoen for usammenhengende resonnementer øker betraktelig.
Vanlige misforståelser om temperatur
En utbredt feiloppfatning er at lav temperatur fjerner alle faktafeil. Selv om modellen blir mer forutsigbar og logisk konsekvent ved lav temperatur, kan den fortsatt ta feil med stor selvsikkerhet dersom den mangler kildegrunnlag. Temperatur styrer variasjon og språklig frihet, ikke den underliggende kunnskapen.
En annen feil er å skru temperaturen helt til topps i håp om å få genial litteratur. Hvis innstillingen blir for høy, mister modellen tråden i grammatikken og logikken. Resultatet blir ofte oppdiktede ord, brå temaendringer og rent tøyspråk.
Ofte stilte spørsmål
Hva er standard temperatur i ChatGPT?
I vanlige samtalevinduer er temperaturen ofte satt til rundt 0,7 av leverandøren, noe som gir en god balanse mellom naturlig flyt, kreativitet og fornuftige svar.
Blir modellen smartere hvis jeg øker temperaturen?
Nei, temperatur endrer ikke intelligensen eller kunnskapen til modellen. Den styrer kun hvor villig modellen er til å velge mindre vanlige ord når den setter sammen svaret.
Kan jeg endre temperatur uten å kunne programmere?
Ja, mange utviklergrensesnitt og testarenaer på nett lar deg justere en enkel glidebryter for temperatur direkte i nettleseren uten at du trenger å skrive en eneste linje kode.
Hvorfor gir temperatur på 0 likevel ulike svar noen ganger?
Selv ved lav temperatur kan små forskjeller i systemoppdateringer, serverbelastning eller tilfeldige tallgeneratorer i bakgrunnen føre til ørsmå variasjoner i teksten over tid.
