Temperatur (AI-parameter)
Temperatur är en inställning i språkmodeller som styr hur kreativa och överraskande svaren blir i förhållande till hur strikt modellen väljer de mest sannolika orden.
Temperatur är en styrparameter i generativ AI som avgör graden av slumpmässighet och variation i modellens svar. När en språkmodell genererar text beräknar den hela tiden sannolikheten för vilket ord som borde komma härnäst. Genom att justera temperaturen styr du om modellen uteslutande ska välja de mest självklara och förutsägbara orden, eller om den tillåts chansa på mer ovanliga alternativ.
I praktiken fungerar parametern som ett reglage mellan matematisk precision och fantasifull variation. En låg temperatur gör texten logisk, sammanhängande och fokuserad, medan en hög temperatur ger mer oväntade infall och större språklig variation, men också en högre risk för svammel eller rena faktafel.
Hur fungerar temperatur under ytan?
För att förstå parametern behöver man se hur en språkmodell arbetar. Modellen har inte ett enda färdigt svar på en fråga. Istället skapar den en lista med tänkbara nästa ord, där varje ord har en viss procentsats baserad på vad den lärt sig under sin träning.
När du sätter ett lågt värde, exempelvis nära noll, spetsas dessa sannolikheter till. Det mest sannolika ordet trycks upp och vinner nästan alltid. Resultatet blir att modellen svarar nästan identiskt varje gång du ställer samma fråga. Om du däremot höjer temperaturen plattas fördelningen ut. De mest sannolika orden är visserligen fortfarande favoriter, men mer udda ord får en realistisk chans att väljas. Det är detta som skapar känslan av kreativitet.
När ska du använda låg respektive hög temperatur?
Vilket värde du bör välja beror helt på uppgiften du vill lösa. I allmänhet brukar värdet ligga på en skala mellan 0 och 2, där standardvärdet i många system ofta är satt runt 0,7 eller 1,0.
- Låg temperatur (0,0 till 0,3): Perfekt för programmeringskod, översättning av formella dokument, matematiska beräkningar eller utdrag av data. Om Skatteverket eller en redovisningsbyrå ska strukturera fakturaunderlag vill ingen ha kreativa överraskningar; svaret måste vara exakt och konsekvent.
- Medelhög temperatur (0,5 till 0,7): Lämpligt för allmänna texter, kundtjänstsvar, sammanfattningar och artiklar. Språket flyter naturligt utan att tappa den röda tråden.
- Hög temperatur (0,8 till 1,2 eller högre): Bäst för idéarbete, brainstorming, novellskrivande och reklamkampanjer där poängen är att hitta vinklar som inte är helt uppenbara.
Ett vardagligt exempel från en svensk småföretagare
Tänk dig en cykelverkstad i Linköping som vill använda AI i två helt olika delar av sin verksamhet. För det första vill mekanikern automatiskt sortera inkommande e-post och matcha kundernas beskrivningar mot ett fast reservdelsregister i ett kalkylblad. Här ställs temperaturen så nära noll som möjligt. Om en kund skriver att kedjan hoppar på en Skeppshult vill verkstaden att modellen alltid returnerar samma exakta artikelnummer för kedjesträckare, utan några språkliga utsmyckningar.
Samma eftermiddag vill cykelverkstaden skapa tio olika förslag på slogans till en lokal vårkampanj inför cykelsäsongen. Nu drar ägaren upp temperaturen till 1,0. Nu vågar modellen föreslå ordlekar, lokala referenser till cykelbanorna längs Stångån och mer humoristiska formuleringar som inte fanns med bland de mest uppenbara alternativen.
Så kommer du åt parametern i praktiken
Om du bara använder standardgränssnittet i vanliga chattverktyg ser du sällan reglaget för temperatur. Där har utvecklarna redan valt ett fast mellanvärde för att ge en bra upplevelse för de flesta användare. För att själv kunna styra parametern behöver du oftast använda mer avancerade utvecklarverktyg, så kallade playgrounds, eller anropa modellerna direkt via ett programmeringsgränssnitt, ett API.
I dessa miljöer möts du ofta av ett skjutreglage märkt temperature. Vissa moderna chattjänster låter dig dock styra detta indirekt genom dina instruktioner, till exempel genom att skriva: Var strikt faktabaserad och välj endast de mest vedertagna formuleringarna, vilket i praktiken ber modellen att efterlikna ett lågt temperaturvärde.
Vanliga misstag med temperatur
Ett mycket vanligt missförstånd är att tro att en temperatur på noll innebär att modellen aldrig kan ljuga eller hitta på fakta. En låg inställning minimerar visserligen slumpen och gör svaren stabila, men om modellen har felaktiga samband i sin träningsdata kommer den att leverera samma felaktiga påstående med fullständig övertygelse varje gång.
Ett annat misstag är att skruva upp temperaturen för högt i tron att texten bara blir ännu mer nyskapande. Vid alltför höga värden tappar modellen sammanhanget helt, glömmer bort grammatiska regler och börjar sätta ihop osammanhängande ord som inte bildar begripliga meningar.
Vanliga frågor
Garanterar temperatur noll att AI alltid svarar sant?
Nej, en låg temperatur minskar bara slumpen och gör modellen mer förutsägbar. Om modellen missförstår frågan eller saknar kunskap kan den fortfarande presentera felaktiga fakta, men den gör det konsekvent varje gång.
Varför kan jag inte ändra temperatur i ChatGPT?
I konsumentversionen av vanliga chattbotar är parametern låst i bakgrunden för att ge en bra balans mellan fakta och naturligt språk. Vill du ändra parametern själv behöver du använda utvecklarverktyg eller API-tjänster.
Vad är skillnaden mellan temperatur och Top-p?
Båda styr slumpmässigheten i texten, men på olika sätt. Temperatur skalar om sannolikheten för alla ord, medan Top-p skär bort alla ord utanför en viss procentuell toppgräns helt innan urvalet görs.
Blir texten mer mänsklig med hög temperatur?
Inte nödvändigtvis. En måttlig temperatur gör att texten låter mer varierad och mindre stel, men om du drar upp den för högt blir språket osammanhängande, rörigt och onaturligt.
