Przejdź do treści
promptowy.com / AI-ordlista / Kontextfönster (context window)
Teknik

Kontextfönster (context window)

Ett kontextfönster är den maximala mängd text en AI-modell kan läsa och minnas samtidigt under ett enskilt samtal eller en analys.

Ett kontextfönster, på engelska kallat context window, är den maximala mängd text en språkmodell kan bearbeta och hålla i minnet vid ett enskilt tillfälle. Allt du skickar in i din instruktion, tidigare meddelanden i samma konversation, bifogade dokument och det svar som modellen genererar måste rymmas inom denna fasta ram. Om dialogen växer sig större än fönstrets kapacitet tvingas modellen släppa den äldsta informationen, vilket leder till att den glömmer vad ni diskuterade i början.

Det är hjälpsamt att se kontextfönstret som modellens aktiva arbetsminne eller ytan på ett skrivbord. Modellen har ingen personlig erfarenhet eller förmåga att tänka utanför skrivbordet: den ser uteslutande de papper som ligger framme just nu. Utrymmet mäts inte i vanliga bokstäver utan i tokens, vilket är mindre textfragment som motsvarar delar av ord eller hela ord.

Hur kontextfönstret fylls upp

Varje gång du skickar ett nytt meddelande i en chatt skickas i regel hela konversationshistoriken in på nytt till modellen. Detta innebär att utrymmet fylls snabbare än många anar. Fönstret delas upp mellan flera olika delar:

  • Systeminstruktioner: Osynliga grundregler som styr tonläge och beteende.
  • Chatthistorik: Alla frågor och svar som tidigare har utbytts i tråden.
  • Bifogade filer: Text från PDF-rapporter, kalkylark eller inskannade underlag.
  • Det genererade svaret: Utrymmet som modellen behöver för att formulera sitt nya svar måste också rymmas i fönstret.

Ett praktiskt exempel: Byggföretaget i Västerås

Tänk dig en projektledare på ett medelstort byggföretag i Västerås som ska granska ett omfattande förfrågningsunderlag för ett nytt skolbygge. Dokumentet innehåller hundra sidor med tekniska specifikationer, miljökrav från kommunen och tidsplaner. Projektledaren laddar upp hela underlaget i ett chattverktyg och ber modellen sammanfatta alla krav gällande fuktskydd.

Om modellens kontextfönster är litet kan filen inte ens laddas upp i sin helhet, eller så kapas de sista sidorna bort utan varning. Om modellen däremot har ett modernt, stort fönster ryms hela skrivelsen utan problem. Men när projektledaren har ställt tjugo följdfrågor i samma chatt börjar historiken tränga undan de tidiga specifikationerna. Modellen börjar plötsligt ge generella råd istället för att hänvisa till de specifika kraven för Västeråsprojektet, eftersom grunddokumentet sakta har knuffats ut ur fönstret.

Nålen i höstacken: Placeringens betydelse

Moderna modeller kan ta emot hundratusentals tokens, vilket gör det möjligt att mata in hela bokmanuskript eller programvaruprojekt. Stor kapacitet innebär dock inte alltid perfekt uppmärksamhet. Inom AI-forskningen kallas detta ibland för problemet med nålen i höstacken.

Modeller är generellt bäst på att uppfatta och använda information som ligger i början eller alldeles i slutet av det inmatade materialet. Det som hamnar mitt i en enorm textmassa riskerar att drunkna eller behandlas mer ytligt. Om du matar in en hel årsredovisning från en lokal förening och vill ha ett exakt svar på en detaljfråga, får du bäst resultat om du placerar dina specifika instruktioner i slutet av inmatningen, direkt efter källtexten.

Så hanterar du begränsningen i vardagen

För att arbeta effektivt och slippa hallucinationer eller bortglömda instruktioner kan du följa tre enkla vanor:

  1. Starta nya konversationer ofta: Så fort du byter ämne eller ett delmoment är avslutat bör du öppna en tom chatt för att nollställa fönstret.
  2. Sammanfatta längs vägen: Be modellen göra en punktlista av vad ni kommit fram till, kopiera sammanfattningen och klistra in den i en ny session.
  3. Rensa bort onödig text: Klistra inte in hela webbsidor med menyer och sidfötter om du bara behöver två stycken brödtext.

Vanliga misstag

Det vanligaste misstaget bland vardagsanvändare är att behålla en enda evighetschatt för alla sina ärenden under flera månader. Efter ett tag blir modellen förvirrad, börjar blanda ihop instruktioner från förra veckan med dagens uppgift och ger sämre svar. Ett annat misstag är att tro att modellen lär sig permanent av det du matar in i fönstret. Så fort kontextfönstret töms eller stängs är informationen borta ur modellens omedelbara medvetande.

Vanliga frågor

Vad händer när kontextfönstret blir fullt?

När gränsen nås kapas de äldsta delarna av samtalet bort automatiskt, vilket gör att modellen glömmer tidigare instruktioner eller bakgrundsfakta.

Är kontextfönster och prompt samma sak?

Nej, prompten är din aktuella fråga eller text, medan kontextfönstret är den totala behållaren som rymmer både prompten, historiken och modellens svar.

Hur vet jag hur stort fönster jag behöver?

För vanliga mejl och korta frågor räcker standardfönster gott, men för att analysera hela rapporter, bokföringsunderlag eller kodbaser krävs modeller med stora fönster på hundratusentals tokens.

Kan modellen minnas saker mellan olika chattar via kontextfönstret?

Nej, kontextfönstret är helt isolerat till den pågående sessionen och nollställs när du skapar en ny chatttråd.

← Alla termer i AI-ordlistan

🛒 Sklep Kinetyka CapCut Pro 460 zł/rok Lovable Pro 450 zł/rok Replit Core 119 zł/rok Zobacz wszystko →
× ‹ powiększenie ›