Przejdź do treści
promptowy.com / AI-ordlista / Modellvikter (vikter inom AI)
Modeller och träning

Modellvikter (vikter inom AI)

Modellvikter är de numeriska värden i ett tränat AI-system som bär på modellens inlärda kunskap och bestämmer hur indata omvandlas till svar.

Modellvikter i ett AI-system är de miljontals eller miljardtals decimaltal som tillsammans utgör modellens minne och matematiska förståelse av världen. När en stor språkmodell eller ett bildgenereringsverktyg tränas, justeras dessa siffror steg för steg för att minimera felaktigheter. Slutresultatet av hela träningsprocessen sparas som en samling filer fyllda med just dessa siffror: vikterna.

Den som har tillgång till modellens vikter har i praktiken tillgång till själva AI-hjärnan. Utan vikterna är en artificiell neural nätverksarkitektur bara ett tomt skal av formler, och det är först när vikterna läses in i datorns minne som modellen kan analysera frågor, skriva texter eller känna igen mönster.

Hur vikter fungerar under ytan

Ett artificiellt neuralt nätverk är uppbyggt av sammankopplade noder i flera lager. Varje koppling mellan två noder har en specifik vikt, vilket kan liknas vid ett reglage för signalstyrka. När du matar in en textfras gör modellen en lång rad beräkningar:

  • Indata omvandlas till siffror och skickas genom nätverkets olika lager.
  • Varje nod multiplicerar inkommande signaler med kopplingens vikt.
  • Om summan når ett visst tröskelvärde skickas signalen vidare till nästa lager.
  • Det sista lagret sammanställer resultatet, vilket resulterar i nästa ord eller en klassificering.

Under träningsfasen är vikterna föränderliga. När träningen är klar fryses de. Vid vanlig användning, så kallad inferens, ändras inte vikterna alls, utan modellen använder bara de redan fastställda talen för att räkna fram svaret.

Öppna vikter kontra stängda system

Tillgången till modellvikter är grunden för den största uppdelningen i dagens AI-landskap. Vissa utvecklare väljer att behålla sina vikter på egna servrar. Användare kan då bara interagera med modellen via ett webbgränssnitt eller ett externt programmeringsgränssnitt (API). I dessa fall förblir vikterna en affärshemlighet.

Andra aktörer publicerar sina vikter fritt för nedladdning. Detta kallas ofta för modeller med öppna vikter. När du laddar ner vikterna kan du köra modellen lokalt på din egen hårdvara utan att skicka information över internet, och du kan anpassa modellen efter egna behov genom finjustering.

Ett praktiskt exempel från svensk verklighet

Föreställ dig en medelstor tillverkare i Småland som vill bygga en intern assistent för att söka i ritningar, patent och interna affärsdokument. Företagets ledning vill under inga omständigheter att känsliga interna data ska lämna huset via molnbaserade tjänster.

Genom att ladda ner en språkmodell med öppna vikter kan IT-avdelningen installera filerna direkt på en kraftfull lokal server på kontoret i Växjö. Eftersom de äger och kontrollerar vikterna kan de mata modellen med interna instruktionsböcker och köra analyser bakom företagets egen brandvägg. Inga förfrågningar skickas ut på nätet, och driften fungerar även om den externa internetuppkopplingen skulle ligga nere.

Hur du kontrollerar och använder vikter

För den som vill köra en modell själv finns vikterna oftast tillgängliga via etablerade samlingsplatser för öppen källkod. De distribueras som stora filer, ofta med filändelser som safetensors eller bin. För att använda dem på vanliga datorer använder utvecklare ofta verktyg som kvantiserar vikterna, vilket innebär att siffrornas precision minskas något för att filerna ska ta mindre plats i arbetsminnet.

Ett vanligt misstag är att blanda ihop öppna vikter med fullständig öppen källkod. Att en utvecklare släpper vikterna betyder inte automatiskt att träningsdatan, källkoden eller träningsmetoderna är offentliga. Dessutom kan licensen för vikterna innehålla begränsningar, till exempel förbud mot viss kommersiell användning eller krav på att inte använda modellen i vissa branscher.

Ett annat vanligt missförstånd är att tro att vikterna fungerar som en sökbar databas där texter ligger sparade som i ett bibliotek. Vikterna innehåller inga råtexter, utan bara statistiska mönster. Det är därför en modell ibland kan producera faktafel: den slår inte upp information, utan genererar ord baserat på matematiska sannolikheter som styrs av just vikterna.

Vanliga frågor

Vad är skillnaden mellan parametrar och vikter i AI?

Begreppen används ofta synonymt, men strikt talat är vikter den viktigaste typen av parametrar. Parametrar inkluderar både nätverkets vikter, som styr kopplingarnas styrka, och så kallade biaser, som sätter tröskelvärden för noderna.

Varför kan man inte ladda ner vikterna från alla AI-tjänster?

Företag som investerar stora resurser i att träna avancerade modeller betraktar ofta vikterna som sin främsta tillgång och affärshemlighet. Genom att bara erbjuda tillgång via API skyddar de sin immateriella egendom och styr intäkterna.

Vilka filformat används för att spara modellvikter?

De vanligaste moderna formaten är Safetensors och GGUF. Formatet Safetensors föredras ofta för sin säkerhet och snabbhet, medan GGUF är särskilt anpassat för att köra modeller effektivt på vanliga konsumentdatorer.

Hur mycket lagringsutrymme kräver en uppsättning vikter?

Det beror helt på modellens storlek. Mindre modeller kan rymmas på några få gigabyte, medan de största modellerna kräver hundratals gigabyte eller till och med flera terabyte i rent minnes- och lagringsutrymme.

← Alla termer i AI-ordlistan

🛒 Sklep Kinetyka CapCut Pro 460 zł/rok Lovable Pro 450 zł/rok Replit Core 119 zł/rok Zobacz wszystko →
× ‹ powiększenie ›