Vekter (model weights)
Vekter i maskinlæring er de matematiske tallverdiene i en KI-modell som avgjør hvordan informasjon behandles, og som utgjør modellens samlede kunnskap.
Vekter, eller model weights på fagspråket, er de numeriske verdiene som utgjør selve hjernen i en trent modell for kunstig intelligens. Når en datamaskin lærer seg å gjenkjenne mønstre i tekst, bilder eller lyd, justeres milliarder av slike tall helt til systemet gir riktige svar. I praksis er vektene en enorm fil full av desimaltall, og det er disse tallene som lagrer all erfaringen modellen har fått under opplæringen.
Uten vektene er et nevralt nettverk bare et tomt skall eller en tom formel uten kunnskap. Det er først når vektene lastes inn i datamaskinens minne at modellen blir i stand til å oversette et dokument, skrive et sammendrag eller analysere et røntgenbilde.
Hvordan fungerer vekter i praksis?
For å forstå vekter kan man se for seg et gigantisk miksebord i et lydstudio, med millioner av små glidebrytere. Hver bryter styrer hvor mye vekt et bestemt signal skal få når informasjonen sendes videre gjennom nettverket:
- Før trening: Alle glidebryterne står tilfeldig innstilt. Modellen gjetter vilt og tar nesten alltid feil.
- Under trening: Modellen mates med store mengder data. Hver gang den svarer feil, dyttes bryterne en ørliten brøkdel i riktig retning via matematiske algoritmer.
- Etter trening: Bryterne låses i sine optimale posisjoner. Disse faste posisjonene er de endelige modellvektene.
Når du i dag stiller et spørsmål til en språkmodell, endres ikke disse tallene lenger. Signalet fra teksten din sendes rett og slett gjennom dette fastlåste nettverket av vekter for å regne ut det mest sannsynlige neste ordet.
Et lokalt eksempel: Bildeanalyse i Lofoten
Tenk deg et lokalt fiskemottak i Svolvær som ønsker å sortere skrei automatisk etter kvalitet og størrelse ved hjelp av et kamera på samlebåndet. Utviklerne setter opp et nevralt nettverk og mater det med tusenvis av bilder av fersk fisk.
I starten har modellen ingen anelse om hva en spord eller en gjelle er. Men etter hvert som bildene analyseres, justeres vektene i nettverket. Noen vekter blir spesialiserte på å reagere på blanke fiskeskjell, mens andre vekter reagerer på ujevnheter i fileten. Når mottaket er ferdig med treningen, sitter de igjen med en ferdig fil med vekter. Denne filen kan de legge inn på en lokal industridatamaskin på brygga, som umiddelbart sorterer fisken i sanntid uten forsinkelser.
Åpne vekter mot lukkede modeller
Hvem som eier og kontrollerer vektene, har skapt et stort skille i teknologiuniverset. Dette handler om makt, kostnader og personvern for norske bedrifter og offentlige etater:
Lukkede modeller: Her holder leverandøren vektene hemmelige på sine egne servere. Du får bare tilgang via et programmeringsgrensesnitt (API) over internett. Du betaler per forespørsel, og du må stole på at leverandøren håndterer dataene dine forsvarlig i henhold til personvernregler som GDPR.
Modeller med åpne vekter: Her kan hvem som helst laste ned selve filen med tallverdiene gratis. En kommune, et lokalt sykehus eller en sparebank kan laste ned vektene og kjøre modellen på sine egne, lukkede servere. Ingen data forlater huset, og virksomheten har full kontroll. Det er likevel viktig å merke seg at åpne vekter ikke automatisk betyr fri programvare. Skaperne legger ofte begrensninger i lisensen på hva modellen kan brukes til kommersielt.
Vanlige misforståelser om vekter
En vanlig misforståelse er troen på at vektene inneholder selve treningsdataene som en slags hemmelig database. Noen frykter at et internt dokument eller en nettside ligger lagret i klartekst inni modellen. Slik fungerer det ikke. Vektfilen inneholder bare abstrakte matematiske mønstre og statistiske sammenhenger, ikke kopier av artikler eller bilder.
En annen feil er å tro at vektene fortsetter å lære av samtalene dine mens du bruker modellen. Såkalt inferens, altså vanlig bruk av en modell, endrer overhodet ikke på vektene. For at vektene skal endre seg, må modellen gjennom en ny og kostbar treningsrunde, ofte kalt ettertrening eller finjustering.
Ofte stilte spørsmål
Hva er forskjellen på parametere og vekter?
Begrepene brukes ofte om hverandre. Parametere er samlebetegnelsen på alle justerbare verdier i modellen, der vektene utgjør den absolutte hoveddelen sammen med et lite antall skjevheter (kalt biases).
Hvor store er filene som inneholder modellvekter?
Størrelsen avhenger av antall parametere og tallformatet, men vanlige modeller varierer fra noen få gigabyte for små modeller til flere hundre gigabyte for de største åpne modellene.
Kan jeg endre på vektene til en modell selv?
Ja, hvis modellen har åpne vekter, kan du utføre en prosess som kalles finjustering (fine-tuning). Da trener du modellen videre på egne data slik at tallverdiene tilpasser seg dine spesifikke oppgaver.
