Embedding (vektorrepræsentation)
En embedding er en række tal, der repræsenterer tekst eller billeder i et matematisk rum, så computere kan forstå indholdets reelle betydning.
En embedding, på dansk ofte kaldet en vektorrepræsentation, er en metode inden for kunstig intelligens, hvor tekst, billeder eller lyd omdannes til en lang række decimaltal, en såkaldt vektor. Formålet er at give computere en matematisk forståelse af ordenes og begrebernes reelle betydning, frem for blot at behandle dem som tilfældige bogstaver og strenge uden kontekst.
Hvor traditionelle computersystemer ser ordet hund og ordet hvalp som to vidt forskellige tekststrenge uden fælles bogstaver i starten, placerer en embedding-model dem tæt op ad hinanden. Det gør det muligt for algoritmer at måle afstand, sammenligne emner og forstå sprog på en måde, der minder meget om menneskelig intuition.
Hvordan fungerer vektor embeddings i praksis?
For at forstå mekanismen kan man forestille sig et gigantisk, flerdimensionelt koordinatsystem. Hver gang en AI-model analyserer et ord, en sætning eller et dokument, beregner den en præcis placering i dette rum ud fra konteksten i milliarder af teksteksempler.
Hver dimension i rummet repræsenterer et abstrakt træk ved betydningen, såsom køn, tid, stilart eller formål. Når to begreber minder om hinanden, ender deres talværdier tæt på hinanden i rummet. For eksempel vil begreber som havregryn, rugbrød og morgenmad få vektorer, der peger i omtrent samme retning, mens et ord som skattekontor vil ligge i en helt anden del af koordinatsystemet. Computeren behøver ikke at kende ordbogsdefinitionen; den måler blot den geometriske vinkel og afstand mellem punkterne for at afgøre, om to ting handler om det samme.
Et lokalt eksempel: Fra stive søgeord til semantik
Forestil dig en lokal cykelhandler i Vejle med en webshop. Hvis en kunde bruger den klassiske søgebjælke og skriver tohjulet transport til børn, vil en ældre søgemaskine lede efter præcis de ord i produkttitlerne. Hvis butikken kun har varer med titler som juniorcykel eller børnecykel, finder kunden ingenting, selvom butikken har lageret fyldt.
Bruger webshoppen derimod embeddings, sker der noget andet:
- Kundens søgesætning omdannes øjeblikkeligt til en embedding-vektor.
- Systemet sammenligner denne vektor med alle de forudberegnede embeddings for butikkens produktkatalog.
- AI-systemet registrerer, at juniorcykel ligger ekstremt tæt på kundens formulering i vektorrummet, selvom der ikke er et eneste ord, der matcher direkte.
- Kunden præsenteres for de rigtige produkter, og handlen gennemføres uden frustration.
Samme princip bruges på biblioteker, i kundeservicesystemer hos forsyningsselskaber og i kommunale borgerportaler, hvor borgere ofte beskriver deres problemer med helt andre ord end dem, der står i lovgivningen.
Hvor bruges embeddings i moderne AI?
Embeddings udgør fundamentet for næsten al moderne sprogteknologi og vidensbehandling. Uden dem ville store sprogmodeller ikke kunne finde relevant information effektivt.
- Semantisk søgning: Systemer, der finder svar baseret på mening frem for specifikke nøgleord.
- RAG (Retrieval-Augmented Generation): En teknik, hvor en virksomhed lader en AI-model søge i interne PDF-dokumenter og procedurer ved hjælp af embeddings, før modellen formulerer et svar til en medarbejder.
- Klyngedannelse og kategorisering: Automatisk sortering af tusindvis af kundehenvendelser eller nyhedsartikler i grupper, der handler om det samme, uden forudgående mærkning.
- Detektering af dubletter: Identifikation af ensartede sager eller enslydende produktanmeldelser, selv hvis de er omskrevet med synonymer.
Typiske fejl og misforståelser
En hyppig misforståelse er at tro, at en embedding i sig selv er en færdig tekst eller et svar. En embedding er udelukkende en række tal, et digitalt koordinat. Den kan ikke formulere et venligt svar eller ræsonnere logisk; den bruges udelukkende til at sammenligne ligheder og hente data.
En anden teknisk faldgrube opstår, når man blander forskellige modeller sammen. Hver enkelt AI-model bygger sit helt eget koordinatsystem med egne dimensioner. Hvis man genererer embeddings for sine dokumenter med én model og derefter forsøger at søge i dem med en vektor fra en anden model, svarer det til at lede efter en adresse i Odense ved hjælp af et kort over Aalborg. Vektorerne er fuldstændig inkompatible, og systemet vil kun levere tilfældige og forkerte resultater.
Ofte stillede spørgsmål
Hvad er forskellen på en vektor og en embedding?
En vektor er et generelt matematisk begreb for en række tal. En embedding er en specifik type vektor, der er skabt af en AI-model for at repræsentere betydningen af data som tekst, lyd eller billeder.
Kan man lave embeddings af andet end tekst?
Ja, man kan lave embeddings af billeder, lyd, video og endda brugeradfærd. Multimodale modeller kan endda placere billeder og tekst i samme rum, så et billede af en brosten lander tæt på ordet brosten.
Hvorfor bruger man embeddings i stedet for almindelig nøgleordssøgning?
Nøgleordssøgning fejler, når folk bruger synonymer, stavefejl eller omskrivninger. Embeddings forstår ordenes kontekst og hensigt, hvilket giver langt mere præcise og menneskelignende søgeresultater.
Hvor mange tal består en typisk embedding af?
Det afhænger af modellen, men en embedding består typisk af mellem et par hundrede og flere tusinde decimaltal, som hver især repræsenterer en dimension i begrebsrummet.
