GPU (Grafikkort)
En GPU er en specialiseret processor, der udfører tusindvis af beregninger parallelt, hvilket gør den til den centrale motor bag moderne kunstig intelligens.
En GPU, der står for Graphics Processing Unit og i daglig tale kaldes et grafikkort, er den fysiske regnemaskine bag moderne kunstig intelligens. Oprindeligt blev GPU'en opfundet til at behandle computerspil og 3D-grafik på skærmen, men dens tekniske opbygning har vist sig at passe perfekt til kravene i maskinlæring og neurale netværk.
Hvor en traditionel processor i computeren løser opgaver i en hurtig rækkefølge én efter én, er en GPU bygget op af tusindvis af mindre regnekerner. Disse kerner kan udføre simple matematiske regnestykker simultant, hvilket er præcis den form for parallel regnekraft, som træning og afvikling af AI-modeller kræver.
Hvorfor er GPU'en så afgørende for kunstig intelligens?
Kunstig intelligens og store sprogmodeller består inderst inde af gigantiske tabeller med tal, også kendt som matricer. Når en model skal forstå en tekst eller generere et nyt billede, skal den gange og lægge disse tal sammen millioner eller milliarder af gange. En almindelig processor ville bruge alt for lang tid på at tygge sig igennem disse udregninger serielt.
GPU'en kan derimod dele arbejdet op i tusindvis af små bidder og behandle dem i samme brøkdel af et sekund. Uden denne parallelle regnestyrke ville det tage årtier at træne avancerede modeller, og det ville være umuligt at få lynhurtige svar fra en AI-assistent i hverdagen.
Eksempel: Lokal AI hos et bureau i Aarhus
Forestil dig et mindre reklame- og designbureau i Aarhus, der udvikler visuelle koncepter for lokale virksomheder. De ønsker at bruge billedgenerering i deres idéproces, men de må af hensyn til fortrolighedsaftaler ikke uploade kundernes råmaterialer til offentlige cloud-tjenester på nettet.
Løsningen for bureauet er at investere i en arbejdsstation med et kraftigt grafikkort direkte på kontoret. Grafikkortet gør det muligt for designerne at køre åbne billedmodeller lokalt på maskinen. Fordi bureauet råder over en stærk GPU med tilstrækkelig arbejdshukommelse, kan computeren udregne et detaljeret billedudkast på få sekunder, helt uden at data forlader kontorets interne netværk.
VRAM: Grafikkortets vigtigste parameter til AI
Når man vurderer et grafikkort til AI-formål, er der ét nøgletal, som vejer tungere end næsten alt andet: VRAM (Video RAM). VRAM er grafikkortets egen lynhurtige arbejdshukommelse, hvor AI-modellen skal ligge, mens den arbejder.
- For lidt VRAM: Hvis en model fylder mere, end grafikkortets hukommelse tillader, kan den slet ikke startes op, eller også tvinges systemet til at bruge computerens langsommere systemhukommelse, hvilket dræber ydeevnen.
- Tilstrækkelig VRAM: Giver mulighed for at køre større sprogmodeller eller generere billeder i højere opløsning uden fejlmeddelelser om manglende hukommelse.
- Båndbredde: Ud over selve mængden af gigabyte er hastigheden, hvormed GPU'en kan læse og skrive til sin VRAM, afgørende for, hvor mange ord i sekundet en model kan spytte ud.
Typiske misforståelser om grafikkort og AI
En udbredt misforståelse blandt begyndere er at forveksle computerens almindelige RAM med grafikkortets VRAM. Man kan have en computer stående på kontoret med en enorm mængde almindelig arbejdshukommelse, men hvis selve grafikkortet kun har en beskeden mængde VRAM, vil man stadig opleve store begrænsninger, når man forsøger at køre lokale AI-værktøjer.
En anden fejl er at tro, at et hurtigt grafikkort til spil automatisk er optimalt til al AI. Mens spil ofte prioriterer ren klokfrekvens og specifikke renderingsteknologier, handler AI først og fremmest om rå kapacitet til matrix-beregninger samt mængden af hukommelse. Til tungere opgaver vælger professionelle datacentre derfor dedikerede GPU-servere, der er optimeret udelukkende til talbehandling frem for billedvisning på en skærm.
Ofte stillede spørgsmål
Kan man køre AI uden et grafikkort?
Ja, en almindelig processor kan godt køre mindre AI-modeller, men processen er markant langsommere. Til generering af billeder eller afvikling af større sprogmodeller er en dedikeret GPU i praksis nødvendig.
Hvad betyder VRAM for AI?
VRAM er grafikkortets egen hukommelse, hvor AI-modellen opbevares under kørsel. Hvis modellen fylder mere end den tilgængelige VRAM, kan den ofte slet ikke køre på hardwaren.
Hvad er forskellen på en CPU og en GPU?
En CPU har få, stærke kerner optimeret til at udføre opgaver efter hinanden, mens en GPU har tusindvis af mindre kerner designet til at udføre parallelle beregninger samtidigt.
