Przejdź do treści
promptowy.com / AI-begrippenlijst / VRAM (videogeheugen)
Technologie

VRAM (videogeheugen)

VRAM is het speciale werkgeheugen op een grafische kaart waarin AI-modellen, invoergegevens en tussenresultaten worden bewaard tijdens berekeningen.

VRAM staat voor Video Random Access Memory en is het speciale werkgeheugen dat rechtstreeks op een grafische kaart (GPU) is geplaatst. Waar het standaard werkgeheugen van een computer (RAM) algemene besturings- en softwaretaken beheert, is VRAM ontworpen om gigantische hoeveelheden gegevens tegelijk en met extreme snelheden door te sluizen naar de grafische processor. Binnen de wereld van kunstmatige intelligentie fungeert VRAM als de werkplaats waarin het volledige model moet worden geladen om vlot berekeningen uit te voeren.

Zodra je lokaal een taalmodel ondervraagt of afbeeldingen genereert, bepaalt de omvang van het videogeheugen direct welke modellen en taken je systeem aankan. Zit dit geheugen vol, dan stopt de taak vaak abrupt met een foutmelding.

Waarom VRAM verschilt van standaard RAM

Stel je een grafisch ontwerper voor bij een reclamebureau in Gent die promotiemateriaal genereert voor een lokaal evenement. De werkcomputer heeft 32 GB aan intern computergeheugen (RAM), maar de losse grafische kaart beschikt over slechts 8 GB VRAM. Wanneer de ontwerper een lokaal afbeeldingsmodel start op een hoge resolutie, verschijnt plotseling de foutmelding out of memory. Hoewel het besturingssysteem aangeeft dat er nog ruim 20 GB aan RAM vrij is, stopt het proces. Beide geheugens vormen op een traditionele computer immers geen gezamenlijke pot.

Een losse grafische kaart communiceert via een eigen, zeer brede geheugenbus direct met de ingebouwde VRAM-chips. Extra RAM bijkopen in de winkel lost een tekort aan videogeheugen op een losse videokaart dan ook niet op. Bij computers met een gedeelde geheugenarchitectuur, zoals bepaalde moderne laptops, delen het besturingssysteem en de grafische processor wel dezelfde geheugenpool. Toch kun je die cijfers niet een-op-een vergelijken met dedicated videogeheugen, omdat alle applicaties dezelfde ruimte moeten verdelen.

Hoe controleer je hoeveel VRAM je hebt?

Op een computer met Windows kun je de capaciteit eenvoudig controleren via Taakbeheer. Open Taakbeheer met de toetscombinatie Ctrl + Shift + Esc, ga naar het tabblad Prestaties en selecteer de grafische kaart. Kijk hier specifiek naar het toegewezen GPU-geheugen (dedicated VRAM). Het zogeheten gedeelde geheugen kan AI-taken niet op volle snelheid verwerken en leidt bij zware berekeningen vaak tot vertragingen of crashes.

Werk je met Linux of beheer je een ontwikkelomgeving via de terminal, dan biedt het commando nvidia-smi uitkomst. Deze tool toont in realtime hoeveel megabytes er daadwerkelijk door actieve AI-processen worden benut.

Wat bepaalt hoeveel VRAM een AI-model vraagt?

Er bestaat geen vast aantal gigabytes dat universeel volstaat voor AI. De vraag naar videogeheugen hangt af van verschillende onderdelen:

  • Modelparameters en precisie: De gewichten van een model bepalen de basisomvang. Een model met een miljard parameters in standaard 16-bits precisie (twee bytes per parameter) vereist al circa 2 GB puur om de bestanden in te laden.
  • Tussenresultaten en context: Naast het model zelf is er werkruimte nodig. Bij een taalmodel vraagt een langer gesprek met veel tokens direct extra capaciteit. Bij beeldgeneratie vraagt een verdubbeling van de afbeeldingsresolutie exponentieel meer rekenruimte.
  • Kwantisatie: Door compressietechnieken toe te passen, kunnen de gewichten compacter worden opgeslagen (bijvoorbeeld in 4-bit of 8-bit), waardoor grotere modellen toch op consumentenkaarten passen.
  • Training versus gebruik: Het trainen of verfijnen van een model vereist aanzienlijk meer VRAM dan het enkel raadplegen van een kant-en-klaar model, omdat ook correctiegegevens bewaard moeten blijven.

Wat te doen bij een out-of-memory-fout?

Krijg je tijdens het genereren een geheugenfout, neem dan de volgende stappen door:

  1. Sluit andere programma's af die de grafische kaart belasten, zoals videobewerkers of geopende browsers met actieve hardwareversnelling.
  2. Controleer of er op de achtergrond geen eerdere generatietaak actief is gebleven. Een venster sluiten beëindigt het achterliggende proces niet altijd.
  3. Verlaag de resolutie van de afbeelding of verkort de contextlengte van de invoertekst. Pas telkens één instelling aan om te zien wat effect heeft.
  4. Gebruik een gekwantiseerde versie van het model of activeer instellingen zoals tegelverwerking (tiling) als de software dit toestaat.

Misvatting: meer VRAM betekent automatisch meer snelheid

Een hardnekkige denkfout is dat een videokaart met meer VRAM automatisch sneller rekent. Videogeheugen werkt in feite als een emmer: het moet groot genoeg zijn om de gewenste taak volledig te bevatten. Is de emmer ruim genoeg, dan bepalen de rekeneenheden van de processor en de geheugenbandbreedte hoe vlot de berekening daadwerkelijk verloopt.

Veelgestelde vragen

Kan ik het VRAM van mijn videokaart uitbreiden met extra RAM?

Nee, op een desktop met een losse videokaart is VRAM vastgesoldeerd op de printplaat. Extra intern computergeheugen verhoogt het fysieke videogeheugen van de kaart niet.

Wat betekent een out of memory-fout bij AI?

Deze melding geeft aan dat het AI-model, samen met de tijdelijke rekengegevens en resolutie, groter is dan de fysieke capaciteit van het videogeheugen op de grafische kaart.

Hoe kan een groot AI-model toch op een kleinere kaart draaien?

Door middel van kwantisatie worden de getallen van het model compacter opgeslagen, waardoor het model minder VRAM inneemt zonder al te veel kwaliteitsverlies.

Werkt VRAM op een Mac hetzelfde als op een Windows-pc?

Nee, moderne Macs gebruiken vaak een gedeelde geheugenarchitectuur waarbij de processor en grafische kernen dezelfde geheugenpool delen, in plaats van een strikt afgescheiden videokaartgeheugen.

← Alle termen in de AI-begrippenlijst

🛒 Sklep Kinetyka CapCut Pro 460 zł/rok Lovable Pro 450 zł/rok Replit Core 119 zł/rok Zobacz wszystko →
× ‹ powiększenie ›