GPU (grafische kaart)
Een GPU is een processor die duizenden berekeningen gelijktijdig uitvoert, wat essentieel is voor het trainen en gebruiken van moderne AI-modellen.
Een GPU (Graphics Processing Unit), in de volksmond vaak aangeduid als de grafische kaart, is een gespecialiseerde chip die ontworpen is om enorme hoeveelheden wiskundige berekeningen tegelijkertijd te verwerken. Waar de traditionele processor van een computer (de CPU) uitblinkt in het snel achter elkaar uitvoeren van complexe, individuele taken, beschikt een GPU over duizenden kleinere rekenkernen die parallel werken. In de wereld van kunstmatige intelligentie is de GPU uitgegroeid tot de absolute motor achter vrijwel elk modern neuraal netwerk.
Oorspronkelijk werden deze kaarten ontwikkeld om driedimensionale beelden en vloeiende graphics voor videogames naar een beeldscherm te sturen. Omdat het renderen van pixels neerkomt op eindeloze reeksen matrixberekeningen, bleek deze architectuur precies te zijn wat nodig was voor machine learning. Zowel het trainen van grote taalmodellen als het genereren van afbeeldingen vraagt namelijk om miljarden identieke rekenstappen die gelijktijdig moeten plaatsvinden.
Waarom AI leunt op parallelle rekenkracht
Om te begrijpen waarom AI-toepassingen een GPU vereisen, helpt de vergelijking tussen een hogesnelheidstrein en een vloot bestelwagens. Een CPU is als een snelle trein: hij brengt een afgebakende lading razendsnel van station naar station. Als je echter miljoenen kleine pakketjes gelijktijdig door heel de stad moet verspreiden, schiet een trein tekort. De GPU fungeert in dat geval als duizenden bestelbusjes die allemaal tegelijkertijd vertrekken.
Neurale netwerken bestaan uit lagen van knooppunten met gewichten en activaties. Wanneer een model leert of een antwoord formuleert, voert de hardware gigantische matrixvermenigvuldigingen uit. Doordat een grafische kaart beschikt over duizenden gespecialiseerde rekenkernen, worden deze wiskundige bewerkingen in fracties van seconden afgerond. Zonder deze parallelle kracht zou het trainen van geavanceerde modellen geen weken, maar tientallen jaren duren.
Lokale toepassingen in de praktijk
Niet alle AI draait in gigantische datacenters over de grens. Ook op lokaal niveau bewijst de GPU dagelijks zijn nut voor zelfstandigen en middelgrote bedrijven in Nederland en Vlaanderen:
- Ontwerpstudio's: Een grafisch bureau in Gent kan een lokale installatie van een open-source beeldgenerator gebruiken op een eigen computer met een krachtige GPU, waardoor klantgegevens en conceptschetsen strikt binnen de muren van het kantoor blijven.
- Logistiek en kwaliteitscontrole: Een distributiecentrum in de haven van Rotterdam kan met behulp van computer vision en een lokale grafische kaart inkomende pakketten in realtime scannen op beschadigingen, zonder afhankelijk te zijn van een trage internetverbinding naar de cloud.
- Onderwijs en onderzoek: Studenten aan hogescholen en universiteiten kunnen op hun eigen laptop met een ingebouwde GPU kleine taalmodellen finetunen voor afstudeerprojecten over lokale dialecten of juridische teksten.
Waarop letten bij een GPU voor AI?
Wie overweegt om een computer in te richten voor AI-taken, moet naar andere eigenschappen kijken dan een traditionele pc-gebruiker. Het belangrijkste onderdeel van de grafische kaart is in dit geval het videogeheugen, beter bekend als VRAM (Video RAM). Dit geheugen bepaalt hoe groot het model is dat je in zijn geheel op de kaart kunt laden.
- VRAM-capaciteit: Een model moet tijdens het rekenen volledig in het snelle geheugen van de GPU passen. Is het VRAM ontoereikend, dan moet de computer uitwijken naar het veel tragere werkgeheugen van het moederbord, waardoor de verwerking vrijwel stilvalt.
- Geheugenbandbreedte: De snelheid waarmee data tussen de rekenkernen en het VRAM wordt uitgewisseld, is cruciaal om wachtrijen in de berekeningen te voorkomen.
- Ondersteuning voor softwarebibliotheken: Vrijwel alle open-source AI-software is geschreven met specifieke instructiesets voor bepaalde hardwareplatforms. Controleer vooraf of de beoogde software jouw type grafische kaart native ondersteunt.
Veelgemaakte fouten
Een veelvoorkomende misvatting is dat een krachtige centrale processor (CPU) met veel traditioneel werkgeheugen (RAM) de rol van een GPU kan overnemen. Hoewel sommige modellen technically op een CPU kunnen draaien, is de reactietijd vaak onwerkbaar traag. Een model dat op een GPU binnen enkele seconden een alinea tekst genereert, doet daar op een CPU soms minuten over.
Een andere fout is het verwarren van regulier computergeheugen met VRAM. Het heeft weinig zin om een pc uit te rusten met extra werkgeheugen als de grafische kaart zelf over te weinig eigen geheugen beschikt om het gewenste AI-model te starten. Tot slot wordt het stroomverbruik en de warmteontwikkeling vaak onderschat: een GPU die urenlang intensief neurale netwerken berekent, heeft degelijke ventilatie en een betrouwbare voeding nodig.
Veelgestelde vragen
Kan ik AI-modellen gebruiken zonder aparte GPU?
Ja, voor clouddiensten zoals bekende chatbots verwerkt de server van de aanbieder de berekeningen op eigen GPU's. Wil je echter modellen lokaal op je eigen computer draaien zonder internetverbinding, dan is een geschikte GPU vrijwel onmisbaar.
Waarom is VRAM belangrijker dan pure rekenkracht bij AI?
Het VRAM bepaalt de maximale omvang van het model dat je kunt inladen. Zelfs de allersnelste rekenkernen hebben niets te doen als de parameters van het netwerk simpelweg niet in het geheugen van de kaart passen.
Wat is het verschil tussen een CPU en een GPU bij kunstmatige intelligentie?
Een CPU heeft een handvol krachtige kernen die ingewikkelde taken stap voor stap afhandelen. Een GPU heeft duizenden eenvoudigere kernen die tienduizenden wiskundige matrixberekeningen tegelijk uitvoeren, wat perfect aansluit bij de werking van neurale netwerken.
