Przejdź do treści
promptowy.com / AI-begrippenlijst / Inference (AI inferentie)
Technologie

Inference (AI inferentie)

Inference of inferentie is de fase waarin een getraind AI-model actief aan het werk wordt gezet om nieuwe invoer te verwerken en antwoorden te genereren.

AI inference, in het Nederlands ook wel inferentie of afleiding genoemd, is het proces waarbij een reeds getraind AI-model daadwerkelijk in gebruik wordt genomen. Zodra je een vraag intypt in een chatbot, een foto uploadt voor herkenning of een tekst laat vertalen, voert het systeem inferentie uit: het model past zijn eerder opgedane kennis toe op jouw nieuwe, onbekende gegevens en berekent een logisch antwoord.

Waar de ontwikkelfase van kunstmatige intelligentie draait om het bouwen van het brein, is inferentie simpelweg het moment waarop dat brein aan het werk gaat. Het model leert op dat moment niets nieuws meer, maar gebruikt zijn bestaande rekenkracht om woord voor woord of pixel voor pixel tot een uitkomst te komen.

Het grote verschil: inference versus training

Om te begrijpen wat inferentie inhoudt, helpt de vergelijking met het menselijk leerproces. Het trainen van een model kun je zien als jarenlang naar school gaan en duizenden boeken bestuderen. Deze trainingsfase vindt eenmalig plaats, duurt weken tot maanden en vraagt gigantische datacenters vol gespecialiseerde chips.

Inferentie is vervolgens het examen of de dagelijkse werkpraktijk. Zodra het model klaar is met school, hoeft het niet telkens opnieuw opgeleid te worden. Tijdens de inferentiefase krijgt het model een gerichte taak voorgelegd en redeneert het direct naar een antwoord. Training kost ontzettend veel energie in korte tijd, maar inferentie is wat de computersystemen continu bezighoudt zolang gebruikers vragen blijven stellen.

Hoe werkt inferentie onder de motorkap?

Wanneer een taalmodel een tekst genereert, gebeurt dat meestal niet in een fractie van een seconde als één kant-en-klaar blok. Het proces verloopt stapsgewijs:

  • Invoer verwerken (prompt): De tekst die je invoert wordt opgeknipt in tokens, kleine stukjes woord of leestekens, en omgezet in getallen.
  • Kansberekening: Het netwerk berekent aan de hand van miljarden parameters welk volgend token statistisch gezien het meest logisch volgt op jouw vraag.
  • Token per token genereren: Zodra het eerste woorddeel gekozen is, wordt dit toegevoegd aan de reeks en berekent het model het volgende deeltje.
  • Streaming: Om wachttijd voor de gebruiker te minimaliseren, worden deze woorden direct doorgestuurd zodra ze berekend zijn. Dit verklaart waarom je de tekst live op je scherm ziet verschijnen alsof iemand typt.

Praktijkvoorbeeld: van Antwerpen tot Groningen

Stel dat een logistiek familiebedrijf in de haven van Antwerpen een AI-systeem inzet om inkomende douanedocumenten automatisch te categoriseren. Het trainen van een dergelijk model op duizenden eerdere vrachtbrieven is eenmalig gedaan door softwareleveranciers. Iedere keer dat er nu een nieuwe vrachtboot binnenloopt en een scanner een document scant, voert het systeem inferentie uit. Het herkent direct of het om bulkgoederen of containers gaat en stuurt de vrachtbrief naar de juiste afdeling.

Hetzelfde gebeurt bij een fietsenmaker in Utrecht die een geautomatiseerde chatassistent op zijn website heeft geplaatst. Wanneer een klant op zondagavond vraagt of er een nieuwe binnenband voor een e-bike op voorraad is, doet de assistent aan inferentie: hij leest de vraag, raadpleegt de voorraaddata en formuleert in realtime een vriendelijk antwoord.

Kosten en optimalisatie: de uitdaging van inferentie

Voor aanbieders van AI-diensten zitten de grootste doorlopende kosten niet in het trainen, maar juist in de inferentie. Iedere zoekopdracht, iedere gegenereerde alinea en iedere geanalyseerde foto kost een fractie van een seconde pure rekenkracht. Als miljoenen mensen tegelijkertijd prompts invoeren, lopen de stroomkosten en serversnelheden snel op.

Om inferentie sneller en goedkoper te maken, passen technici diverse methoden toe:

  • Kwantisatie (quantization): Het vereenvoudigen van de getallen in het model, waardoor er minder geheugen nodig is zonder dat het model merkbaar dommer wordt.
  • Gespecialiseerde hardware: Chips die specifiek zijn ontworpen om snel getallenreeksen te verwerken tijdens de gebruiksfase.
  • Slimme netwerkstructuren: Technieken zoals Mixture of Experts (MoE), waarbij voor een specifieke vraag alleen dat deel van het neurale netwerk wordt geactiveerd dat er verstand van heeft, in plaats van het hele model te belasten.

Veelgemaakte denkfout: leert het model van jouw vraag?

Een hardnekkige misvatting is dat een AI-model slimmer wordt tijdens de inferentiefase. Wanneer je met een chatbot praat en hem corrigeert, onthoudt hij die correctie alleen binnen de context van dat specifieke gesprek. Zodra je het scherm vernieuwt of een nieuwe sessie start, is die kennis voor het basismodel verdwenen. Inferentie is puur consumptie en toepassing van bestaande kennis; het herzien of uitbreiden van het model zelf vereist een nieuwe trainingsronde of een gerichte bijsturing achter de schermen.

Veelgestelde vragen

Wat is het eenvoudigste voorbeeld van inferentie?

Wanneer je een navigatie-app opent en de snelste route laat berekenen, of wanneer je telefoon je gezicht scant om te ontgrendelen: op dat exacte moment voert de software inferentie uit op basis van een eerder getraind algoritme.

Waarom typt een AI-chatbot zijn antwoord woord voor woord?

Dat gebeurt door inferentie via streaming. Het model voorspelt token voor token wat het volgende logische woorddeel is en toont dit direct op je scherm om de wachttijd zo kort mogelijk te houden.

Is inferentie gratis voor AI-bedrijven?

Nee, inferentie is juist de grootste structurele kostenpost voor AI-aanbieders. Ieder gegenereerd token vereist stroom en rekenkracht op zware servers in een datacenter.

← Alle termen in de AI-begrippenlijst

🛒 Sklep Kinetyka CapCut Pro 460 zł/rok Lovable Pro 450 zł/rok Replit Core 119 zł/rok Zobacz wszystko →
× ‹ powiększenie ›