Przejdź do treści
promptowy.com / Glossario IA / VRAM (Video Random Access Memory)
Tecnologia

VRAM (Video Random Access Memory)

La VRAM è la memoria video dedicata della scheda grafica, essenziale per caricare ed eseguire modelli di intelligenza artificiale sul proprio computer.

La VRAM, acronimo di Video Random Access Memory, è la memoria ad alta velocità installata direttamente sulla scheda grafica (GPU). Nel contesto dell'intelligenza artificiale, la VRAM funge da spazio di lavoro immediato in cui vengono caricati i pesi del modello, i dati di contesto, le immagini in elaborazione e tutti i passaggi intermedi del calcolo numerico.

Quando si eseguono modelli generativi in locale, la scheda grafica deve accedere a miliardi di parametri matematici in frazioni di secondo. Se la VRAM non è sufficiente per contenere questi dati, il programma non può completare l'operazione e si blocca mostrando un errore di memoria esaurita.

A cosa serve la VRAM nei carichi di lavoro AI

Immagina uno studio di grafica a Firenze che crea illustrazioni promozionali sul proprio computer di lavoro. La macchina dispone di 32 GB di memoria RAM di sistema e di una scheda video con 8 GB di VRAM dedicata. Quando il grafico tenta di generare un'immagine ad alta risoluzione con un modello visivo locale, il programma si interrompe segnalando il temuto errore out of memory, nonostante la RAM del sistema sia quasi del tutto libera.

Questo accade perché la RAM centrale del computer e la VRAM della scheda video sono due memorie fisicamente separate. Aggiungere altri moduli di RAM al computer non amplia la memoria della scheda grafica. La GPU ha bisogno di elaborare i dati nella propria memoria ultraveloce; se il modello matematico supera lo spazio della VRAM, la scheda non ha spazio sufficiente per gestire contemporaneamente il modello e l'immagine richiesta.

Come verificare la VRAM presente nel sistema

Per scoprire quanta memoria video possiede il tuo computer puoi utilizzare gli strumenti integrati nel sistema operativo:

  • Su Windows: apri la Gestione attività, clicca sulla scheda Prestazioni e seleziona la GPU. Il dato rilevante è la memoria GPU dedicata, non la memoria condivisa. Se il computer include sia una scheda integrata sia una dedicata, verifica quale delle due viene usata dai tuoi programmi AI.
  • Strumenti da riga di comando: se utilizzi una scheda con driver professionali, il comando da terminale nvidia-smi mostra l'allocazione istantanea della memoria video e i processi attivi.
  • Architetture con memoria unificata: su alcuni computer portatili moderni, come i sistemi che impiegano processori integrati avanzati, la memoria è condivisa dinamicamente tra sistema operativo, processore e grafica. In questo caso la suddivisione è flessibile e non segue le stesse regole delle schede grafiche tradizionali.

Da cosa dipende il consumo di memoria

Non esiste una quantità universale di VRAM adatta a qualunque attività. Il fabbisogno dipende da fattori precisi:

  1. La dimensione del modello: i parametri indicano la complessità della rete neurale. In linea generale, un miliardo di parametri salvati con precisione a due byte occupa già da solo circa due gigabyte di spazio grezzo.
  2. Il formato e la quantizzazione: tecniche matematiche permettono di comprimere la precisione numerica dei parametri, riducendo lo spazio occupato sulla scheda.
  3. Il contesto e i dati intermedi: per un modello testuale, conversazioni lunghe richiedono più memoria per memorizzare i token precedenti. Per i modelli visivi, risoluzioni maggiori moltiplicano il carico istantaneo.
  4. Inferenza o addestramento: usare un modello già pronto consuma molta meno memoria rispetto all'addestramento o al perfezionamento, attività che richiedono di salvare strati aggiuntivi di calcolo per aggiornare i pesi.

Cosa fare dopo un errore di memoria insufficiente

Se compare un messaggio di esaurimento memoria, chiudi le applicazioni aperte che utilizzano l'accelerazione grafica, inclusi browser con schede pesanti o software di montaggio video. Controlla che in background non siano rimasti processi di generazione orfani terminando le sessioni sospese da terminale.

Riduci quindi le impostazioni di lavoro una alla volta: abbassa la lunghezza del testo memorizzato in chat, calcola una sola immagine per volta oppure imposta una risoluzione di partenza più contenuta. Se il software lo supporta, attiva impostazioni come la quantizzazione dei parametri o l'offload parziale dei calcoli sulla CPU, tenendo a mente che spostare i dati fuori dalla VRAM rallenterà sensibilmente la velocità di elaborazione.

L'errore comune: confondere capienza e velocità

Un equivoco ricorrente è pensare che una scheda con più VRAM sia automaticamente più veloce nei calcoli. La memoria video indica solo la capienza: stabilisce se un modello può essere caricato o meno. La velocità effettiva di risposta dipende invece dalla potenza di calcolo del chip grafico, dal numero di unità di calcolo e dalla larghezza di banda con cui i dati viaggiano tra la memoria e il processore video.

Domande frequenti

Aggiungere RAM al PC aumenta la VRAM per l'AI?

No, nei computer con scheda grafica dedicata la VRAM è saldata sul circuito della scheda stessa. L'espansione della RAM di sistema non modifica la quantità di memoria video disponibile.

Quanta VRAM serve per eseguire modelli linguistici locali?

Dipende dal numero di parametri del modello e dal livello di quantizzazione. Modelli compatti possono funzionare con 6 o 8 GB, mentre modelli più complessi e contesti lunghi richiedono 16 GB, 24 GB o più.

Cosa accade quando la VRAM si esaurisce durante la generazione?

Il programma si interrompe restituendo un errore, spesso indicato come out of memory o CUDA out of memory. L'operazione in corso fallisce e l'output non viene completato.

Perché un modello da 7 miliardi di parametri occupa più VRAM dei suoi pesi?

Oltre ai pesi del modello, la VRAM deve ospitare la memoria per i token della conversazione, i dati temporanei di calcolo e lo spazio riservato dall'ambiente software.

← Tutti i termini del Glossario IA

🛒 Sklep Kinetyka CapCut Pro 460 zł/rok Lovable Pro 450 zł/rok Replit Core 119 zł/rok Zobacz wszystko →
× ‹ powiększenie ›