Co to jest VRAM i ile pamięci karty potrzebujesz do AI (pomiary 2026)

👁 120 przeczytań

VRAM to pamięć wbudowana w kartę graficzną. Karta trzyma w niej wszystko, nad czym akurat pracuje: w grach tekstury i klatki obrazu, a w lokalnym AI wagi modelu i jego „pamięć rozmowy”. Rozsądne minimum to dziś 8 GB (gry w 1080p, modele językowe do 8-12 mld parametrów), wygodnie robi się od 12-16 GB, a modele rzędu 27 mld parametrów, generowanie wideo i muzyki chcą 16-24 GB. Pokazuję to na pomiarach z mojej karty RTX 4090. Szerszy obraz uruchamiania modeli na własnym komputerze jest w przewodniku Lokalne AI.

Co to jest VRAM, prostymi słowami

RAM siedzi na płycie głównej i korzysta z niego procesor. VRAM (od angielskiego video RAM) jest przylutowany do karty graficznej. Karta liczy szybko tylko na tym, co ma w swojej pamięci. Resztę musi ściągać z RAM-u przez złącze PCIe, a to jest wielokrotnie wolniejsze.

Przy kartach liczą się więc dwie liczby: pojemność VRAM (w GB) decyduje, czy coś się w ogóle zmieści, a przepustowość (w GB/s) decyduje, jak szybko to potem działa.

Jak sprawdzić, ile masz VRAM

1. Menedżer zadań (Ctrl+Shift+Esc), zakładka Wydajność, po lewej GPU. Liczba przy Dedykowana pamięć GPU to Twój VRAM. U mnie: 24,0 GB.
2. Karta Nvidii: w terminalu nvidia-smi. Pokazuje pojemność, zużycie i programy, które trzymają pamięć. Tym poleceniem robiłem pomiary w tym tekście.

Nie myl dedykowanej pamięci z pamięcią współdzieloną GPU. Współdzielona to kawałek zwykłego RAM-u, który Windows pożycza karcie, i jest tak wolna jak RAM. Wyjątkiem są Maki z Apple Silicon, gdzie RAM i pamięć grafiki to jedna szybka pula.

Ile VRAM zajmuje model językowy: mój pomiar

3 października 2026 uruchomiłem w Ollamie sześć modeli i zmierzyłem, ile pamięci karty zajmują przy krótkim i długim kontekście. Kontekst to liczba tokenów, które model „trzyma w głowie” naraz: 4096 tokenów to około 2,5-3 strony polskiego tekstu, 32 768 to kilkadziesiąt stron. Wynik to różnica wskazań nvidia-smi przed załadowaniem modelu i w trakcie generowania.

Pomiar z 3.10.2026, Ollama 0.35.1, rozrzut do 0,3 GB.

• Sam plik to nie wszystko. Do wag dolicz kontekst i bufory, zwykle 0,5-1,5 GB przy krótkim kontekście.
• Kontekst potrafi zjeść więcej niż model. Llama 3.1 8B rośnie z 6,0 do 9,7 GB, a Bielik 11B z 12,3 do 16,9 GB, gdy wydłużam kontekst z 4 do 32 tysięcy tokenów.
• Nowsze modele są oszczędniejsze. Gemma 4 12B i GPT-OSS 20B prawie nie rosną przy długim kontekście, bo większość ich warstw patrzy tylko na fragment tekstu (przesuwane okno uwagi).

Na karcie 8 GB realnie masz około 7 GB, bo resztę trzyma system i przeglądarka. U mnie przed testami było zajęte około 2 GB.

Co się dzieje, gdy zabraknie VRAM

Program do AI albo wyłoży się z błędem „out of memory”, albo, jak Ollama i LM Studio, przeniesie część warstw modelu do RAM-u i policzy je procesorem. Działa dalej, ale wolniej.

Sprawdziłem, ile to kosztuje. Na swojej karcie 24 GB ograniczałem liczbę warstw, które Ollama wysyła na kartę (parametr num_gpu), tak żeby model zajmował najwyżej tyle, ile jest wolne na karcie 8, 12 albo 16 GB (pojemność minus około 1 GB na system). Reszta szła do RAM-u i na procesor i9-14900KF. Prawdziwa karta 8 czy 12 GB ma też wolniejszą pamięć niż RTX 4090, więc te liczby to górna granica.

Pomiar z 3-4.10.2026, kontekst 4096, 500 tokenów odpowiedzi.

Wniosek: wystarczy jedna warstwa z 65 poza kartą, żeby Qwen zwolnił o 30%. Gdy w RAM-ie ląduje jedna trzecia modelu, szybkość spada około 7 razy, a gdy poza kartą jest ponad połowa warstw, ponad 10 razy. Bielik w Q8 rozłożony na kartę 8 GB i procesor dał 8 tok/s, czyli tempo wolnego czytania. Lepiej wziąć mniejszą kwantyzację albo mniejszy model, który zmieści się w całości, niż wielki model rozlany na RAM.

Co uruchomisz na 8, 12, 16 i 24 GB

Do modeli językowych dołożyłem pomiary obrazu, wideo i muzyki z 17 października 2026 (ComfyUI 0.41, RTX 4090). Przy nich podaję szczyt zajętości całej karty, razem z około 2 GB systemu. Na mniejszych kartach tych modeli nie uruchamiałem, więc to wskazówka, nie gwarancja.

Czasy z tych testów: FLUX 3 Klein robił obraz w 6-7 s, Qwen-Image 2.1 Turbo w 3-4 s, Kandinsky 6 Lite klip 5 s w 111-148 s. Szczegóły są w tekstach nowe lokalne modele AI i Gemma 4 31B lokalnie.

Licencje modeli z tego tekstu, czyli czy wolno na nich zarabiać:

• komercyjnie tak: Gemma 4, Bielik 11B v3, Ministral 3, GPT-OSS, Qwen 3.8 (Apache 2.0), Kandinsky 6 i ACE-Step 1.5 (MIT), Llama 3.1 (licencja Meta, z limitem 700 mln użytkowników miesięcznie),
• tylko niekomercyjnie: Qwen-Image 2.1 Turbo (licencja Qwen Research) i YuE2 (CC BY-NC 4.0),
• na własnych warunkach: FLUX 3 Klein (licencja FLUX Kommunity, przeczytaj ją przed użyciem zarobkowym).

Jeśli nie chcesz sam przeliczać gigabajtów przy modelach obrazu, wideo i muzyki, możesz użyć Hangara. To moje narzędzie: darmowy menedżer lokalnych modeli na Windows, który sam wykrywa kartę i jej VRAM i przy każdym modelu z katalogu pokazuje, czy się zmieści. Wymaga karty Nvidii z co najmniej 8 GB VRAM (najlepiej 12 GB i więcej).

Ile VRAM mają popularne karty

Przepustowości to dane producentów. Karty AMD i Intela działają z modelami przez Vulkan, ROCm (AMD) albo SYCL (Intel), z mniejszym wyborem programów niż Nvidia. Konkretne zestawy komputerów rozpisałem w poradniku jaki komputer do lokalnego AI.

Jak zmieścić się w mniejszym VRAM

• Weź mniejszą kwantyzację. Bielik 11B w Q4_K_M zajął 7,5 GB zamiast 12,3 GB w Q8_0 i pisał szybciej (114 zamiast 70 tok/s).
• Skróć kontekst. W Ollamie parametr num_ctx, w LM Studio suwak Context Length. Do zwykłej rozmowy 4-8 tysięcy tokenów wystarcza.
• Zamknij programy, które trzymają pamięć karty (przeglądarka, gra w tle, ComfyUI). Sprawdzisz je w nvidia-smi.

Jak policzyć zapotrzebowanie dla dowolnego modelu z liczby parametrów i kwantyzacji, rozpisałem we wzorach w tekście ile VRAM potrzeba, żeby uruchomić model lokalnie.

Najczęstsze pytania

Co to jest VRAM?

To pamięć karty graficznej. Karta trzyma w niej dane, na których pracuje: w grach tekstury i klatki obrazu, w AI wagi modelu i kontekst rozmowy. Jest osobna od RAM-u komputera i kilkanaście razy szybsza.

Czym się różni VRAM od RAM?

RAM obsługuje procesor i system, VRAM kartę graficzną. RAM można rozbudować, VRAM nie, bo jest przylutowany do karty. VRAM jest dużo szybszy: w RTX 4090 ma 1008 GB/s, a typowy DDR5 w dwóch kanałach około 90 GB/s.

Czy 8 GB VRAM wystarczy?

Do gier w 1080p i do modeli językowych do 8 mld parametrów tak. Gemma 4 12B zajęła u mnie 7,5 GB, więc na karcie 8 GB w symulacji zmieściło się 45 z 48 warstw i wyszło 48 tok/s. Większe modele na 8 GB spadają do kilku tokenów na sekundę.

Czy można zwiększyć VRAM?

Nie. VRAM jest częścią karty, więc jedyna droga to wymiana karty. „Pamięć współdzielona” tylko pożycza karcie wolny RAM.

Ile VRAM potrzeba do AI?

Do czatu z modelem 8 mld parametrów 6-8 GB, do 12 mld 8-12 GB, do 27 mld 16-24 GB. Najlżejszy model obrazu z moich testów (FLUX 3 Klein) mieścił się w 7,5 GB, a wideo z Kandinsky 6 Lite zajmowało 19-20 GB.