Gemma 4 31B lokalnie na RTX 4090: pomiary, VRAM i test po polsku

promptowy@ai:~$ cat news_1 › Gemma 4 31B od Google to najmocniejszy gęsty model z otwartymi wagami, który w całości mieści się na jednej karcie RTX 4090.

promptowy@ai:~$ cat news_2 › Uruchomiłem go w Ollamie na swoim komputerze: generuje ok.

promptowy@ai:~$ cat news_3 › 42 tokeny na sekundę, po polsku dostał ode mnie 9,5 na 10 punktów, ale zajmuje prawie całe 24 GB pamięci karty i jest bezlitosny dla wolnego dysku.

promptowy@ai:~$ cat news_4 › To pierwsze wydanie serii „Model tygodnia na Twoim komputerze”.

Gemma 4 31B lokalnie na RTX 4090: pomiary, VRAM i test po polsku

promptowy@ai:~$ open --full Czytaj całość Otwórz artykuł na promptowy.com