Lokalne AI: modele na własnym komputerze - tekst, obraz, wideo, muzyka

👁 2,624 przeczytań

Jeśli codziennie robię serię wariantów, Hangar i lokalne generowanie rozważyłbym przed kolejnym abonamentem. Na własnej karcie pierwszy obraz kubka zabrał prawie minutę, a następny nieco ponad dwie sekundy. Do jednego zamówienia w miesiącu policzyłbym jednak całą obsługę komputera i czas na ocenę wyniku. Sam koszt pojedynczego wywołania niewiele wtedy mówi.

Co kosztowała lokalna próba z kubkiem

Na RTX 4090 uruchomiłem lokalny proces w trybie bez zewnętrznych usług. Ustawiłem ziarno 11112026, osiem kroków i kadr 832 x 512. Pierwszy wynik z ładowaniem zajął 56,64 s, następny z innym oświetleniem 2,17 s. Z próbek poboru mocy karty, zbieranych mniej więcej co 0,65 s, wyszło odpowiednio 0,736 i 0,164 Wh. To energia GPU w oknie pomiaru. Do rachunku za prąd dochodzą pozostałe podzespoły i własna taryfa. Nie znam kosztu zaakceptowanego kadru w chmurze bez zakupu porównywalnego zlecenia.

Hangar

Lokalne AI to modele, które uruchamiasz na własnym komputerze: piszą teksty, robią obrazy, wideo i piosenki, czytają na głos - bez konta, bez abonamentu i bez wysyłania plików do chmury. Do pisania po polsku wystarczy karta z 8 GB pamięci (Gemma 4 12B), a z 24 GB zrobisz już wideo z dźwiękiem. Wszystko, co tu opisuję, uruchomiłem na swojej karcie RTX 4090 i zmierzyłem: czas, pamięć karty (VRAM) i to, jak model radzi sobie z polskim. Przewodnik ma sześć działów: tekst, obrazy, wideo, muzyka i głos, sprzęt i programy. Jeśli zaczynasz od zera, przejdź do sekcji Zacznij tutaj, a najnowsze modele są w dziale co doszło po 17 października.

Zacznij tutaj: lokalne AI w 4 krokach

1. Sprawdź pamięć karty. W Windowsie: Menedżer zadań - Wydajność - GPU - „Dedykowana pamięć GPU”. Na karcie Nvidii możesz też wpisać w terminalu nvidia-smi. Od tej liczby zależy wszystko - tabela w dziale Sprzęt mówi, co się zmieści.
2. Wybierz program do tego, co chcesz robić.
   • rozmowa i pisanie: LM Studio (okienka, najłatwiej) albo Ollama (terminal, serwer dla innych programów);
   • czat jak ChatGPT w przeglądarce: Ollama + Open WebUI;
   • obrazy, wideo, muzyka: ComfyUI albo moje narzędzie Hangar, które instaluje ComfyUI i modele za ciebie;
   • transkrypcja nagrań: Whisper.
3. Pobierz jeden model na start. Tekst: Gemma 4 12B (ok. 7 GB pliku). Obrazy: Z-Image Turbo albo FLUX 3 Klein. Pobieraj tylko z oficjalnych źródeł (Hugging Face autora, biblioteka Ollamy, wyszukiwarka w LM Studio).
4. Sprawdź, czy model mieści się w karcie. W Ollamie ollama ps musi pokazać „100% GPU”. Model, który się nie mieści, zwalnia nie o kilkanaście procent, tylko kilka razy (pomiary w dziale Sprzęt).

Hangar - moje darmowe narzędzie do lokalnego AI

Zbudowałem je dla czytelników, którzy nie chcą składać węzłów w ComfyUI. Hangar wykrywa kartę, pokazuje, które modele się zmieszczą, pobiera je z Hugging Face ze sprawdzeniem sumy sha256 i daje prosty formularz: wpisujesz opis, dostajesz obraz, klip albo piosenkę.

• Windows 10/11, karta Nvidia od 8 GB VRAM, instalator 14 MB;
• 15 modeli w katalogu, przy każdym informacja, czy wolno na nim zarabiać i czy wolno go używać w UE;
• szablony generowania przetestowane na RTX 4090 dla 8 modeli, m.in. Z-Image Turbo, Wan 2.2, LTX-Video i ACE-Step - pełna lista;
• za darmo, bez konta i bez abonamentu. Instalator nie ma jeszcze podpisu cyfrowego, więc Windows SmartScreen pokaże ostrzeżenie („Więcej informacji” - „Uruchom mimo to”).

Zobacz Hangar i pobierz instalator

Tekst: lokalne modele językowe (LLM)

Modele językowe to lokalny odpowiednik ChatGPT: piszą, streszczają, tłumaczą, odpowiadają na pytania o twoje dokumenty. Uruchamiasz je w Ollamie, LM Studio albo llama.cpp - wszystkie trzy liczą na tym samym silniku, więc szybkość mają podobną. Poniżej moje pomiary na RTX 4090.

Punkty (0-100) pochodzą z mojego testu pisania 7 modeli z 26.09.2026, ocenianego przez sędziów AI; dla porównania płatny Claude Haiku 4.5 dostał w tym samym teście 62,7 pkt. Ocena 9,5/10 to osobny zestaw 5 zadań z serii „Model tygodnia”. Wszystkie licencje w tabeli to Apache 2.0, więc wolno ich używać zarobkowo.

Co wybrać:

• karta 24 GB - Gemma 4 31B do pisania, GPT-OSS 20B, gdy ważna jest szybkość;
• karta 8-16 GB - Gemma 4 12B;
• teksty urzędowe, polskie realia i odmiana - Bielik, polski model od SpeakLeash (porównanie: Bielik, Llama czy Mistral po polsku);
• Llama od Mety - poradnik Llama lokalnie; dziś po polsku wypada słabiej od Gemmy i Qwena.

Pliki modeli tekstowych mają format GGUF i różne stopnie kompresji (kwantyzacji): Q4 zajmuje mniej więcej połowę tego, co Q8. Rachunek pamięci rozpisałem w tekście ile VRAM potrzeba.

01Bielik 3.1: 56 języków i wywoływanie narzędzi. Sprawdziłem nowego Bielika na RTX 4090Bielik 11B v3.1 od SpeakLeash i Cyfronetu zna 56 języków i sam wywołuje narzędzia. Sprawdziłem go na RTX 4090: 8 na 10 zadań po polsku wobec 5 w wersji 3.0, 67 tok/s w Q8_0.Czytaj →02Najlepszy lokalny model AI po polsku: test 10 modeli na 8-24 GB VRAMKtóry lokalny LLM najlepiej radzi sobie z polskim na karcie 8, 12, 16 i 24 GB? Zmierzyłem 10 modeli w Ollamie na RTX 4090: 12 zadań z poprawną odpowiedzią, pamięć karty, szybkość i spadek, gdy model nie mieści się w VRAM.Czytaj →03Ollama: co to jest, instalacja i mój test na RTX 4090 (2026)Czym jest Ollama, ile kosztuje i co uruchomisz na swojej karcie. Zmierzyłem 4 modele w Ollamie 0.35 na RTX 4090: szybkość, pamięć, polszczyzna i pięć pułapek.Czytaj →04LM Studio: model AI na własnym komputerze bez konta, abonamentu i internetuLM Studio to program na Windows, macOS i Linuksa, w którym uruchomisz model językowy na własnym komputerze: pobierasz plik modelu z wbudowanej…Czytaj →05Open WebUI: ChatGPT offline na własnym komputerze krok po krokuOpen WebUI daje okno czatu jak ChatGPT dla modeli z Ollamy, także bez internetu. Pokazuję instalację krok po kroku na Windowsie, moje pomiary rozmowy z Gemmą 4 12B, test rozmowy z PDF-em i gotowy skrypt startowy.Czytaj →06LM Studio czy Ollama: co wybrać? Pomiar na tym samym modeluLM Studio i Ollama to dwa darmowe sposoby na lokalny model AI. Porównuję obsługę, API, licencje i integracje, a szybkość i pamięć zmierzyłem na tym samym pliku Gemmy 4 12B na karcie RTX 4090.Czytaj →07GGUF i kwantyzacja: Q4_K_M, Q6_K czy Q8_0? Test Bielika na RTX 4090Co to jest GGUF, co znaczą Q4_K_M, Q5_K_M, Q6_K, Q8_0 i IQ oraz który wariant wybrać. Mój test 17 wersji polskiego Bielika (1.5B, 4.5B, 11B) na RTX 4090: perplexity na prozie Nałkowskiej, zgodność z pełną wersją, szybkość, VRAM i 12 polskich zadań. Plus gotowy skrypt PowerShell do własnego porównania.Czytaj →08Lokalny czat z PDF po polsku: RAG w Ollamie, skrypt i testDziałający lokalny czat z dokumentem PDF po polsku: gotowy skrypt w Pythonie, Ollama i bge-m3. Sprawdziłem 10 pytań do ustawy o prawach konsumenta: bez dokumentu, z RAG i z całą ustawą w kontekście.Czytaj →09Jan AI i GPT4All: najprostszy lokalny czat AI dla laika (test)Zainstalowałem Jan i GPT4All, dwa najprostsze programy do rozmowy z lokalnym modelem AI. Pokazuję instalację krok po kroku, zgody przy starcie, wczytanie własnych modeli i to, dlaczego GPT4All od lutego 2025 stoi w miejscu.Czytaj →10Gemma 4 31B lokalnie na RTX 4090: pomiary, VRAM i test po polskuModel tygodnia na Twoim komputerze #1: Gemma 4 31B w Ollamie na RTX 4090 - czas ładowania, tok/s, VRAM, 5 zadań po polsku i instrukcja.Czytaj →117 lokalnych modeli AI po polsku: test na RTX 4090 kontra chmuraGemma 4 12B, Qwen 3.8, Bielik, GPT-OSS i inne w tym samym teście co Opus 5.5. Najlepsze lokalne pobiły Claude Haiku 4.5.Czytaj →12Jak uruchomić Bielika lokalnie na własnym komputerzePobierz i uruchom Bielika na własnym komputerze przez LM Studio, Ollamę lub llama.cpp. Dobór wersji, wymagania sprzętowe i gotowe komendy.Czytaj →13llama.cpp na Windowsie: instalacja, czat w przeglądarce i test CUDAJedna komenda instaluje llama.cpp, ale wersja z winget była u nas 2-2,6 raza wolniejsza. Jak pobrać wersję CUDA, uruchomić serwer i wyłączyć zapętlone myślenie.Czytaj →14KoboldCpp: lokalny czat i opowieści z modelem GGUF w jednym plikuKoboldCpp na Windows: oficjalny plik exe, model GGUF, konfiguracja lokalnego API oraz porównanie funkcji z LM Studio, Ollamą i Jan.Czytaj →

Obrazy: lokalne generatory grafiki

Obrazy generujesz w ComfyUI - darmowym programie, który ma gotowe szablony dla każdego nowego modelu. Starszy Stable Diffusion nadal działa, ale nowe otwarte modele piszą po polsku i rysują dłonie dużo lepiej. Moje pomiary na RTX 4090:

Czasy bez pierwszego ładowania modelu z dysku (pierwszy obraz trwa 10-45 s dłużej). FLUX 3 Klein i Qwen Turbo mierzyłem 17.10.2026 w ComfyUI 0.41, Z-Image 26.09.2026.

• Mała karta (8-12 GB): FLUX 3 Klein - mieścił się u mnie w 7,5 GB całej karty, a polskie napisy „JAZZ NAD ODRĄ” i „OCET 12 zł” zrobił poprawnie.
• Najszybciej: Qwen-Image 2.1 Turbo, ale tylko do użytku niekomercyjnego.
• Do zarabiania bez warunków: Z-Image Turbo na licencji Apache 2.0.

Pełny ranking otwartych modeli z licencjami: najlepsze otwarte modele do obrazów. Modele do pobrania znajdziesz też na Civitai - tam uważaj na licencje i pliki z nieznanych kont.

01FLUX 3 Image Klein lokalnie: test na RTX 4090, 7,5 GB VRAMUruchomiłem FLUX 3 Image Klein lokalnie: 6-7 s na obraz, tylko 7,5 GB VRAM, porównanie z Qwen Turbo, polskie napisy i jak pobrać model za licencją.Czytaj →02Qwen-Image 2.1 Turbo lokalnie: 4 s na obraz na RTX 4090Uruchomiłem Qwen-Image 2.1 Turbo lokalnie w ComfyUI: 8 kroków, 4 s na obraz, porównanie ze zwykłym 2.1 i test polskich napisów.Czytaj →03Z-Image Turbo lokalnie: test na 8 promptach i porównanie z Qwen-Image16 obrazów z tych samych poleceń: Z-Image Turbo robi obraz w 4,2 s i wolno go używać komercyjnie. Oba modele pomyliły polskie litery.Czytaj →04ComfyUI: instalacja na Windowsie, pierwszy obraz i wymaganiaDarmowy program do obrazów i wideo AI na własnym komputerze. Trzy sposoby instalacji, szablony zamiast pustej tablicy i ile naprawdę potrzeba VRAM.Czytaj →05Pinokio: instalacja aplikacji AI jednym kliknięciem - test (2026)Pinokio 8.2.0 na Windowsie 11 i RTX 4090: instalacja krok po kroku, 13,1 GB na dysku, Florence-2 po jednej poprawce, uczciwie o bezpieczeństwie skryptów i uprawnieniach administratora.Czytaj →06Qwen-Image-2.1: najlepszy otwarty model do obrazów - ranking, testy na RTX 4090, licencjaPierwszy wśród otwartych modeli w Artificial Analysis, działa na jednej karcie z 24 GB. Słabo radzi sobie z polskimi napisami, a licencja zakazuje zarabiania.Czytaj →07Stable Diffusion: generator obrazu, który uruchamiasz u siebieStable Diffusion to rodzina otwartych modeli do generowania obrazu, którą można pobrać i uruchomić na własnym komputerze. Tym różni się od popularnych…Czytaj →08Najlepsze otwarte modele do generowania obrazów 2026: rankingDarmowy generator obrazów lokalnie: 19 otwartych modeli z rankingu Artificial Analysis, licencja każdego z nich i to, co zmieści się na domowej karcie.Czytaj →09Jak zainstalować Qwen-Image-2.1 lokalnie na Windowsie - krok po krokuPo instalacji obraz 1024×1024 powstaje w 8 sekund. Najgorsza pułapka: requirements.txt nadpisuje sterowaną kartę wersją procesorową.Czytaj →

Wideo: generatory wideo na własnej karcie

Wideo to najcięższa rzecz, jaką zrobisz lokalnie. Na karcie 24 GB uruchomisz modele do kilkunastu miliardów parametrów, a klip 5-sekundowy powstaje od kilkunastu sekund do kilku minut.

Kandinsky mierzyłem 17.10.2026, Wan 2.2 27.09.2026 (ComfyUI uruchomiony z opcją --disable-smart-memory; bez niej ten sam klip trwał kilka razy dłużej, gdy w tle działały inne programy), LTX-Video w ComfyUI 0.41 (szczegóły w teście LTX-Video). Kandinsky 6.0 Pro wypowiada polskie zdanie w 7 słowach na 9, Lite w 4 na 9 - polska mowa w lokalnym wideo nadal kuleje.

Czego nie uruchomisz w Polsce zgodnie z licencją: MiniMax H3 i HunyuanVideo mają licencje, które wyłączają Unię Europejską. Duże otwarte modele, jak MAGI-2 czy Agnes-Video-2.0-MoE, wymagają serwerów z wieloma kartami - porównanie w tekście otwarte modele wideo 2026.

01Kandinsky 6.0 Video lokalnie: wideo z dźwiękiem na RTX 4090Uruchomiłem Kandinsky 6.0 Lite i Pro na RTX 4090: czasy, VRAM, mowa po polsku i po angielsku, 8 klipów z dźwiękiem i instrukcja do ComfyUI.Czytaj →02Lokalny generator wideo AI: Wan 2.2, LTX i Kandinsky 6 na RTX 4090Który darmowy generator wideo AI uruchomisz na własnej karcie i legalnie użyjesz w Polsce? Wan 2.2, LTX-Video i Kandinsky 6 na RTX 4090: czas, pamięć, klipy bez poprawek i licencje.Czytaj →03Wan 2.2 w ComfyUI krok po kroku: pierwszy klip AI na swojej karcie graficznejInstrukcja na zrzutach: szablon Wan 2.2 5B w ComfyUI, pliki modelu, polecenie, rozmiar klipu i pierwszy film. Z czasami z RTX 4090 i rozwiązaniami typowych błędów.Czytaj →04Wan 2.2 lokalnie: wideo z AI na własnej karcie - czas, VRAM, próbkiCztery klipy 5 s w 720p z Wan 2.2 5B na RTX 4090: ok. 4 minuty na klip, 2 grosze prądu. Co wychodzi dobrze, a gdzie model gubi fizykę.Czytaj →05Komputer do wideo AI: ile VRAM, RAM i jaki dysk (moje pomiary)Ile pamięci karty, RAM i jaki dysk potrzeba do generowania wideo AI w domu. Pomiary Wan 2.2, LTX-Video i Kandinsky 6 na RTX 4090 i symulacja mniejszych kart.Czytaj →06Wan 3.0 vs Wan 2.2: te same polecenia, 8 klipów obok siebieDarmowy Wan 2.2 na własnej karcie kontra płatny Wan 3.0 w chmurze: kawa, tramwaj, lama i animacja. Wideo parami, czas i koszt.Czytaj →07Otwarte modele wideo 2026: MAGI-2 vs Wan vs LTX-2.5 vs MiniMax H3Cztery rodziny otwartych modeli wideo: ranking, licencje, sprzęt i ceny za minutę. Który ruszy na RTX 4090, a który wolno uruchomić w Polsce.Czytaj →08Nowe lokalne modele AI, październik 2026: wideo, obraz, muzykaNowe otwarte modele z października 2026 na moim RTX 4090: Kandinsky 6 do wideo z dźwiękiem, Qwen Turbo i FLUX 3 Klein do obrazów, YuE2 do piosenek.Czytaj →

Muzyka i głos: piosenki, lektor, transkrypcja

Piosenki z wokalem

Ten sam polski tekst zaśpiewały cztery lokalne modele, po 3 próby na model. Nagrania przepuściłem przez Whisper i policzyłem, ile słów tekstu da się rozpoznać (test 17.10.2026).

• ACE-Step 1.5 robi 2-minutową piosenkę w 34-91 s, szczyt 10,7-20 GB VRAM, licencja MIT.
• YuE2 najlepiej brzmi po angielsku (100% słów), ale licencja CC BY-NC zabrania zarabiania.
• MiniMax Music 3 ucinał polskie piosenki przed końcem; pełny opis w tekście MiniMax Music 3.
• DiffRhythm 2 obsługuje tylko angielski i chiński.

Podkłady bez wokalu i efekty dźwiękowe: Stable Audio 3.

Lektor (zamiana tekstu na mowę)

Najlepszy lektor z chmury (Eleven v4) dostał w tym samym teście z 8.10.2026 15/15 - lokalne głosy jeszcze do niego nie dorastają. Szczegóły i nagrania: porównanie lektorów AI.

Transkrypcja i napisy

Do zamiany nagrań na tekst po polsku lokalnie zostaje Whisper od OpenAI (licencja MIT). Najlepszy otwarty model w tablicy Artificial Analysis, Voxtral Small 24B, według karty modelu nie obsługuje polskiego i potrzebuje ok. 55 GB pamięci. Poradniki: Whisper - instalacja i test, transkrypcja po polsku za darmo.

01YuE2 po polsku: test 4 lokalnych generatorów piosenekTen sam polski tekst w YuE2, ACE-Step 1.5, MiniMax Music 3 i DiffRhythm 2: wymowa zmierzona Whisperem, czasy na RTX 4090 i próbki do odsłuchania.Czytaj →02ACE-Step 1.5 lokalnie: polska piosenka na RTX 4090 - testACE-Step 1.5 turbo na RTX 4090: trzy polskie próby (94,0, 94,0 i 98,8% słów), 34-91 s na dwuminutową piosenkę, licencja MIT. Jak uruchomić go w ComfyUI i w Hangarze.Czytaj →03Syntezator mowy po polsku offline: Piper, XTTS i Chatterbox - testPiper, Chatterbox Multilingual v3 i XTTS-v2 przeczytały te same polskie teksty. Proza bez błędów, łamańce i liczby już nie. Wyniki, próbki audio, licencje i skrypt czytaj-tekst.py.Czytaj →04Napisy do filmu za darmo: Whisper lokalnie, skrypt i Subtitle EditGenerator napisów na własnym komputerze: Whisper large-v3 i turbo na 42-minutowym „Latarniku”, 3,3-4,0% błędnych słów, gotowy skrypt napisy.py, klatka i wideo z wynikiem oraz Subtitle Edit dla tych, którzy wolą okienka.Czytaj →05Whisper: transkrypcja po polsku, modele, instalacja i test (2026)Wszystko o Whisperze w jednym miejscu: modele i wymagania, instalacja na Windows, programy z okienkiem, API OpenAI i mój pomiar na 22-minutowym nagraniu lektora, w którym jedno ustawienie zmniejszyło liczbę błędów o połowę.Czytaj →06Porównanie lektorów AI: 8 głosów czyta ten sam polski tekstTen sam polski tekst z datą, kwotą i łamańcami przeczytało 8 lektorów AI. Ślepy test, ceny, licencje i błędy wymowy.Czytaj →07Stable Audio 3: generator podkładów AI, licencja, ceny i ComfyUIStable Audio 3 robi instrumentale i efekty do 6:20, ma otwarte wagi i licencję komercyjną do 1 mln USD przychodu. Sprawdziłem wersje, ceny, ranking i uruchomienie w ComfyUI.Czytaj →08MiniMax Music 3: lokalnie, licencja, ceny i czy śpiewa po polskuMiniMax Music 3 tworzy piosenki do 5 minut i od sierpnia 2026 ma otwarte wagi. Opisuję wersje, ranking, licencję, ceny aplikacji i fal.ai, instalację w ComfyUI krok po kroku oraz polską wymowę w moim teście.Czytaj →

Sprzęt: co uruchomisz na 8, 12, 16 i 24 GB

Najważniejsza jest pamięć karty graficznej (VRAM). Moja karta to RTX 4090 24 GB; mniejsze karty sprawdziłem w symulacji - ograniczałem w Ollamie liczbę warstw modelu wysyłanych na kartę do tego, co zmieści się na karcie 8, 12 czy 16 GB. Prawdziwe mniejsze karty mają wolniejszą pamięć, więc szybkości z symulacji to górna granica. Przy obrazach, wideo i muzyce podaję szczyt pamięci całej karty z moich testów. Ceny kart i pomiary na konkretnych modelach są w tekście o wyborze karty graficznej do AI.

Model, który nie mieści się w karcie, nie zwalnia o kilkanaście procent, tylko kilka razy - część obliczeń przejmuje wtedy procesor:

Żeby porównać różne karty uczciwie, wziąłem jedną publiczną tablicę: wyniki llama.cpp dla tego samego modelu Llama 2 7B Q4_0. Szybkość rośnie razem z przepustowością pamięci, a nie z ceną karty.

Mac i komputer bez karty graficznej

• Mac z procesorem M: pamięć jest wspólna dla systemu i grafiki. Na Macu z 16 GB zmieści się Gemma 4 12B Q4 (plik 7,0 GB), z 32 GB także Gemma 4 31B QAT (17,65 GB) i Qwen 3.8 27B. Ollama, LM Studio i ComfyUI mają wersje na macOS. Maca nie mierzyłem - liczby szybkości są z tablicy llama.cpp wyżej.
• Sam procesor: małe modele tekstowe i lektor Piper działają, obrazy i wideo są za wolne. Gdy u mnie tylko 18 z 66 warstw Qwena trafiło na procesor, szybkość spadła z 46 do 8,4 tok/s.
• Dysk: modele ważą od kilku do kilkudziesięciu GB. Trzymaj je na szybkim SSD - z mojego dysku USB (ok. 44 MB/s) pierwsze ładowanie dużego modelu trwało minuty.

01Co to jest VRAM i ile pamięci karty potrzebujesz do AI (pomiary 2026)VRAM to pamięć karty graficznej. Wyjaśniam, czym różni się od RAM, jak sprawdzić jej ilość w Windows i co zmieścisz na 8, 12, 16 i 24 GB - na podstawie moich pomiarów modeli tekstu, obrazu, wideo i muzyki.Czytaj →02Jaka karta graficzna do AI w 2026? Ceny, VRAM i moje pomiaryKartę do AI wybierasz po pamięci, nie po szybkości. RTX 5060 Ti 16 GB kosztuje tyle co RTX 5070 z 12 GB, a mieści dużo więcej. Ceny z polskich sklepów, koszt 1 GB VRAM i moje pomiary modeli tekstu, obrazu, wideo i muzyki.Czytaj →03Ile pamięci potrzeba, żeby uruchomić model AI u siebie na komputerzePytanie „czy to pójdzie na mojej karcie” ma policzalną odpowiedź. Rozkładam ją na trzy składniki: wagi modelu, pamięć podręczną uwagi i narzut, i pokazuję, dlaczego prędkość zależy od przepustowości pamięci, a nie od mocy obliczeniowej.Czytaj →04Jaki komputer do lokalnego AI? Konkretny poradnik (2026)Ile VRAM naprawdę potrzeba, jaka karta graficzna, ile RAM i kiedy Mac ma sens. Konkretny poradnik zakupowy do uruchamiania modeli AI lokalnie.Czytaj →05Komputer do wideo AI: ile VRAM, RAM i jaki dysk (moje pomiary)Ile pamięci karty, RAM i jaki dysk potrzeba do generowania wideo AI w domu. Pomiary Wan 2.2, LTX-Video i Kandinsky 6 na RTX 4090 i symulacja mniejszych kart.Czytaj →06Lokalny model czy API: ile naprawdę kosztuje AI z własnej kartyPomiar prądu na RTX 4090 kontra rachunki z API za te same zadania. Gemma lokalnie: 0,4 gr, GPT-6 Luna: 1,6 gr. Kiedy karta się zwraca.Czytaj →

Programy do lokalnego AI

Wszystkie są darmowe. Logo, do czego służą i gdzie jest mój poradnik:

LM Studio
Czat z modelami w okienku, wyszukiwarka modeli z podpowiedzią, co się zmieści. Najłatwiejszy start.

Ollama
Modele tekstowe z terminala i lokalny serwer API dla innych programów i automatyzacji.

Open WebUI
Okno czatu jak w ChatGPT dla modeli z Ollamy: historia rozmów, dokumenty, polski interfejs.

ComfyUI
Obrazy, wideo i muzyka. Szablony dla nowych modeli, sterowanie ze skryptu przez API.

Hangar (moje narzędzie)
Instaluje ComfyUI i modele za ciebie, dobiera je do karty, pokazuje licencje. Przewodnik po Hangarze.

Jan
Prosty czat z lokalnym modelem dla laika: instalator, przycisk „Download” i rozmowa.

Piper
Lekki lektor, który czyta po polsku na samym procesorze, bez karty graficznej.

Bielik
Polski model językowy od SpeakLeash, do pobrania w Ollamie i LM Studio.

• llama.cpp - silnik pod Ollamą i LM Studio. Na karcie Nvidii bierz wersję CUDA: wersja Vulkan była u mnie 1,9-2,6 raza wolniejsza.
• Whisper - zamiana mowy na tekst, także z napisami do filmów.
• Pinokio - przeglądarka gotowych instalatorów aplikacji AI uruchamianych jednym kliknięciem.

Wszystkie modele z Hangara: rozmiar, VRAM, licencja

To pełny katalog mojego narzędzia Hangar. Rozmiar to suma plików do pobrania (według Hugging Face, od najlżejszego wariantu). VRAM podaję z moich pomiarów tam, gdzie je mam; „szac.” oznacza szacunek Hangara, który na twoim komputerze pokaże precyzyjniej po wykryciu karty. Kolumna „W Hangarze” mówi, czy generowanie przez Hangar działa (czas jednego podejścia na RTX 4090 razem z ładowaniem modelu, test 17.10.2026).

Modele z „jeszcze nie” Hangar już pobiera i sprawdza, ale generowanie z nich uruchomisz na razie w ComfyUI - instrukcje są w podlinkowanych tekstach. Celowo poza katalogiem: MiniMax H3 (licencja wyklucza UE) i przerobione wersje modeli bez filtrów treści.

Licencje: na czym wolno zarabiać

„Otwarte wagi” nie znaczy „wolno wszystko”. Licencje sprawdziłem na kartach modeli w październiku 2026.

Uwaga przy Kandinsky 6.0: repozytorium modelu ma licencję MIT, ale według jego karty (17.10.2026) dekoder wideo to VAE z HunyuanVideo (AutoencoderKLHunyuanVideo), a licencja HunyuanVideo od Tencentu wyłącza Unię Europejską. Nie znalazłem wyjaśnienia autorów, na jakich zasadach udostępniają ten element - do zastosowań zarobkowych w Polsce traktuj to jako niewyjaśnione.

Modele „bez cenzury” krążące po sieci to zwykle przerobione wagi od nieznanych autorów - nie polecam ich i nie opisuję. Sprawdziłem za to, co robią oficjalne wagi: wersje „bez cenzury” Qwen-Image 2.1.

Co doszło po 17 października

Przewodnik rośnie razem z testami. Modele, które sprawdziłem po ostatniej dużej aktualizacji:

• FLUX.2 Klein 4B - obraz w 5-6 s przy ok. 10 GB VRAM i licencja Apache 2.0 bez progu przychodu. Polskie napisy wychodzą mu jednak słabo: z „JAZZ NAD ODRĄ” poprawnie napisał tylko „JAZZ”. Do napisów zostaję przy FLUX 3 Klein.
• LTX-Video 13B distilled - najszybszy otwarty model wideo, jaki uruchomiłem: klip 5 s w 768×512 w 18-20 s, w 1216×704 w 37 s, szczyt 15,3-16,4 GB. Bez dźwięku.
• Nemotron 3.5 Bolt E4B od NVIDII (premiera 23.10) - mały model na bazie Gemmy 4 E4B. U mnie 4459 MiB VRAM po starcie i 162,3 tok/s bez myślenia, 8 z 10 zadań po polsku, ale myli fakty o Polsce.
• basal-omni mini - polski model decyzyjny w GGUF, działa przez Ollamę w 5,1 GB pamięci karty.
• Kimi K3.1 Pro - wag jeszcze nie ma, Moonshot obiecał je do 4 listopada 2026. Z mojego wyliczenia przy skali poprzednika same wagi po kwantyzacji Q4 zajmą ok. 1,4 TB, więc to nie jest model na domowy komputer.

Pełny ranking 10 modeli tekstowych na kartach 8-24 GB jest w teście najlepszy lokalny model AI po polsku. Październikową serię z RTX 4090 uzupełniają zestawienie nowych modeli, AI influencerka na 5 lokalnych modelach, 15 klipów z mową po polsku i polski śpiew w 4 modelach. Jeśli wolisz gotowy czat bez instalowania Ollamy, sprawdź KoboldCpp, a lokalny model w przeglądarce daje Opera WebAI.

Seria „Model tygodnia”

Co tydzień biorę jeden otwarty model, uruchamiam go na RTX 4090 i mierzę zawsze to samo: pobranie, ładowanie, tok/s, pamięć karty przy 8 i 32 tys. tokenów kontekstu, licencję i 5 tych samych zadań po polsku. Pierwsze wydanie: Gemma 4 31B QAT (42 tok/s, 19,2 GB, 9,5/10). Wszystkie wydania są pod tagiem Model tygodnia, a październikowe premiery obrazu, wideo i muzyki zebrałem w tekście nowe lokalne modele AI.

Gotowe skrypty do pobrania

Skrypty sprawdziłem na Windowsie 11 z kartą RTX 4090. Licencja MIT, pełny kod z opisem jest w poradnikach. Wszystkie naraz: ZIP z 5 skryptami (15 KB).

• instaluj-llama-cpp.ps1 - llama.cpp w wersji CUDA albo Vulkan, Gemma 4 12B i plik startowy (opis);
• instaluj-comfyui.ps1 - ComfyUI z PyTorchem dobranym do karty i modelami Z-Image Turbo oraz Wan 2.2 (opis);
• generuj-obrazy.py - serie obrazów z listy poleceń, z dziennikiem czasu (opis);
• generuj-wideo.py - klip z Wan 2.2 prosto do MP4 (opis);
• zmierz-model.py - szybkość, pamięć karty i koszt prądu twojego modelu (opis).

Czy lokalne AI się opłaca

Prąd za 13 zadań na Gemmie 4 12B kosztował mnie 0,4 grosza, a te same zadania w GPT-6 Luna przez API - 1,6 grosza. Obraz z Z-Image to 0,04 grosza prądu. Zakup karty zwraca się jednak dopiero po setkach godzin pracy, a najlepsze modele z chmury nadal piszą lepiej. Lokalne AI wygrywa prywatnością (nic nie wychodzi z komputera), brakiem limitów i tym, że działa bez internetu. Pełny rachunek: lokalny model czy API.

Najczęstsze pytania

Co to jest lokalne AI?

To model sztucznej inteligencji uruchomiony na twoim komputerze zamiast na serwerach firmy. Pobierasz plik modelu (od kilku do kilkudziesięciu GB) i program, który go uruchamia - na przykład LM Studio, Ollamę albo ComfyUI. Po pobraniu wszystko działa bez internetu.

Jaki jest najlepszy lokalny model AI po polsku?

Na kartę 24 GB - Gemma 4 31B (9,5/10 w moich 5 zadaniach, 42 tok/s). Na mniejsze karty - Gemma 4 12B, która w moim teście pisania z 26.09.2026 dostała 72,3 pkt, tuż przed Qwen 3.8 27B (72,2). Bielik 11B v3 ma najpoprawniejszą polszczyznę i najlepiej zna polskie realia, ale słabiej wykonuje polecenia.

Ile VRAM potrzeba do lokalnego AI?

Do tekstu wystarczy 8 GB (Gemma 4 E4B, z ograniczeniami Gemma 4 12B), wygodnie jest od 12 GB. Do obrazów FLUX 3 Klein zajmował u mnie 7,5 GB, Qwen-Image Turbo 17-19 GB. Do wideo i muzyki z wokalem potrzebujesz 16-24 GB. Szczegóły w tabeli sprzętu.

Jaka karta graficzna do AI?

Najważniejsza jest ilość pamięci, potem jej przepustowość. Karta Nvidii jest najprostsza, bo większość programów zakłada CUDA. Z kart, które porównałem w tablicy llama.cpp, najszybsza była RTX 4090, a RTX 3090 z tymi samymi 24 GB była tylko o 14% wolniejsza.

Czy lokalne AI działa bez internetu?

Tak. LM Studio, Ollama, llama.cpp, ComfyUI i Whisper po pobraniu modelu działają całkowicie offline, a polecenia i pliki nie opuszczają komputera.

Czy lokalne AI działa na Macu?

Tak, Ollama, LM Studio i ComfyUI mają wersje na macOS. Według tablicy llama.cpp mały model 7B generuje na M4 ok. 24 tok/s, na M4 Pro ok. 51, a na M4 Max ok. 83. Maca sam nie mierzyłem.

Czy mogę uruchomić AI bez karty graficznej?

Małe modele tekstowe i lektor Piper działają na samym procesorze. Obrazy i wideo bez karty są zbyt wolne.

Czy lokalne AI jest darmowe?

Programy i modele z tego przewodnika są darmowe. Płacisz za sprzęt i prąd. Sprawdź tylko licencję modelu, jeśli chcesz na nim zarabiać - tabela jest w dziale Licencje.

Czytaj teżAnthropic rozmawia z Samsungiem o własnym chipie do AINewsyMój ojciec chce się zestarzeć we własnym domu. AI go podsłuchujeNewsyInternet zjada własny ogon. Czy AI wykończy dane, na których się uczy?Premium