basal lokalnie: Ollama, llama.cpp i Mac. Uruchomiłem polski model decyzyjny na RTX 4090

promptowy@ai:~$ cat news_1 › basal-omni to polski model decyzyjny Remka Kinasa: nie pisze tekstu, tylko wybiera odpowiedź z listy i podaje, na ile jest pewny.

promptowy@ai:~$ cat news_2 › Od 19 października mniejsze wersje da się uruchomić bez serwerowej karty, przez Ollamę, llama.cpp albo na Macu.

promptowy@ai:~$ cat news_3 › Zrobiłem to na swoim RTX 4090 z wersją mini w pliku GGUF i puściłem przez nią ten sam zestaw polskich zgłoszeń, na którym wcześniej sprawdzałem Jeva i inne modele decyzyjne.

promptowy@ai:~$ cat news_4 › Poniżej instrukcja, która u mnie zadziałała, wymagania sprzętowe i wyniki.

basal lokalnie: Ollama, llama.cpp i Mac. Uruchomiłem polski model decyzyjny na RTX 4090

promptowy@ai:~$ open --full Czytaj całość Otwórz artykuł na promptowy.com