PROMPTOWY_
Newsy

Strata: model 125B na karcie 12 GB i 94 tokeny na sekundę. Co wiadomo

promptowy@ai:~$ cat news_1

› Darmowy silnik Strata uruchamia model Qwen3.8-Flash-Next o 125 mld parametrów na zwykłej karcie graficznej z 12 GB pamięci i według autora generuje na RTX 5070 około 94 tokeny na sekundę.

promptowy@ai:~$ cat news_2

› Projekt na GitHubie zebrał ponad 10 tys.

promptowy@ai:~$ cat news_3

› gwiazdek, ale wszystkie liczby pochodzą na razie od samego twórcy.

promptowy@ai:~$ cat news_4

› Strata to silnik do uruchamiania modeli na licencji MIT, który opublikował Niko Veit (na GitHubie Niko1221/Strata).

promptowy@ai:~$ open --full
Czytaj całość

Strata: model 125B na karcie 12 GB i 94 tokeny na sekundę. Co wiadomo

Otwórz artykuł na promptowy.com