PROMPTOWY_
Newsy

Skompresowany model 4-bitowy, który bije swój oryginał na pełnej precyzji

promptowy@ai:~$ cat news_1

Technika QAH pozwala skompresować model do 4-bitowej kwantyzacji bez typowej utraty jakości - wręcz z jej poprawą.

promptowy@ai:~$ cat news_2

Opublikowany na Hugging Face model liczy 59 miliardów parametrów i zebrał już prawie 4 tysiące pobrań.

promptowy@ai:~$ cat news_3

Podejście łączy kwantyzację z etapem „leczenia" modelu, który odbudowuje wiedzę utraconą podczas kompresji.

promptowy@ai:~$ open --full
Czytaj całość

Skompresowany model 4-bitowy, który bije swój oryginał na pełnej precyzji

Otwórz artykuł na promptowy.com