Liquid AI przyspiesza inferencję do 3,2x dzięki modelowi LFM2.5-DSpark
Liquid AI opublikowało model LFM2.5-DSpark o rozmiarze 0,3B parametrów, który według firmy osiąga nawet 3,2-krotnie szybszą inferencję niż dotychczasowe rozwiązania.
👁 133 przeczytań
Liquid AI opublikowało na Hugging Face model LFM2.5-DSpark, który według firmy oferuje nawet 3,2-krotnie szybszą inferencję w porównaniu do wcześniejszych wariantów z rodziny LFM2.5. Model waży zaledwie 0,3 miliarda parametrów i jest przeznaczony do zadań generowania tekstu.
Tak mały rozmiar sugeruje, że DSpark celuje w zastosowania wymagające niskiego opóźnienia i niewielkiego zużycia zasobów - na urządzeniach brzegowych lub w środowiskach z ograniczoną mocą obliczeniową. Przyrostek „DSpark” wskazuje na specjalizowaną architekturę lub technikę destylacji, choć szczegóły techniczne Liquid AI nie ujawniło szerzej poza wpisem na Hugging Face.
Model pojawił się na platformie kilka godzin temu i zdążył zebrać pierwsze pobrania - licznik wskazuje 219 interakcji. To kolejny krok Liquid AI w rozwijaniu rodziny LFM2.5, która łączy efektywność obliczeniową z możliwościami konkurencyjnymi wobec znacznie większych modeli językowych.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
