Liquid AI wypuszcza LFM2.5-Encoders - szybkie modele do długich kontekstów na CPU
Liquid AI opublikowało na Hugging Face rodzinę modeli LFM2.5-Encoders, zaprojektowanych do szybkiego wnioskowania na długich kontekstach bez potrzeby użycia GPU.
👁 146 przeczytań
Liquid AI opublikowało na Hugging Face rodzinę modeli LFM2.5-Encoders przeznaczonych do szybkiego wnioskowania na długich kontekstach - bez konieczności korzystania z GPU. Model pojawił się 26 czerwca i w ciągu kilku dni zebrał blisko 69,5 tys. pobrań.
Wariant bazowy ma zaledwie 0,2 miliarda parametrów, co czyni go wyjątkowo lekkim jak na zadania związane z generowaniem tekstu. Kluczową cechą architektury jest efektywna obsługa długich sekwencji przy ograniczonych zasobach sprzętowych - czyli dokładnie tam, gdzie tradycyjne transformery zaczynają mieć kłopoty z pamięcią i latencją.
Według opisu na Hugging Face, projekt wpisuje się w szerszy nurt prac Liquid AI nad architekturami hybrydowymi LFM (Liquid Foundation Models), które firma rozwija jako alternatywę dla klasycznych modeli opartych wyłącznie na mechanizmie uwagi. Ponad 241 osób oznaczyło model jako godny uwagi, co sugeruje spore zainteresowanie społeczności badaczy i deweloperów szukających lekkich rozwiązań do wdrożeń bez drogiej infrastruktury GPU.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
