IBM wypuścił Granite Speech 5.0 Turbo CTC - szybki i dokładny model do transkrypcji mowy

👁 145 przeczytań

IBM opublikował na Hugging Face nowy model do automatycznego rozpoznawania mowy - Granite Speech 5.0 Turbo CTC - o rozmiarze 470 milionów parametrów. Celem projektu jest połączenie bardzo wysokiej prędkości przetwarzania z dokładnością transkrypcji, co ma go odróżniać od znacznie cięższych modeli w tej kategorii.

Model wpisuje się w rozbudowywany przez IBM ekosystem Granite - rodzinę otwartych modeli językowych i multimodalnych, które firma konsekwentnie rozszerza o kolejne modalności. Tym razem chodzi o mowę: Granite Speech 5.0 Turbo CTC trafia do segmentu ASR (Automatic Speech Recognition), czyli automatycznej transkrypcji nagrań audio na tekst.

CTC jako fundament szybkości

Kluczowy element architektury to CTC, czyli Connectionist Temporal Classification - metoda uczenia sekwencyjnego, która eliminuje potrzebę wyrównywania danych wejściowych z wyjściowymi na etapie trenowania. W praktyce przekłada się to na znacznie krótszy czas dekodowania w porównaniu z modelami opartymi na mechanizmie attention, takimi jak Whisper od OpenAI. CTC pozwala też na tzw. dekodowanie zachłanne bez utraty jakości, co ułatwia wdrożenia w środowiskach z ograniczonymi zasobami obliczeniowymi.

Rozmiar 470 milionów parametrów plasuje Granite Speech 5.0 Turbo CTC w kategorii modeli kompaktowych - wyraźnie poniżej miliarda parametrów - co czyni go atrakcyjnym dla zastosowań wymagających niskich opóźnień: transkrypcji w czasie rzeczywistym, przetwarzania na urządzeniach brzegowych czy integracji z systemami konwersacyjnymi bez uciekania się do drogiej infrastruktury chmurowej.

Wpis pojawił się na Hugging Face i w ciągu pierwszej godziny zebrał ponad 260 polubień oraz 3 komentarze, co jak na tak świeżą publikację sygnalizuje spore zainteresowanie społeczności. IBM nie ujawnił jeszcze szczegółowych benchmarków porównawczych, jednak sama nazwa „Turbo” i eksponowanie prędkości w tytule wskazują, że to właśnie latencja ma być głównym argumentem sprzedażowym modelu.

Dostępność na Hugging Face oznacza, że badacze i deweloperzy mogą od razu testować model we własnych pipeline’ach - bez konieczności przechodzenia przez korporacyjne kanały IBM. To podejście spójne z dotychczasową strategią firmy wobec całej rodziny Granite, którą IBM udostępnia jako otwarte wagi.

// czytaj dalejMeta wypuściła otwarty model Glimmer i 6500-słowny manifest ZuckerbergaNewsyLiquid AI wypuściło LFM2.5-2.6B - mały model do lokalnych agentów AINewsyMoonshot AI wypuścił największy otwarty model AI na świecie - 2,8 biliona parametrówNewsy