Subquadratic twierdzi, że obeszło wąskie gardło transformerów. Tym razem ma dowody

👁 117 przeczytań

Jeden post na X podsumował reakcję branży lepiej niż każda analiza: „SubQ to albo największy przełom od czasu transformera… albo AI Theranos” - napisał inżynier AI Dan McAteer. Tak właśnie świat technologii przyjął deklaracje firmy Subquadratic, która miesiąc temu wyszła z trybu ukrytego z twierdzeniem, że rozwiązała matematyczne wąskie gardło dręczące duże modele językowe od niemal dekady.

Startup z Miami ogłosił, że zbudował nowy rodzaj modelu - SubQ - który ma być szybszy, tańszy i znacznie mniej energochłonny od czegokolwiek na rynku. Według firmy SubQ potrafi przetwarzać jednorazowo do 12 razy więcej tekstu niż większość konkurencyjnych modeli, co pozwala mu analizować setki dokumentów albo całe bazy kodu naraz. Przy tym, jak twierdzi Subquadratic, mniej więcej dorównuje najlepszym modelom Google DeepMind, OpenAI i Anthropic w kluczowych zadaniach, takich jak programowanie.

Problem polegał na tym, że początkowo firma poparła te tezy zaledwie garstką samodzielnie opublikowanych wyników. SubQ wciąż nie jest powszechnie dostępny do przetestowania. Sceptycyzm był więc nieunikniony.

Tym razem z niezależnym testem

Po miesiącu Subquadratic dorzuciło to, czego brakowało: wyniki dodatkowych, niezależnych testów przeprowadzonych przez zewnętrzną firmę Appen, która na co dzień ocenia modele innych producentów.

„Spodziewaliśmy się zdrowego sceptycyzmu” - przyznaje Alex Whedon, współzałożyciel i dyrektor techniczny firmy. „Z perspektywy czasu opublikowanie zewnętrznych benchmarków razem z pierwotnym ogłoszeniem uprzedziłoby większość wątpliwości, dlatego teraz zależy nam, by wszelkie kolejne wyniki były w pełni zweryfikowane, zanim je pokażę”.

Rezultaty zdają się potwierdzać sporą część obietnic. „To było dla mnie naprawdę ekscytujące, potwierdziło ich architekturę” - mówi Jeanine Sinanan-Singh, dyrektorka ds. badań nad generatywną AI w Appen. „Pomyślałam: wow, to może być przełom, bo modele zmagają się z szybkością i nieefektywnością”. Dodaje przy tym istotne zastrzeżenie:

Kiedy masz dość szokujące wyniki, nie są one aż tak wiarygodne, gdy sam o nich mówisz.

- Jeanine Sinanan-Singh, Appen

Co naprawdę obiecuje SubQ

Sednem sporu jest architektura. Sercem dzisiejszych modeli językowych jest sieć neuronowa zwana transformerem, działająca na podstawie mechanizm gęstej uwagi (dense attention). Fundamentalny artykuł ery LLM, opublikowany przez badaczy Google w 2017 roku, nosił tytuł „Attention Is All You Need”. Subquadratic twierdzi, że obeszło właśnie ten kosztowny obliczeniowo mechanizm.

Firma nie udaje, że SubQ zastąpi czołowe modele we wszystkim. Obiecuje raczej ogromny wzrost szybkości za ułamek typowego kosztu w wybranych zadaniach. W dłuższej perspektywie ambicje są większe.

„Nie sądzimy, by za kilka lat ktokolwiek budował na transformerach” - mówi Justin Dangel, współzałożyciel i prezes firmy, dodając, że ma nadzieję „zapoczątkować nową erę efektywności”.

Na razie to deklaracja popartą jednym zewnętrznym testem i brakiem publicznego dostępu. Niezależny benchmark Appen przesuwa SubQ z kategorii „czysta obietnica” do „wart obserwacji” - ale ostateczny werdykt zapadnie dopiero wtedy, gdy model trafi w ręce szerokiej publiczności.