PROMPTOWY_
Artykuły

Modele decyzyjne vs małe modele językowe: koszt, czas i trafność

promptowy@ai:~$ cat news_1

› W Decision Index modele decyzyjne odpowiadają od 3 do ponad 20 razy szybciej od małych modeli językowych, ale Claude Haiku 5.5 (low) ma wyższy wynik całego indeksu niż którykolwiek z nich.

promptowy@ai:~$ cat news_2

› Z kosztem nie ma prostej reguły: zależy od konkretnego modelu i od tego, ile tokenów wyjścia płacisz w LLM-ie.

promptowy@ai:~$ cat news_3

› Poniżej zestawiam pomiary Artificial Analysis, cenniki API i jawny rachunek na tokenach.

promptowy@ai:~$ cat news_4

› Claude Haiku 5.5 (low) ma 60,6 pkt Decision Index przy 184,3 USD za milion zadań AA i medianie 1434 ms.

promptowy@ai:~$ open --full
Czytaj całość

Modele decyzyjne vs małe modele językowe: koszt, czas i trafność

Otwórz artykuł na promptowy.com