Token w AI: co to jest, ile to znaków i dlaczego polski kosztuje więcej

👁 225 przeczytań

Token to najmniejszy kawałek tekstu, na jaki model dzieli to, co dostaje i co pisze. Nie jest to litera ani słowo, tylko coś pomiędzy: częsty wyraz bywa jednym tokenem, rzadki rozpada się na kilka kawałków. To jednostka, w której liczy się limity, pamięć i rachunki za API, więc warto wiedzieć, jak działa. Ile tokeny kosztują w API i ile więcej zużywa tekst po polsku, policzyłem w tekście Tokeny AI: co to jest i ile kosztują (z kalkulatorem kosztu).

Ile to jest w praktyce

Dla angielskiego przyjmuje się z grubsza, że token to około czterech znaków, czyli trzy czwarte słowa. Polski wypada gorzej, bo odmiana i ogonki rozbijają wyrazy na więcej kawałków; ten sam tekst po polsku potrafi zająć wyraźnie więcej tokenów niż po angielsku. Praktyczny wniosek: przy rozliczeniu za tokeny polski jest droższy od angielskiego przy tej samej treści. Rząd wielkości sprawdzisz, dzieląc liczbę znaków przez trzy; dokładną liczbę znaków policzysz w liczniku znaków.

Gdzie tokeny mają znaczenie

• Okno kontekstowe. Limit „128 tysięcy tokenów” to limit na całą rozmowę razem z dokumentami, nie na jedno pytanie.
• Cena w API. Płacisz osobno za tokeny wejściowe i wyjściowe, a te drugie są zwykle kilka razy droższe.
• Szybkość. Model generuje token po tokenie, więc dłuższa odpowiedź to dłuższe czekanie.
• Obcinanie. Po przekroczeniu okna najstarsza część rozmowy wypada i model przestaje o niej pamiętać, często bez ostrzeżenia.

Jak oszczędzać tokeny

Nie wklejaj całych dokumentów, jeśli potrzebujesz jednego rozdziału. Zacznij nową rozmowę zamiast ciągnąć wątek na sto wiadomości, bo cała historia jest doliczana za każdym razem. W zadaniach masowych używaj mniejszego modelu do prostych kroków, a dużego tylko tam, gdzie trzeba. Ceny poszczególnych planów i modeli zbieram w hubie cenowym.

Dane liczbowe: Atlas modeli, gdzie przy każdym modelu jest cena za milion tokenów.

Jeśli chcesz płacić za tokeny w złotówkach zamiast dolarów, z fakturą VAT i jednym saldem do Claude, GPT-6 i Gemini, zobacz mój serwis Jantaris - ceny porównane z cennikami producentów są w przewodniku.

Czytasz Promptowego częściej? Dodaj go do preferowanych źródeł w Google, a nowe teksty będą wyżej w Twoich wynikach.

Najczęstsze pytania

Czy token to to samo co słowo?

Nie. Słowo może być jednym tokenem albo kilkoma, zależnie od tego, jak często występuje w danych, na których uczono tokenizator.

Dlaczego polski zużywa więcej tokenów?

Bo odmiana daje wiele rzadkich form, a rzadkie ciągi znaków rozbijane są na mniejsze kawałki. To cecha tokenizatora, nie złośliwość dostawcy.

Czy liczba tokenów wpływa na jakość odpowiedzi?

Pośrednio: im bliżej granicy okna, tym większa szansa, że model zgubi wcześniejsze ustalenia. Więcej o samych modelach w tekście LLM.

// czytaj dalejProcesor, który kosztuje więcej niż luksusowy samochód. Dlaczego świat modli się dziś do chipów Nvidii?PremiumMałe, szybkie, wszędzie. Dlaczego kurczące się modele AI zmienią więcej niż te gigantyczneMagazynZamknięcie dnia: AI kosztuje - i coraz więcej ludzi to czujeNewsy