Wyjaśnij i pokaż kontekst: Inżynierowie Amazona destylują modele Anthropic, by ciąć koszty przed nową taryfą za tokeny

Amazon zaczął tworzyć mniejsze, tańsze wersje modeli Anthropic (przez tzw. destylację), by uniknąć rosnących kosztów, gdy od przyszłego roku rozliczenie zmieni się z godzin obliczeniowych na przetworzone tokeny. To sedno sprawy opisanej w materiale Inżynierowie Amazona destylują modele Anthropic, by ciąć koszty przed nową taryfą za tokeny.

Co to oznacza w praktyce?
Destylacja to technika, w której duży, kosztowny model „uczy" mniejszy tak, by ten odtwarzał jego zachowanie przy ułamku kosztów. Amazon robi to na potrzeby wewnętrzne - zamiast płacić pełną stawkę za każdy token przetworzony przez oryginalne modele Anthropic. Zmiana modelu rozliczeń (z czasu obliczeniowego na tokeny) sprawia, że przy dużych wolumenach zapytań rachunek potrafi eksplodować, więc cięcie kosztów staje się priorytetem inżynieryjnym.

Szerszy kontekst relacji Amazon-Anthropic:
Według materiału Amazon zainwestował w tym roku dodatkowe miliardy dolarów w Anthropic, więc mówimy o głębokim, ale i napiętym partnerstwie. Ta relacja ma też polityczny wymiar - zobacz Anthropic kontra Biały Dom oraz Czy szef Amazona stoi za rządowym zakazem dla modeli Anthropic?, gdzie opisano, jak raport bezpieczeństwa Amazona i działania Andy'ego Jassy'ego miały wpływ na ograniczenia eksportowe.

Dla przypomnienia - modele Anthropic to czołówka rynku: Claude ma u nas ocenę 9.4/10, a agentowy Claude Code 8.7/10.

Podsumowanie: Destylacja to reakcja Amazona na nowy, droższy model rozliczeń za tokeny - sygnał, że nawet giganci szukają oszczędności, a part