Kontrola wysiłku w Opus 5. Jak płacić mniej za dokładnie to samo

👁 152 przeczytań

Największa zmiana w Opus 5 nie jest widoczna w tabelkach. To kontrola wysiłku: przełącznik od niskiego do maksymalnego poziomu, którym decydujecie, ile pracy model wkłada w odpowiedź. Zamiast płacić za myślenie tam, gdzie go nie potrzeba, płacicie za nie tylko wtedy, gdy naprawdę robi różnicę.

Dlaczego to jest ważniejsze niż benchmarki

Do tej pory wybór wyglądał tak: albo bierzecie model drogi i mądry do wszystkiego, albo tani i słabszy do wszystkiego. Suwak rozbija ten wybór na pojedyncze zadania. Z danych Artificial Analysis widać, jak to działa w praktyce: Opus 5 na maksymalnym wysiłku ma 61 punktów inteligencji, na wysokim 59. Te dwa punkty potrafią kosztować wielokrotność ceny, a w większości codziennych zadań nie zmienią niczego.

Kiedy ustawiać niski wysiłek

• Streszczenia i przeredagowania tekstu, który już macie.
• Klasyfikacja, tagowanie, wyciąganie danych ze strukturą (faktury, maile, tabele).
• Tłumaczenia i korekta.
• Masowe operacje na wielu rekordach, gdzie liczy się koszt jednostkowy.

Anthropic podaje, że nawet na najniższym ustawieniu Opus 5 zalicza w teście automatyzacji Zapier więcej zadań niż konkurencyjne modele. To jest wasz domyślny tryb do roboty seryjnej.

Kiedy warto płacić za maksimum

• Debugowanie i zmiany w kodzie, którego nie napisaliście.
• Analiza sprzeczności w długich dokumentach: umowy, regulaminy, dokumentacja.
• Zadania wieloetapowe, gdzie błąd w kroku trzecim psuje wszystko dalej.
• Rozumowanie na danych, gdzie liczy się jedna poprawna odpowiedź, nie prawdopodobna.

Tryb szybki, czyli trzecia oś

Obok wysiłku jest jeszcze prędkość. Tryb szybki działa około 2,5 raza szybciej niż domyślny, ale kosztuje dwa razy tyle. Ma sens tam, gdzie na odpowiedź czeka człowiek albo interfejs, i traci sens wszędzie tam, gdzie zadanie leci w tle.

Prosta zasada na start

Zacznijcie od średniego ustawienia i schodźcie w dół tak długo, aż jakość zacznie wam przeszkadzać. Większość zespołów odkrywa, że siedziała na maksymalnym wysiłku dla zadań, które równie dobrze robi ustawienie o dwa stopnie niżej. Przy cenie 5 dolarów za milion tokenów wejścia i 25 za wyjście ta różnica robi się widoczna w rachunku po tygodniu, nie po roku.

// czytaj dalejKling AI Motion Brush - jak kontrolować ruch w wideo AI krok po krokuPremiumAI dostało kontrolę paszportową. Historia Fable 5 jest bardziej absurdalna, niż wyglądaPremiumSztuczna inteligencja w bankach będzie mniej widowiskowa, niż myślimy. I dlatego regulatorzy ją zaakceptująPremium