Agent AI chodził cztery dni i kosztował prawie 4000 dolarów - a jego twórcy zajmują się kontrolą kosztów AI

👁 144 przeczytań

Inżynierowie z Revenium - firmy oferującej rozwiązania do zarządzania wydatkami na AI - opisali przypadek, w którym jeden z deweloperów zostawił agenta AI działającego na laptopie przez cztery kolejne dni. Zanim ktokolwiek to zauważył, agent wykonał 4819 wywołań i wygenerował rachunek na 3762 dolary, bez żadnego budżetowania po stronie zespołu.

Przypadek przytacza analiza ZDNet oparta m.in. na raporcie StackGen „State of Reliability Report”, który przebadał ponad 109 000 incydentów związanych z agentami AI. Wnioski są niepokojące: nienadzorowane lub słabo nadzorowane agenty generują koszty niewidoczne w standardowym monitoringu, a mediany czasów naprawy awarii pozostają praktycznie niezmienione od 2023 roku.

Revenium opisuje też przypadek klienta - średniej wielkości firmy e-commerce - której koszty infrastruktury agentów wzrosły z 5000 dolarów miesięcznie podczas prototypowania do 50 000 dolarów miesięcznie na etapie stagingu. Winne były niezoptymalizowane zapytania RAG i rekurencyjne pętle agentów. Firma podsumowała to tak:

„Każde działanie było racjonalne w izolacji, ale łączny koszt już nie.”

W kolejnym przypadku dwa agenty utknęły w nieskończonej pętli wzajemnych rozmów i działały niezauważone przez 11 dni, pochłaniając 47 000 dolarów, zanim ktokolwiek interweniował.

Dla porównania: orientacyjne koszty agentów to według BakedWith od 20-50 dolarów miesięcznie za podstawowego chatbota, przez 100-500 dolarów za asystenta klasy średniej, aż po ponad 10 000 dolarów z góry za rozwiązanie enterprise - ale żadna z tych kwot nie uwzględnia efektu wymknięcia się agenta spod kontroli.

Jeśli firma zajmująca się właśnie kontrolą kosztów AI nie potrafi upilnować własnych agentów, to problem ma charakter systemowy, nie jednostkowy.

// czytaj dalejKto odpowiada, gdy agent AI wymknie się spod kontroli? Prawo nie nadąża za rzeczywistościąNewsyLiczba przypadków utraty kontroli nad AI prawie się podwoiła w lipcuNewsyZakaz chińskich modeli AI mógłby kosztować amerykańskie firmy 12 mld dolarów rocznieNewsy