Agent AI: co to jest, jak go zbudować i gdzie takie agenty naprawdę się psują

👁 116 przeczytań

Słowo „agent” przykleiło się do wszystkiego, co ma AI w nazwie, i przez to przestało cokolwiek znaczyć. Tymczasem różnica między czatem a agentem jest konkretna i da się ją opisać jednym zdaniem: czat odpowiada, agent działa. Reszta tego tekstu to rozwinięcie tego zdania i pokazanie, jak zbudować własnego agenta bez pisania kodu.

Czym różni się agent od czatu

Zwykły czat dostaje pytanie i zwraca tekst. Nic więcej się nie dzieje. Jeśli poprosisz go o wysłanie maila, napisze treść maila, ale go nie wyśle.

Agent dostaje cel, a nie pytanie, i ma do dyspozycji narzędzia. Może sprawdzić coś w sieci, odczytać plik, zapisać wpis w bazie, wysłać wiadomość. Sam decyduje, w jakiej kolejności to zrobić, i sprawdza wynik po drodze.

Na tym polega cała różnica. Czatowi mówisz „napisz podsumowanie tego pliku”. Agentowi mówisz „codziennie rano sprawdź nowe pliki w tym folderze, streść każdy i wyślij mi jedną wiadomość ze wszystkim”.

Z czego składa się agent

Niezależnie od tego, w czym go zbudujesz, agent ma cztery części.

1. Model. To on decyduje, co zrobić w kolejnym kroku.
2. Narzędzia. Wszystko, czym agent może coś zdziałać poza pisaniem: wyszukiwarka, dostęp do plików, wysyłka maila, zapytanie do bazy.
3. Pamięć. Zapis tego, co już zrobił i czego się dowiedział, żeby nie zaczynał od zera przy każdym kroku.
4. Wyzwalacz. To, co go uruchamia: godzina, nowy mail, nowy plik, kliknięcie.

Jeśli czegoś z tej czwórki brakuje, to nie jest agent, tylko czat z ładniejszym opakowaniem. Najczęściej brakuje narzędzi.

Jak zbudować agenta bez kodu

Najprostsza droga prowadzi przez narzędzia do automatyzacji, w których łączysz gotowe klocki. Schemat jest zawsze ten sam.

Krok pierwszy: zacznij od jednego zadania, które robisz ręcznie. Nie od wizji asystenta, który prowadzi Ci firmę. Od jednej czynności, którą powtarzasz w każdy poniedziałek. To jest jedyna rada z tej listy, która naprawdę rozstrzyga o powodzeniu.

Krok drugi: rozpisz ją na kroki tak dokładnie, jakbyś tłumaczył ją nowej osobie. Gdzie zajrzeć, co sprawdzić, co zrobić, gdy czegoś nie ma. Ten ostatni punkt jest tym, o którym wszyscy zapominają i przez który agenty się zacinają.

Krok trzeci: daj agentowi tylko te narzędzia, których potrzebuje. Nie „dostęp do skrzynki”, tylko „odczyt wiadomości z jednej etykiety”. Im węższe uprawnienia, tym mniej rzeczy może pójść nie tak.

Krok czwarty: uruchamiaj go najpierw na sucho. Niech przez tydzień wypisuje, co by zrobił, zamiast to robić. Zobaczysz wtedy wszystkie miejsca, w których pomylił się w sposób, którego się nie spodziewałeś.

Krok piąty: dopiero teraz włącz działanie, i to na czymś, co da się cofnąć.

Gdzie agenty naprawdę się psują

Piszę to z doświadczenia z własnymi automatami, które chodzą codziennie.

Na sytuacjach nietypowych. Agent działa świetnie, dopóki dane wyglądają tak, jak podczas testów. Pierwszy plik w innym formacie potrafi go wyprowadzić w pole i, co gorsza, agent zwykle nie zgłasza problemu, tylko robi coś sensownie wyglądającego i błędnego.

Na cichych awariach. Model może zwrócić pustą odpowiedź przy statusie sukcesu. Zmierzyłem to: w moim teście dziesięciu modeli trzy z nich w jednym zadaniu oddały status 200 i pustą treść, bez żadnego komunikatu o błędzie. Jeśli Twój agent tego nie sprawdza, zapisze pustkę i pójdzie dalej.

Na kosztach. Agent, który myśli na głos, płaci za każdy krok. Przy modelach z obowiązkowym rozumowaniem tokeny myślenia stanowią nawet 96 procent wszystkich tokenów wyjścia, a wyjście jest droższą stroną cennika. Rachunek za agenta chodzącego całą dobę potrafi zaskoczyć.

Na pętlach. Agent bez limitu kroków potrafi kręcić się w kółko. Zawsze ustaw twardy limit prób i twardy limit kosztu.

Do czego agent nadaje się naprawdę

Do rzeczy powtarzalnych i nudnych. Przeglądanie, porządkowanie, streszczanie, przepisywanie z jednego formatu na drugi. Tu agent zarabia na siebie od pierwszego tygodnia.

Do monitorowania. Sprawdzanie, czy coś się zmieniło, i odzywanie się tylko wtedy, gdy się zmieniło. To jest chyba najlepszy pierwszy projekt dla każdego.

Nie nadaje się do decyzji, których nie umiesz sprawdzić. Jeśli nie potrafisz w pięć sekund ocenić, czy agent zrobił dobrze, nie oddawaj mu tego zadania. Nie dlatego, że sobie nie poradzi, tylko dlatego, że nie zauważysz, kiedy sobie nie poradził.

Który model wybrać do agenta

Do agenta, który chodzi w pętli, wybiera się inaczej niż do jednorazowej rozmowy, bo koszt mnoży się przez liczbę kroków. Zmierzyłem dziesięć modeli na zadaniach po polsku i różnica w rachunku między modelami o identycznej poprawności sięgała trzydziestu dwóch razy.

Do tego dochodzi rzecz, o której mało kto pamięta: cena widoczna na karcie modelu nie musi być ceną, którą zapłacisz, bo ten sam model hostuje kilkanaście firm z własnymi stawkami. Rozpisałem to na danych z piętnastu modeli.