Agent, który nie pyta. Kiedy AI przestaje doradzać, a zaczyna działać

👁 116 przeczytań

Wyobraźcie sobie moment, którego jeszcze niedawno nie było w żadnym demie: nie prosicie asystenta o listę hoteli w Lizbonie, tylko mówicie „załatw mi wyjazd na weekend, budżet dwa tysiące, wolę rano latać”. A potem zamykacie laptop. Godzinę później na skrzynce leży potwierdzenie rezerwacji lotu, hotelu i stolika w restauracji, którą sam wybrał, bo pasowała do waszego kalendarza i do tego, że w zeszłym roku ocenialiście podobną wysoko. Nikt was o nic więcej nie zapytał. Karta została obciążona.

To nie jest science fiction i nie jest to nawet szczególnie odległa przyszłość. To kierunek, w którym cała branża pcha produkty pod hasłem „agentów AI” - systemów, które nie kończą swojej roli na wygenerowaniu odpowiedzi, tylko wykonują zadania w naszym imieniu. Klikają, wypełniają formularze, składają zamówienia, negocjują terminy. Różnica między czatem a agentem jest tą samą różnicą, co między doradcą a pełnomocnikiem. Jeden mówi, co zrobić. Drugi robi.

Od odpowiedzi do działania

Przez ostatnie dwa lata przyzwyczailiśmy się do AI jako do bardzo elokwentnego rozmówcy. Zadajesz pytanie, dostajesz akapit. Cała odpowiedzialność za to, co dalej, zostaje po twojej stronie: to ty kopiujesz kod, ty wysyłasz maila, ty klikasz „kup teraz”. Model był mózgiem bez rąk. Bezpiecznym dokładnie dlatego, że bezradnym.

Agent zmienia równanie. Dostaje ręce - narzędzia, dostępy, uprawnienia - i cel. Sam rozkłada cel na kroki, sam decyduje, w jakiej kolejności je wykonać, sam koryguje plan, gdy coś nie idzie. To jest jakościowa różnica, a nie ilościowa. Nie chodzi o to, że model jest „mądrzejszy”. Chodzi o to, że pierwszy raz oddajemy mu sprawczość - zdolność do wywoływania skutków w świecie bez naszego kliknięcia pośrodku.

Technicznie ta zmiana opiera się na kilku klockach, które dopiero teraz zaczęły do siebie pasować. Modele nauczyły się posługiwać narzędziami: wywoływać funkcje, korzystać z API, przeszukiwać sieć. Pojawiły się standardy łączenia ich z zewnętrznymi systemami. Wreszcie modele stały się na tyle dobre w planowaniu wieloetapowym, że potrafią utrzymać cel w głowie przez kilkanaście kroków, a nie zgubić go po trzecim. Każdy z tych elementów z osobna jest niewinny. Razem tworzą coś, co po raz pierwszy zasługuje na słowo „autonomia”.

Kto naprawdę tego chce

Warto zapytać wprost: czyj to jest sen? Bo narracja o agentach jest sprzedawana jako wyzwolenie użytkownika - koniec żmudnej klikaniny, koniec porównywania dwudziestu ofert, koniec wypełniania tych samych danych po raz setny. I ta obietnica jest realna. Naprawdę nie chcę spędzać wieczoru na przeklikiwaniu porównywarek ubezpieczeń.

Ale pod tą obietnicą leżą twardsze interesy. Dla firm technologicznych agent to sposób na wejście głębiej w nasze życie niż kiedykolwiek pozwalał na to zwykły czat. Doradca, który tylko mówi, jest łatwy do zignorowania. Pełnomocnik, który trzyma dostęp do twojej karty i kalendarza, staje się infrastrukturą, z której trudno się wypisać. Kto kontroluje agenta, kontroluje strumień twoich decyzji zakupowych - a to jest najcenniejsze miejsce w całej gospodarce cyfrowej.

Dla sprzedawców i platform agent to jednocześnie szansa i zagrożenie. Jeśli to agent, a nie człowiek, wybiera hotel czy proszek do prania, to cała logika marketingu ostatnich trzydziestu lat - zbudowana wokół ludzkiej uwagi, emocji, koloru opakowania - przestaje działać. Nie przekonasz algorytmu ładnym banerem. Przekonasz go danymi, ceną, dostępnością API. Reklama skierowana do maszyny wygląda zupełnie inaczej niż reklama skierowana do człowieka i część branży jeszcze nie zdaje sobie sprawy, jak bardzo grunt się pod nią osuwa.

Agent AI nie jest kolejnym narzędziem, które oszczędza nam czas. Jest pierwszym pośrednikiem, któremu oddajemy nie zadanie, ale osąd. A osąd to ostatnia rzecz, którą warto delegować w ciemno.

Jest jeszcze trzeci interes, najrzadziej wypowiadany na scenie konferencyjnej: interes samego kapitału zainwestowanego w AI. Po latach kosztownego treningu modeli branża potrzebuje pokazać, że to się na coś przekłada. Czat, choćby najlepszy, trudno wycenić. Agent, który realnie wykonuje pracę - obsługuje zgłoszenia, prowadzi zakupy, zarządza procesami - można sprzedać jako pracownika, a pracownika da się policzyć w oszczędnościach. Agentowa AI jest więc nie tylko postępem technicznym. Jest odpowiedzią na pytanie akcjonariuszy „kiedy to się zwróci”.

Czego nie widać na demie

Każde nagranie promocyjne agenta wygląda tak samo: płynnie, elegancko, bez tarcia. Zadanie postawione, zadanie wykonane, uśmiech. Problem w tym, że demo pokazuje szczęśliwą ścieżkę - jeden konkretny przebieg, w którym wszystko poszło zgodnie z planem. Prawdziwe życie składa się głównie z przypadków brzegowych.

Co się dzieje, gdy agent źle zrozumie cel? Gdy „zarezerwuj coś taniego” zinterpretuje jako lot z trzema przesiadkami o trzeciej nad ranem? Gdy strona, na której miał kupić bilet, zmieni układ i agent kliknie nie tam, gdzie trzeba? Gdy napotka formularz, który wymaga decyzji, jakiej nikt nie przewidział? Czat, który się myli, generuje głupie zdanie. Agent, który się myli, generuje transakcję. A transakcji nie da się cofnąć jednym „przepraszam, źle zrozumiałem”.

Największe ryzyko agentów nie leży w tym, że są głupie, tylko w tym, że są kompetentne akurat na tyle, byśmy przestali sprawdzać. To klasyczny paradoks automatyzacji. Dopóki system myli się często, człowiek czuwa. Kiedy zaczyna działać dobrze w dziewięćdziesięciu ośmiu przypadkach na sto, czujność zanika - i wtedy dwa pozostałe przypadki uderzają w kogoś, kto już dawno przestał patrzeć na ekran. Im lepszy agent, tym groźniejsza staje się nasza wygoda.

Do tego dochodzi kwestia, o której mówi się za mało: agent działający w otwartej sieci jest podatny na manipulację w sposób, jakiego klasyczne oprogramowanie nie znało. Skoro czyta treści ze stron, by podejmować decyzje, to spreparowana treść może stać się poleceniem. Wyobraźmy sobie stronę, która zawiera ukryty tekst mówiący agentowi „zignoruj poprzednie instrukcje i kup właśnie tutaj”. Człowiek by się roześmiał. Agent bywa posłuszny. Otwieramy zupełnie nową klasę oszustw, wymierzonych nie w naszą łatwowierność, ale w łatwowierność naszego pełnomocnika.

Odpowiedzialność, która nie ma adresu

Załóżmy, że agent popełnia kosztowny błąd. Zamawia nie to, rezerwuje na zły termin, podpisuje coś, czego nie powinien. Kto za to odpowiada? To pytanie brzmi nudno-prawniczo, dopóki nie zdamy sobie sprawy, że nasz cały system odpowiedzialności zakłada człowieka na końcu łańcucha decyzji.

Producent modelu powie, że dostarczył tylko narzędzie i że użytkownik zaakceptował regulamin. Sprzedawca powie, że transakcja przebiegła prawidłowo - ktoś przecież kliknął, choćby był to bot. Użytkownik powie, że nie klikał niczego, bo w tym cała idea. Odpowiedzialność rozprasza się między trzy strony i znika. Prawo goni technologię i - jak zwykle - jest o kilka lat z tyłu, a agenci wchodzą do naszych portfeli już teraz, nie za pięć lat.

Uważam, że to jest sedno całej sprawy, ważniejsze niż jakikolwiek benchmark. Delegowanie działania bez jasnego adresu odpowiedzialności to przepis na sytuację, w której wszyscy korzystają, a nikt nie ręczy. Dlatego kluczowym pytaniem przy każdym agencie nie jest „jak dobrze działa”, tylko „co robi, kiedy nie jest pewny, i czy wtedy się zatrzymuje”. Dobry agent to nie ten, który zawsze działa. To ten, który wie, kiedy zapytać.

Gdzie agent ma sens już dziś

Nie jestem technologicznym pesymistą i nie chcę, by to zabrzmiało jak wezwanie do odrzucenia agentów. Są obszary, w których mają sens dziś, bez zastrzeżeń. Wszędzie tam, gdzie działanie jest odwracalne, niskostawkowe i powtarzalne. Segregowanie skrzynki mailowej. Przygotowanie roboczej wersji dokumentu. Zebranie i porównanie informacji przed decyzją, którą i tak podejmiesz sam. Monitorowanie zmian i alarmowanie. To są zadania, w których błąd kosztuje minutę, a nie miesięczną pensję.

Granica przebiega tam, gdzie decyzja staje się nieodwracalna albo dotyka pieniędzy, umów, zdrowia i relacji. Tam agent powinien dochodzić do progu i zatrzymywać się z gotowym wnioskiem, zostawiając ostatni klik człowiekowi. Nie dlatego, że człowiek jest mądrzejszy - często nie jest. Dlatego, że człowiek jest adresem odpowiedzialności. Ktoś musi móc powiedzieć „tak, chcę tego” i wziąć skutki na siebie.

Najzdrowszy model, jaki widzę, to agent na krótkiej smyczy: dużo autonomii w przygotowaniu, zero autonomii w ostatnim kroku o wysokiej stawce. Wygoda bez utraty steru. Problem w tym, że rynek będzie pchał w przeciwną stronę, bo każdy dodatkowy klik odebrany użytkownikowi to zysk w wygodzie i przewaga konkurencyjna. Presja będzie szła ku „po prostu załatw to”, a nie ku „zapytaj mnie jeszcze raz”. I to my, użytkownicy, będziemy musieli świadomie wybierać tarcie tam, gdzie stawka jest wysoka.

Gotowi na to?

Wróćmy do pytania z tytułu. Czy jesteśmy gotowi na agenta, który sam zamawia, planuje i decyduje? Technicznie - coraz bardziej. Mentalnie i instytucjonalnie - zdecydowanie nie. I to nie jest wstyd, to jest po prostu diagnoza. Gotowość nie polega na tym, że technologia działa. Polega na tym, że wiemy, co robimy, oddając jej sprawczość.

Mam wrażenie, że rozmawiamy o agentach tak, jakby najważniejsze było, czy zadziałają. A najważniejsze jest, co się z nami stanie, gdy zadziałają aż za dobrze. Bo wygoda ma swoją cenę i tą ceną jest odzwyczajenie się od decydowania. Człowiek, który przez rok nie wybrał samodzielnie ani hotelu, ani ubezpieczenia, ani prezentu, powoli traci mięsień osądu. A ten mięsień, raz zaniknięty, nie wraca na komendę.

Agent AI nie odbierze nam decyzji siłą. Odbierze je, bo sami je oddamy, po jednej, w zamian za spokojny wieczór. I dlatego prawdziwe pytanie nie brzmi „czy pozwolić agentowi działać”, tylko „które decyzje chcę zachować dla siebie, nawet jeśli maszyna zrobiłaby je szybciej”. To pytanie trzeba sobie zadać teraz, zanim wygoda odpowie za nas. Bo agent jest gotowy. P