Agent, który klika za ciebie. I decyduje bez ciebie

👁 142 przeczytań

Wyobraźcie sobie prostą prośbę wpisaną wieczorem w okno czatu: „Zorganizuj mi weekend w górach, budżet trzy tysiące”. I teraz wyobraźcie sobie, że rano na koncie jest o dwa i pół tysiąca mniej, w skrzynce leżą trzy potwierdzenia rezerwacji, a agent uprzejmie informuje, że wybrał hotel z lepszymi opiniami, choć droższy o dwieście złotych, „bo uznał, że warto”. Nikt was o to nie pytał. To nie awaria. To jest dokładnie to, co ten software miał zrobić.

Przez dwa lata żyliśmy w epoce chatbotów, które gadały. Teraz wchodzimy w epokę agentów, które działają. Różnica jest fundamentalna i większość ludzi jeszcze jej nie poczuła. Chatbot odpowiada na pytanie. Agent dostaje cel i sam wybiera drogę do niego - klika, loguje się, wypełnia formularze, porównuje, zamawia, płaci. Nie doradza wam, co kupić. Kupuje.

Co tak naprawdę zmienia się pod maską

Techniczna definicja agenta jest nudna, więc podam własną: agent to model językowy, któremu daliśmy ręce. Do tej pory sztuczna inteligencja umiała mówić. Teraz dostała dostęp do narzędzi - przeglądarki, kalendarza, API sklepu, twojej karty. I pętlę: spróbuj, sprawdź wynik, popraw, spróbuj znowu, aż osiągniesz cel. To ta pętla robi całą różnicę, bo znosi konieczność, żebyś przy każdym kroku klikał „tak”.

Klasyczny software był przewidywalny do bólu. Napisałeś regułę „jeśli A, to B” i maszyna robiła B za każdym razem, aż do końca świata. Agent nie działa w ten sposób. Dostaje intencję, nie instrukcję. Między jego celem a wynikiem rozciąga się przestrzeń, którą wypełnia sam - i w tej przestrzeni podejmuje setki mikrodecyzji, których nigdy nie zobaczysz. Który wynik wyszukiwania kliknąć. Którą opinię potraktować poważnie. Czy dwieście złotych różnicy to dużo, czy mało.

I tu jest sedno, które chcę postawić twardo: przechodzimy od automatyzacji zadań do delegacji osądu. To nie to samo co makro w Excelu ani nawet reguła w mailu. Kiedy oddajesz agentowi cel bez ścieżki, oddajesz mu prawo do interpretacji tego, czego chcesz. A interpretacja jest miejscem, w którym mieszka władza.

Kto naprawdę chce, żebyś miał agenta

Warto na chwilę zejść z poziomu technologii na poziom interesów, bo tam robi się ciekawie. Agent autonomiczny to marzenie kilku bardzo różnych graczy, i nie wszystkie ich motywacje są zbieżne z twoimi.

Pierwszy gracz to firmy technologiczne budujące modele. Dla nich agent to sposób, żeby przestać być kosztownym dodatkiem, za który płacisz dwadzieścia dolarów miesięcznie, a stać się warstwą, przez którą przepływają twoje pieniądze. Chatbot to produkt. Agent, który zamawia, to prowizja od każdej transakcji, dane o każdym twoim wyborze i pozycja pośrednika między tobą a całą resztą gospodarki. Kto kontroluje agenta, kontroluje punkt, w którym zapadają decyzje zakupowe. To jest najcenniejsze miejsce w całym łańcuchu.

Drugi gracz to sprzedawcy. Tu robi się nieoczywiście. Bo jeśli za zakupami stoi agent, a nie człowiek, to cała maszyneria perswazji zbudowana przez dekady - kolory przycisków, poczucie pilności, „zostały dwa pokoje” - przestaje działać. Agenta nie kupisz błyszczącym bannerem. Agent czyta specyfikację, porównuje i jest odporny na emocje. To brzmi jak dobra wiadomość dla konsumenta, dopóki nie zdasz sobie sprawy, że wtedy wojna o twój portfel przeniesie się na poziom, którego w ogóle nie widzisz - do negocjacji między agentem sprzedawcy a agentem kupującego. I nie ma żadnej gwarancji, że twój agent walczy tylko o twój interes.

Agent nie jest neutralnym pełnomocnikiem. Jest pełnomocnikiem tego, kto go zbudował i kto go opłaca. Pytanie „czyj to agent” jest ważniejsze niż pytanie „co ten agent potrafi”.

Trzeci gracz to ty. I twoja motywacja jest najprostsza z całej trójki: masz dość. Dość porównywania trzynastu ofert prądu, dość odnawiania subskrypcji, dość klikania przez trzy ekrany, żeby coś odwołać. Zmęczenie decyzyjne jest realne i agent obiecuje je zdjąć z twoich barków. To potężna obietnica. Właśnie dlatego jest niebezpieczna - bo w imię ulgi jesteśmy gotowi oddać naprawdę dużo.

Cztery rzeczy, które oddajemy, nie zauważając

Kiedy myślimy o ryzyku agentów, wyobrażamy sobie katastrofę: agent zamawia dwieście paczek proszku albo wynajmuje willę zamiast pokoju. To realne, ale to nie jest główny problem. Główny problem jest cichy i rozłożony w czasie.

Oddajemy widoczność procesu. Kiedy sam wybierasz hotel, przechodzisz przez kilkanaście ofert i mimochodem uczysz się rynku - wiesz, ile mniej więcej kosztuje weekend w Beskidach, czym różni się pensjonat od apartamentu. Agent robi to za ciebie i zwraca gotowy wynik. Po roku takiego korzystania nie masz pojęcia, jaki jest rynek. Straciłeś nie tylko czas na klikanie - straciłeś kompetencję do oceny, czy agent w ogóle się nie mylił.

Oddajemy możliwość weryfikacji. Agent podejmuje setki mikrodecyzji, ale prezentuje ci jedną: wynik. Nie zobaczysz odrzuconych opcji, nie zobaczysz kryteriów, którymi się kierował, bo często on sam nie potrafi ich spójnie odtworzyć. Dostajesz decyzję bez uzasadnienia, którą możesz albo przyjąć, albo odrzucić w całości. To nie jest partnerstwo. To zaufanie na słowo.

Oddajemy odpowiedzialność, która nigdzie nie ląduje. To pytanie prawnicy dopiero zaczynają rozgryzać, a moim zdaniem jest kluczowe. Jeśli agent zawrze w twoim imieniu niekorzystną umowę, kto ponosi konsekwencje? Ty, bo dałeś mu dostęp? Firma, która zbudowała model? Sprzedawca, który dostosował swoją ofertę pod agentów? Odpowiedź brzmi dziś: nikt tego nie wie. A przestrzeń, w której nikt nie odpowiada, ma to do siebie, że koszty i tak zawsze spadają na najsłabszego - czyli na ciebie.

I oddajemy nawyk samodzielnego wyboru. To najbardziej podstępne, bo działa jak mięsień. Decyzyjność się trenuje albo zanika. Człowiek, który przez pięć lat pozwalał agentowi decydować o wszystkim - od zakupów po plan dnia - nie stanie się nagle świetnym decydentem, gdy przyjdzie sprawa naprawdę ważna. Wygoda ma swoją cenę i płaci się ją w walucie, której nie widać na wyciągu z konta.

Gdzie agent ma sens, a gdzie to szaleństwo

Piszę to wszystko krytycznie, ale nie jestem luddystą. Uważam, że są obszary, w których autonomiczny agent jest po prostu dobrym pomysłem, i chcę je nazwać, żeby nie zostać źle zrozumianym.

Agent świetnie sprawdza się tam, gdzie stawka jest niska, decyzja powtarzalna, a błąd łatwo cofnąć. Uzupełnienie kalendarza. Wyszukanie i zestawienie informacji, które i tak zaakceptujesz przed użyciem. Monitorowanie cen i zaalarmowanie cię, gdy coś spadnie. W tych zastosowaniach agent zdejmuje z ciebie żmudę, a ty zachowujesz ostatnie słowo. To jest dobra granica: agent proponuje, człowiek zatwierdza.

Szaleństwem jest oddawanie agentowi decyzji nieodwracalnych, o wysokiej stawce albo takich, które definiują twoje relacje z instytucjami. Wypowiadanie umów. Podpisywanie zobowiązań. Zarządzanie zdrowiem. Wszystko, co dotyczy pieniędzy powyżej progu, którego stratę odczujesz. Nie dlatego, że agent na pewno się pomyli, ale dlatego, że koszt jego pomyłki jest asymetryczny - oszczędza ci pięć minut, a może kosztować pięć tysięcy albo pięć lat kłopotów.

Mam prostą regułę, którą sam bym stosował, gdyby jutro dano mi w pełni autonomicznego agenta z dostępem do karty: im trudniej cofnąć skutek decyzji, tym mocniej człowiek musi zostać w pętli. To nie jest technofobia. To zwykłe zarządzanie ryzykiem, tyle że zastosowane do software’u, który po raz pierwszy w historii ma własny osąd.

Czy jesteśmy gotowi. Odpowiedź, która nie jest wykrętem

Tytuł pyta, czy jesteśmy na to gotowi. Kuszące byłoby odpowiedzieć „to zależy” i uciec od tezy. Nie zrobię tego.

Technologicznie - jesteśmy bliżej, niż większość ludzi myśli. Agenty już dziś planują wieloetapowe zadania, korzystają z narzędzi i radzą sobie z zaskakująco złożonymi celami. Nie są niezawodne, potrafią wpaść w pętlę albo pewnie zrobić coś zupełnie bez sensu, ale krzywa jest stroma i za rok będą wyraźnie lepsze. Pod względem możliwości ta rewolucja już się dzieje, niezależnie od tego, czy ci się to podoba.

Instytucjonalnie i prawnie - nie jesteśmy gotowi ani trochę. Nie mamy ram odpowiedzialności, nie mamy standardów przejrzystości, nie mamy nawet ustalonego języka, żeby o tym rozmawiać. To dokładnie ta sama luka, którą znamy z mediów społecznościowych: technologia weszła w życie miliardów ludzi, zanim ktokolwiek pomyślał o konsekwencjach, a regulacja przyszła spóźniona o dekadę i wciąż goni. Z agentami będzie tak samo, jeśli będziemy bierni.

A my sami? My jesteśmy gotowi najmniej. Bo problem nie leży w tym, czy agent zadziała. Problem leży w tym, że zadziała za dobrze - że okaże się tak wygodny, że przestaniemy pytać, co dokładnie robi i w czyim imieniu. Najgroźniejszy scenariusz to nie zbuntowana maszyna. To spokojny, uprzejmy, kompetentny agent, któremu z ulgą oddamy jedną decyzję, potem drugą, potem tysiąc - i pewnego dnia obudzimy się w życiu, którego kształtu w gruncie rzeczy sami nie wybraliśmy.

Dlatego mój wniosek jest taki. Nie chodzi o to, żeby agentów się bać ani żeby ich zakazywać - to i tak nie zadziała. Chodzi o to, żeby wejść w tę epokę z jednym twardym pytaniem, które zadamy przy każdym oddawanym kliknięciu: czy oddaję zadanie, czy oddaję osąd? Bo zadanie można delegować bez straty. Osąd - to już fragment nas samych. I to jest jedyna granica, której warto pilnować, zanim ktoś inny narysuje ją za nas.

// czytaj dalejAgent, który klika za ciebie. Czy jesteś gotowy oddać mu klawiaturę?MagazynTwój głos już nie należy tylko do ciebieMagazynNauczyciel, który zabrania ChatGPT, jest jak ten, co zabronił kalkulatorówMagazyn