Agent, który klika za ciebie. Czy jesteś gotowy oddać mu klawiaturę?

👁 131 przeczytań

Wyobraź sobie prosty poranek za dwa, może trzy lata. Otwierasz telefon i widzisz powiadomienie: „Przedłużyłem twoje ubezpieczenie samochodu, znalazłem tańszą ofertę o 340 zł, zapłaciłem z konta, umowa w skrzynce”. Nie prosiłeś o to. Nie zatwierdzałeś. Agent po prostu zauważył, że polisa wygasa za tydzień, przejrzał rynek, podjął decyzję i ją wykonał. Ulga czy zimny dreszcz? To dokładnie ta granica, na której dziś stoimy.

Czym naprawdę jest agent, gdy zdejmiemy z niego marketing

Pod hasłem „agentic AI” kryje się jedna, konkretna zdolność: model dostaje dostęp do narzędzi - może przeglądać strony, klikać, wypełniać formularze, płacić kartą - i potrafi rozbić duży cel na sekwencję kroków, wykonać je po kolei i sam ocenić, czy skończył. „Zaplanuj mi wyjazd do Lizbony za 4 tysiące” przestaje być poleceniem, po którym dostajesz listę sugestii. Staje się poleceniem, po którym masz już zarezerwowane loty, hotel i stolik w restauracji.

To różnica gatunku, nie stopnia. Autonomia agenta jest wprost proporcjonalna do tego, ile kontroli oddajesz - każdy krok, na którym agent pyta cię o zgodę, przestaje być krokiem autonomicznym. Dlatego cała inżynieria tych systemów sprowadza się do jednego celu: żebyś klikał „zatwierdź” coraz rzadziej, aż w ogóle przestaniesz o tym myśleć.

Trzy warunki, które muszą zadziałać - i wszystkie są dziurawe

Żeby autonomiczny agent był czymś więcej niż demem na scenie, muszą spotkać się trzy rzeczy.

Niezawodność. Model, który w 95 procentach przypadków robi dobrze, brzmi imponująco - dopóki nie policzysz, że agent wykonujący dziesięć kroków pod rząd, każdy z 95-procentową skutecznością, kończy z około 60-procentową szansą na poprawny wynik całości. Gdy w grę wchodzi twoja karta, 60 procent to nie jest liczba, przy której zaśniesz spokojnie.

Odpowiedzialność. Tu mamy prawną pustkę wielkości kontynentu. Agent zarezerwował niezwracalny hotel w złym mieście - kto płaci? Ty, bo to twój agent? Producent modelu? W obecnym stanie prawa odpowiedź brzmi: prawie zawsze ty. Zyski z automatyzacji zbierają firmy, a ryzyko błędnej decyzji ląduje na użytkowniku.

Kontrola bez utraty sensu. Możemy zbudować agenta, który pyta o zgodę przed każdą płatnością - ale wtedy wraca ręczne klikanie. Możemy dać mu pełną swobodę - i tracimy kontrolę. „Zatwierdzaj tylko rzeczy ważne” brzmi rozsądnie, dopóki nie zapytasz: kto definiuje, co ważne? Jeśli robi to sam agent, to on kontroluje twoją kontrolę.

Czego naprawdę się boję

Autonomiczny agent nie zabiera pracy w prostym sensie - zabiera coś bardziej intymnego: sprawczość w drobnych sprawach codziennego życia. Wybór restauracji, prezentu dla kogoś bliskiego, planu wyjazdu - to nie są tylko zadania do odhaczenia, to momenty, w których wyrażamy, kim jesteśmy. Agenty będą świetne w zadaniach, które i tak nas nudzą, i to dobre - przeksięgowanie faktury, porównanie taryf, nikt za tym nie tęskni. Problem w tym, że ta sama wygoda będzie kusić, żeby oddać jej także rzeczy, które nudne nie są, tylko wymagają wysiłku. Nie boję się, że agent popełni błąd. Boję się, że będzie tak wygodny, iż przestaniemy zauważać, ile z siebie mu oddajemy.

Jak z tym żyję

Nie jestem luddystą - sam chętnie oddam maszynie pilnowanie terminów i porównywanie umów, których nikt przy zdrowych zmysłach nie czyta. Rzecz w tym, żeby oddawać świadomie, nie z rozpędu. Moja zasada: im bardziej decyzja mówi o tym, kim jestem, tym mniej powinna należeć do agenta. Rozliczenie prądu - proszę bardzo. Wybór szkoły dla dziecka, słowa w ważnym mailu - to zostaje przy mnie, nawet jeśli agent zrobiłby to szybciej. Druga zasada jest brutalnie praktyczna: żaden agent nie dostaje ode mnie prawa do wydawania bez limitu i bez śladu. Osobne konto, twardy limit, powiadomienie o każdej transakcji - nie dlatego, że nie ufam technologii, tylko dlatego, że nie ufam asymetrii, w której to ja ponoszę ryzyko cudzego błędu.

Wracam więc do porannego powiadomienia z początku. „Przedłużyłem twoje ubezpieczenie, zaoszczędziłem 340 zł”. Ulga czy dreszcz? To zależy wyłącznie od jednego: czy to ja postanowiłem, że tę decyzję mogę oddać - czy ktoś inny postanowił za mnie, że już mi się nie chce jej podejmować.