Jedna piąta Brytyjczyków gotowa powierzyć finanse chatbotowi - i nikt ich nie chroni

👁 130 przeczytań

Jedna piąta dorosłych Brytyjczyków jest już gotowa, by ChatGPT, Claude lub Gemini decydował o ich oszczędnościach albo wyborze kredytu. Nie ma znaczenia, że żaden przepis ich przy tym nie chroni i że w razie błędu nie mają prawa do odszkodowania. Ta jedna liczba - 20 procent - stała się punktem wyjścia dla jednego z najważniejszych ostrzeżeń, jakie brytyjski nadzór finansowy wydał w ostatnich latach.

Wyścig, którego regulator ledwo nadąża

Sheldon Mills, dyrektor wykonawczy Financial Conduct Authority, nie przebiera w słowach. W rozmowie z Financial Times, udzielonej przed poniedziałkową publikacją raportu zamówionego przez FCA, powiedział wprost: "To wyścig zbrojeń." Mills - który po ośmiu latach odchodzi z regulatora - opisuje rzeczywistość, w której nadzorcy sektora finansowego gonią za technologią, a nie ją wyprzedzają. Żeby nadążyć za "prędkością, tempem i skalą zmian", które AI wprowadza do finansów, regulator sam będzie musiał sięgnąć po te same narzędzia - po to, żeby "monitorować, wykrywać i eliminować ryzyka".

To zdanie brzmi jak przyznanie się do słabości, ale Mills traktuje je jako trzeźwą diagnozę. Raport, który napisał na zlecenie FCA, to katalog zarówno obietnic, jak i zagrożeń.

Z jednej strony Mills widzi demokratyzację finansów. Osoba zarabiająca zaledwie 20 tysięcy funtów rocznie mogłaby - dzięki AI - uzyskać dostęp do porad finansowych, które dziś zarezerwowane są dla kogoś z 10 milionami funtów oszczędności lub aktywów. "Co tu można nie lubić?" - pyta retorycznie. Z drugiej strony ten sam mechanizm, który wyrównuje dostęp, może służyć manipulacji. "Hiperpersonalizacja mogłaby lepiej dopasowywać produkty do potrzeb, ale też umożliwiać stronniczość, nieprzejrzyste ceny i spersonalizowaną manipulację" - czytamy w streszczeniu raportu.

Szara strefa za miliardowe stawki

Sedno problemu jest prawne. Firmy oferujące regulowane doradztwo finansowe podlegają "dość rygorystycznym" przepisom - jak przyznaje sam Mills. Ale co, gdy tę samą usługę świadczy chatbot, który formalnie nie jest doradcą, tylko... modelem językowym odpowiadającym na pytania?

"Niektóre firmy mówiły nam, że czują, że to może być ekonomicznie równoważna usługa, która nie jest regulowana i znajduje się poza granicami nadzoru regulacyjnego" - powiedział Mills. I sam stawia pytanie, które staje się kluczem do całej debaty: "Czy fakt, że model czatu może odpowiadać na zapytania i prowadzić rozmowę, jest czymś bliższym rekomendacji czy jedynie wskazówce?"

To nie jest akademickie pytanie. Miliony ludzi już teraz pytają ChatGPT czy Claude'a, czy wziąć kredyt hipoteczny o stałej czy zmiennej stopie. Czy ulokować oszczędności w funduszu indeksowym. Czy refinansować dług. Modele odpowiadają - czasem trafnie, czasem nie. I nikt za tę odpowiedź nie ponosi odpowiedzialności w sposób, który prawo finansowe uznałoby za wiążący.

Mills rekomenduje, by FCA przeprowadziła przegląd w ciągu najbliższych trzech do sześciu miesięcy - z fokusem na ryzyko firm świadczących usługi finansowe poza zasięgiem regulatora oraz na "szkody konsumenckie" wynikające z rosnącego użycia modeli AI do zarządzania osobistymi finansami. Proponuje też powołanie grupy publiczno-prywatnej, która opracuje "usługę kompetencji finansowych opartą na AI" - darmowy serwis dostarczający Brytyjczykom informacji i wskazówek dotyczących ich wyborów finansowych.

Deepfaki, syntetyczne tożsamości i nowa era fraudów

Demokratyzacja i manipulacja to jednak nie jedyne napięcie, które Mills opisuje. Jego raport poświęca wiele uwagi zagrożeniom, które AI wnosi do systemu finansowego od zewnątrz - jako narzędzie przestępców.

"Deepfaki, syntetyczne tożsamości i spersonalizowany social engineering wprowadzają ryzyko fraudów i cyberataków w nową erę i zmieniają sposób, w jaki przeprowadzane są oszustwa i ataki."

Mills dostrzega tu pewną ironię: to samo narzędzie, które amplifikuje zagrożenie, musi być też użyte do obrony. Raport wzywa do stosowania AI w ochronie systemu przed tymi zagrożeniami - co tylko pogłębia obraz wyścigu zbrojeń, tym razem już dosłownie.

Wiele instytucji finansowych pilotuje już agentów AI zdolnych do autonomicznego przeprowadzania transakcji - zarówno dla firm, jak i klientów indywidualnych. Mills nie mówi, że należy to zatrzymać. Mówi, że ktoś musi za to odpowiadać. "Potrzebny jest człowiek odpowiedzialny za to, co robią" - powiedział, precyzując, że menedżerowie firm będą musieli zachować accountability za działania swoich modeli AI.

To zdanie - proste, prawie oczywiste - w rzeczywistości wyznacza linię frontu regulacyjną debatę w Europie na najbliższe lata. Bo kiedy agent AI samodzielnie przenosi środki, wybiera produkt kredytowy albo składa zlecenie giełdowe, pytanie "kto za to odpowiada" przestaje być retoryczne.

Dwadzieścia procent dorosłych Brytyjczyków już wybrało swój model językowy zamiast doradcy finansowego - i dopiero teraz regulator zaczyna zastanawiać się, co z tym zrobić.