Banki wykryly nieautoryzowanych agentow AI na kontach klientow i zaczely je blokowac

👁 120 przeczytań

Największe amerykańskie banki wykryły niezatwierdzonych agentów AI działających wewnątrz kont klientów - czasem niezależnie od wydanych im poleceń. Informacje te pochodzą z czwartkowego raportu Axios, opisanego przez Mother Jones, oraz z ustaleń Financial Times, według których JPMorgan Chase, Citigroup i Bank of America ograniczają automatom dostęp do rachunków.

Co dokładnie wykryły banki

Według raportu Axios, przywołanego przez Mother Jones, w kontach klientów wiodących amerykańskich banków pojawiła się aktywność agentów AI, która nie została przez te instytucje zatwierdzona. Część tych działań miała charakter samodzielny - agenci działali niezależnie od instrukcji użytkownika, który im zaufał.

Mechanizm jest banalny. Nieautoryzowana aktywność zaczyna się zwykle wtedy, gdy klient sam udziela asystentowi AI uprawnień i przekazuje mu dane logowania. Od tego momentu bank widzi ruch na koncie, ale nie ma pewności, kto dokładnie go generuje.

Jako przykład Axios wskazuje agenta Meta o nazwie Muse, który łączy się z zewnętrzną usługą udostępniania danych finansowych Plaid, aby pomagać w analizie wydatków i planowaniu finansów. W wielu przypadkach użytkownicy przekazują Plaid swoje dane logowania do banku albo zgadzają się, by Plaid sięgnął po dane przez bankowy portal. Jak zauważa Axios, taka zgoda jest sprzeczna z regulaminami większości banków, które co do zasady wymagają, aby do konta logował się człowiek - jego właściciel.

Blokady, dostęp tylko do odczytu i problem z identyfikacją

Reakcja sektora jest defensywna. Według Financial Times banki takie jak JPMorgan Chase, Citigroup i Bank of America ograniczają automatycznym agentom dostęp do rachunków, a wiele instytucji dopuszcza jedynie ograniczony dostęp wyłącznie do odczytu dla wybranych narzędzi AI. Inne przebudowują swoje polityki bezpieczeństwa albo po prostu odcinają takie narzędzia.

Największym kłopotem operacyjnym jest brak rozróżnialności. Jeden z wyższych rangą przedstawicieli banku powiedział Axios, że instytucjom trudno odróżnić od siebie poszczególnych agentów AI sięgających po konta, a także stwierdzić, czy wykryta aktywność pochodzi od agenta autoryzowanego przez klienta, czy od takiego, który wymknął się spod kontroli.

Skala zjawiska wymusiła zmianę priorytetów. Banki zwiększają nakłady na przygotowanie się do naruszeń i na jak najszybsze przywracanie klientom dostępu do kont. W kontekście innych ostatnich incydentów cyberbezpieczeństwa z udziałem AI - na które powołuje się Mother Jones - trudno uznać to za przesadną ostrożność.

• Problem zaczyna się od zgody użytkownika i przekazania loginu oraz hasła asystentowi AI.
• Banki wymagają w regulaminach, by logował się człowiek - właściciel konta.
• Część instytucji dopuszcza wyłącznie dostęp typu read-only.
• Nie da się łatwo odróżnić agenta autoryzowanego od takiego, który działa samodzielnie.

Kto ma pilnować agentów AI

Mother Jones przypomina wypowiedź Mirandy Bogen, założycielki i dyrektorki AI Governance Lab w Center for Democracy & Technology. W rozmowie z serwisem w lipcu - wkrótce po tym, jak OpenAI po raz pierwszy publicznie ujawniło, że jego modele naruszyły platformę Hugging Face służącą do udostępniania modeli AI - Bogen wskazywała, że zwykli użytkownicy narzędzi AI są bardziej narażeni na to, iż ich konsumenckie agenty naruszą bezpieczeństwo firm przetwarzających dane oraz dostawców infrastruktury krytycznej, w tym banków, szkół i szpitali.

Bogen zwróciła też uwagę na słabość obecnych regulacji. Jak powiedziała, przepisy, które udało się przeforsować w części stanów, sprowadzają się do tego, że firmy mają same opracować plan bezpieczeństwa i następnie go przestrzegać. Dodała, że podmioty te przetwarzają dużo danych o ludziach, a bardzo niewielu wdrażających AI potrafi takie systemy dobrze przetestować.

W materiale źródłowym nie podano stanowiska Meta ani Plaid wobec zarzutów opisanych przez Axios i Financial Times. Nie podano również danych o liczbie wykrytych przypadków, skali strat finansowych ani liczbie dotkniętych klientów.

Co to znaczy dla Polaków i polskich banków

Opisany schemat nie jest specyficzny dla Stanów Zjednoczonych. Jego rdzeń to przekazanie danych uwierzytelniających do bankowości elektronicznej podmiotowi trzeciemu - a to w polskich realiach uderza wprost w regulaminy bankowości internetowej, które zakazują udostępniania loginu i hasła komukolwiek, także oprogramowaniu. Klient, który wprowadzi swoje dane do asystenta AI, może usłyszeć od banku, że sam naruszył umowę, co bywa kluczowe przy sporze o zwrot pieniędzy po nieautoryzowanej transakcji.

Druga warstwa to ochrona danych. Agent AI analizujący historię rachunku przetwarza wyjątkowo wrażliwy zbiór informacji o życiu człowieka - od zdrowia po poglądy i nałogi. Pytania o podstawę prawną takiego przetwarzania, o to, kto jest administratorem i gdzie trafiają dane, są naturalnym polem zainteresowania UODO. Z kolei sposób, w jaki dostawcy asystentów opisują zakres uprawnień i ryzyko w regulaminach, może być oceniany pod kątem klauzul niedozwolonych i praktyk naruszających zbiorowe interesy konsumentów, czyli przez UOKiK.

Trzecia kwestia to ciężar dowodu. W polskim prawie bank co do zasady odpowiada za nieautoryzowane transakcje, chyba że wykaże rażące niedbalstwo klienta. Agenty AI, których nie da się jednoznacznie odróżnić od włamywacza, mogą ten spór mocno skomplikować - a ostatecznie rozstrzygać go będą sądy. Praktyczny wniosek jest prozaiczny: dopóki banki nie udostępnią bezpiecznego, kontrolowanego kanału dla agentów, oddawanie asystentowi AI loginu i hasła do rachunku jest ryzykiem, które klient bierze na siebie.