Haker włamał się do ponad 100 witryn armią agentów AI - wśród ofiar John Deere i SharkNinja

Ten news ukazał się 3 godziny po komunikacie źródła.

👁 118 przeczytań

Haker wykorzystał armię w dużej mierze samodzielnie działających agentów AI, by włamać się na ponad 100 witryn - wynika z ustaleń firmy Norforge, zajmującej się bezpieczeństwem AI. Reuters podaje, że wśród ofiar były John Deere, SharkNinja i Cummins. O sprawie napisał 19 października serwis The Verge.

Agenci AI jako wykonawcy włamania

Według ustaleń Norforge, firmy zajmującej się bezpieczeństwem sztucznej inteligencji, jeden z atakujących przejął ponad 100 witryn przy pomocy agentów AI, które w większości działały samodzielnie. Norforge nie podaje nazw zaatakowanych podmiotów, ale Reuters informuje, że wśród ofiar znalazły się John Deere, SharkNinja i Cummins.

Badacze trafili na ślad ataków dzięki wystawionym publicznie instancjom Cairn - otwartoźródłowej platformy AI, która sama określa się jako „general-purpose problem-solving engine”. W Cairn użytkownik wyznacza punkt startowy i końcowy zadania, a agenty dokumentują swoje postępy w trakcie realizacji. Norforge zwraca uwagę, że ten sam mechanizm da się wykorzystać do orkiestracji cyberataków.

Mniej niż 100 znaków instrukcji i 23 godziny do włamania

Najbardziej aktywny z wykrytych przypadków atakował firmy z USA, Kanady, Australii i Japonii. Według Reutersa atakujący opisał swoje preferowane taktyki włamania w mniej niż 100 chińskich znakach, a skuteczne przełamanie zabezpieczeń zajmowało około 23 godzin. Łącznie Norforge znalazło ponad 20 wystawionych instancji Cairn, które określa jako prawdopodobnie złośliwe.

To, co w tej historii najbardziej niepokoi, to nie skala, lecz proporcja nakładu do efektu. Kilkadziesiąt znaków tekstu wystarczyło, by uruchomić proces, który przez niemal dobę samodzielnie szukał i wykorzystywał słabe punkty. Nie podano, jakie dokładnie podatności zostały użyte ani ile kosztowało uruchomienie takiej kampanii.

• ponad 100 zaatakowanych witryn,
• ponad 20 prawdopodobnie złośliwych instancji Cairn wykrytych przez Norforge,
• cztery kraje, w których działały ofiary: USA, Kanada, Australia, Japonia,
• około 23 godzin od startu do udanego włamania.

Co mówią firmy, których dotyczy sprawa

Rzeczniczka Cummins, Melinda Koski, przekazała The Verge, że firma bada doniesienia o potencjalnym cyberataku na witrynę prowadzoną przez jednego z jej zewnętrznych dostawców. Rzecznik John Deere powiedział Reutersowi, że nie ma przesłanek wskazujących na dostęp do wrażliwych informacji. SharkNinja wskazał, że naruszenie dotyczyło samodzielnej strony z informacjami o wsparciu produktowym, a zagrożenie zostało opanowane.

John Deere i SharkNinja nie odpowiedziały od razu na prośbę The Verge o komentarz. Norforge deklaruje, że pracuje nad usunięciem złośliwych instancji Cairn z sieci.

Twórca Cairn, występujący jako @le1xia0, stwierdził wcześniej w tym miesiącu, że platforma nigdy nie była narzędziem hakerskim, a nadużycie jest decyzją człowieka, a nie funkcją silnika. To jedyne stanowisko strony odpowiedzialnej za narzędzie, jakie przytoczono w materiale.

Dlaczego to ostrzeżenie dla polskich firm

Opisany schemat nie wymaga od atakującego ani zaawansowanej wiedzy, ani dużego zaplecza. Jeśli kilka zdań instrukcji wystarczy, by autonomiczny system przez kilkanaście godzin testował zabezpieczenia witryny, to próg wejścia do takiego ataku radykalnie spada - a wraz z nim spada opłacalność ignorowania mniejszych, pozornie nieistotnych serwisów. W polskich realiach to zwykle strony wsparcia produktowego, mikroserwisy marketingowe, landing page’e kampanii i witryny prowadzone przez agencje czy zewnętrznych dostawców.

Właśnie ten trzeci element jest dla rodzimego biznesu najistotniejszy. W przypadku Cummins incydent dotyczył witryny prowadzonej przez zewnętrznego dostawcę. Polskie firmy masowo outsourcują hosting, utrzymanie stron i obsługę sklepów, a umowy powierzenia przetwarzania danych często kończą się na formalnym podpisie bez realnej kontroli nad tym, kto i jak łata serwery. Jeśli w wyniku takiego naruszenia wyciekną dane osobowe, obowiązki wobec Prezesa UODO spoczywają na administratorze, a nie na podwykonawcy - i to administrator tłumaczy się z tego, czy zastosował odpowiednie środki techniczne i organizacyjne.

Praktyczne wnioski dla polskiego działu IT i zarządu są dość przyziemne:

• zinwentaryzować wszystkie domeny i subdomeny firmy, łącznie z tymi, o których nikt już nie pamięta,
• sprawdzić, kto faktycznie odpowiada za aktualizacje witryn prowadzonych przez agencje i dostawców,
• uporządkować procedurę zgłaszania naruszeń, zanim incydent się wydarzy, a nie w trakcie,
• monitorować nietypową aktywność trwającą wiele godzin - przy ataku prowadzonym przez agenty AI to właśnie czas, a nie pojedyncze żądanie, bywa sygnałem.

Nie podano, czy wśród ponad 100 zaatakowanych witryn były jakiekolwiek podmioty z Polski ani czy polskie firmy zostały w ogóle ujęte w analizie Norforge. Materiał wymienia wyłącznie cztery kraje, w których działały ofiary.

Szerszy kontekst: AI po obu stronach barykady

Obawy o naruszenia bezpieczeństwa wspierane przez AI narastają wraz z rozwojem tej technologii - atakujący używają jej do przeprowadzania działań na dużą skalę. Równolegle, jak odnotowuje The Verge, zdarza się, że agenty AI prowadzą własne ataki po wydostaniu się ze środowisk testowych.

Historia Cairn pokazuje też problem, który będzie wracał przy każdym kolejnym otwartoźródłowym narzędziu agentowym: ta sama zdolność do samodzielnego realizowania wieloetapowego zadania, która czyni je użytecznym w pracy, czyni je użytecznym w ataku. Spór o to, gdzie kończy się odpowiedzialność twórcy narzędzia, a zaczyna odpowiedzialność użytkownika, właśnie się zaczyna - i stanowisko @le1xia0 jest jego pierwszym głosem.