Anthropic ostrzega: robaki AI mogą już za kilka miesięcy roznosić się między urządzeniami smart home

Ten news ukazał się 1 godzina po komunikacie źródła.

👁 126 przeczytań

Małe modele sztucznej inteligencji mogą być już o zaledwie kilka miesięcy od zdolności do samodzielnego kopiowania się między podłączonymi do internetu urządzeniami - bez żadnej ingerencji człowieka. Taki wniosek płynie z badania opublikowanego w poniedziałek na blogu Anthropic, którego autorami są William Zhou i Daniel Freeman.

To potencjalnie nowy front w cyberbezpieczeństwie, o ile taki scenariusz się zmaterializuje. Do tej pory złośliwe oprogramowanie działające na podstawie AI wymagało mocy obliczeniowej dużych centrów danych. Robak AI opisany przez badaczy Anthropic mógłby jednak działać na sieciach tanich, słabo zabezpieczonych urządzeń konsumenckich - inteligentnych telewizorach, dekoderach, a nawet urządzeniach kuchennych.

Slime mold i muszki owocowe

Autorzy badania porównują potencjalnego robaka AI do śluzowca albo roju muszek owocowych - organizmu, który porusza się powoli, ale konsekwentnie i bez jednego centrum dowodzenia. Kopiowanie się z urządzenia na urządzenie zajęłoby prawdopodobnie dni, nie minuty. To istotna różnica w porównaniu z klasycznym złośliwym oprogramowaniem, które potrafi infekować tysiące maszyn w ciągu sekund.

Jednak właśnie ta cecha - brak centralnego przełącznika do wyłączenia - sprawia, że robak byłby trudny do wyeliminowania po jego powstaniu. W tradycyjnych botnetach organy ścigania lub firmy bezpieczeństwa mogą przejąć lub wyłączyć serwery dowodzenia i kontroli, co paraliżuje całą sieć. Robak AI kopiujący się autonomicznie między urządzeniami nie ma takiego wąskiego gardła.

Swoje szacunki badacze oparli na modelu botnetu Kimwolf - sieci przejętych urządzeń kontrolowanych przez hakerów, która w szczytowym momencie zainfekowała ponad dwa miliony gadżetów. Zdecydowana większość z nich to tanie dekodery Android TV nieznanych marek - dokładnie ten typ sprzętu, który trafia do milionów domów i który rzadko otrzymuje aktualizacje zabezpieczeń.

Sami autorzy zastrzegają, że ich szacunki są przybliżone - oparte na jednym typie urządzenia i jednym historycznym botnecie. Niemniej wskazują na wyraźny kierunek: ilość mocy obliczeniowej w codziennych gadżetach rośnie, a modele AI potrzebne do przeprowadzenia takiego ataku stają się coraz mniejsze i mniej zasobożerne.

Kontekst technologiczny jest tutaj kluczowy. Wielkie firmy technologiczne - od Apple przez Google po Samsung - inwestują ogromne środki w to, by modele AI działały lokalnie na telefonach, laptopach, samochodach i urządzeniach domowych, a nie wyłącznie w odległych centrach danych. To trend korzystny z perspektywy prywatności i szybkości działania, ale jednocześnie rozproszony ekosystem AI na urządzeniach konsumenckich tworzy nową powierzchnię ataku - i to taką, którą znacznie trudniej monitorować i aktualizować centralnie niż serwery w chmurze.

Klasyczny robak komputerowy - jak choćby słynny Morris Worm z 1988 roku czy WannaCry z 2017 roku - to złośliwe oprogramowanie zdolne do samodzielnego rozprzestrzeniania się między maszynami poprzez sieć. Nie wymaga wysyłania zainfekowanych plików do ofiar ani ich klikania; wystarczy, że znajdzie lukę i przeskoczy dalej. Robak AI opisywany przez Anthropic byłby czymś podobnym, tyle że zamiast exploitować klasyczne podatności systemowe, opierałby się na możliwościach małych modeli językowych lub innych sieci neuronowych uruchamianych lokalnie.

Badanie pojawia się w momencie, gdy rządy i korporacje dopiero zaczynają rozumieć skalę cyberzagrożeń związanych z AI. Dotychczasowe obawy koncentrowały się głównie na deepfake’ach, phishingu wspomaganym przez generatywne modele czy automatyzacji ataków hakerskich. Scenariusz samopowielającego się robaka AI na urządzeniach IoT to nowa jakość - i według Anthropic niekoniecznie odległa przyszłość.

Jeśli szacunki Anthropic są trafne, branża bezpieczeństwa ma bardzo mało czasu, by wypracować odpowiedź, zanim pierwsze urządzenia w naszych domach staną się węzłami potencjalnej sieci botnet nowej generacji.