Schneier: AI zaciera granicę między umiejętnością a zdolnością do cyberataku

👁 130 przeczytań

Agencje bezpieczeństwa narodowego krajów Five Eyes - sojuszu wywiadowczego anglojęzycznych państw - wydały w zeszłym tygodniu wspólny komunikat ostrzegający przed rosnącym cyberzagrożeniem ze strony modeli AI, a konkretnie ich zdolnością do samodzielnego włamywania się do systemów i sieci.

Jak zauważa ekspert od bezpieczeństwa Bruce Schneier, sam komunikat był bardziej wyważony niż alarmistyczne nagłówki na jego temat, a zawarte w nim porady to w gruncie rzeczy standardowy zestaw zaleceń - tyle że podany z nową pilnością.

Sednem zmiany jest według Schneiera zacieranie się różnicy między umiejętnością a zdolnością do działania. Przez większość historii oba pojęcia oznaczały to samo, ale komputery je rozdzieliły, a AI robi to coraz szybciej. Dzisiejsze modele - nie tylko te najnowocześniejsze, ale większość z nich - potrafią przy minimalnym poleceniu autonomicznie włamywać się do sieci, wykradać dane, wdrażać oprogramowanie szantażujące i niszczyć systemy.

Schneier przypomina słynne zeznania siedmiu hakerów z grupy L0pht przed amerykańskim Senatem w 1998 roku, gdy oświadczyli, że są w stanie wyłączyć internet w 30 minut. Wtedy włamania, kradzież danych i sabotaż wymagały prawdziwych umiejętności. Dziś, przekonuje Schneier, liczba potencjalnych atakujących rośnie dramatycznie wraz z AI, bo narzędzia coraz częściej działają samodzielnie przy minimalnym poleceniu.

Ludzie mający zdolność, ale nie umiejętności, są często outsiderami, nie należą do żadnej społeczności zawodowej i nie wiążą ich żadne reguły ani normy.

Bruce Schneier zwraca uwagę, że długi proces zdobywania fachu zwykle wpaja też kodeks etyczny - i właśnie dlatego mordercy z dyplomem lekarza czy terroryści z wykształceniem inżynierskim są rzadkością. AI daje zaś gotową radę każdemu, kto o nią poprosi. Rozwiązaniem, jeśli w ogóle, ma być zaprzęgnięcie AI do obrony.

To rzadki przypadek, gdy ostrzeżenie służb i ich recepta wskazują na to samo narzędzie.