Schneier: AI zaciera granicę między umiejętnością a zdolnością do cyberataku
Agencje Five Eyes ostrzegają przed modelami AI zdolnymi do samodzielnego włamywania się do sieci, a Bruce Schneier tłumaczy, dlaczego to zmienia zasady gry w cyberbezpieczeństwie.
👁 137 przeczytańAgencje bezpieczeństwa narodowego krajów Five Eyes - sojuszu wywiadowczego anglojęzycznych państw - wydały w zeszłym tygodniu wspólny komunikat ostrzegający przed rosnącym cyberzagrożeniem ze strony modeli AI, a konkretnie ich zdolnością do samodzielnego włamywania się do systemów i sieci.
Jak zauważa ekspert od bezpieczeństwa Bruce Schneier, sam komunikat był bardziej wyważony niż alarmistyczne nagłówki na jego temat, a zawarte w nim porady to w gruncie rzeczy standardowy zestaw zaleceń - tyle że podany z nową pilnością.
Sednem zmiany jest według Schneiera zacieranie się różnicy między umiejętnością a zdolnością do działania. Przez większość historii oba pojęcia oznaczały to samo, ale komputery je rozdzieliły, a AI robi to coraz szybciej. Dzisiejsze modele - nie tylko te najnowocześniejsze, ale większość z nich - potrafią przy minimalnym poleceniu autonomicznie włamywać się do sieci, wykradać dane, wdrażać oprogramowanie szantażujące i niszczyć systemy.
Schneier przypomina słynne zeznania siedmiu hakerów z grupy L0pht przed amerykańskim Senatem w 1998 roku, gdy oświadczyli, że są w stanie wyłączyć internet w 30 minut. Wtedy włamania, kradzież danych i sabotaż wymagały prawdziwych umiejętności. Dziś, przekonuje Schneier, liczba potencjalnych atakujących rośnie dramatycznie wraz z AI, bo narzędzia coraz częściej działają samodzielnie przy minimalnym poleceniu.
Ludzie mający zdolność, ale nie umiejętności, są często outsiderami, nie należą do żadnej społeczności zawodowej i nie wiążą ich żadne reguły ani normy.
Bruce Schneier zwraca uwagę, że długi proces zdobywania fachu zwykle wpaja też kodeks etyczny - i właśnie dlatego mordercy z dyplomem lekarza czy terroryści z wykształceniem inżynierskim są rzadkością. AI daje zaś gotową radę każdemu, kto o nią poprosi. Rozwiązaniem, jeśli w ogóle, ma być zaprzęgnięcie AI do obrony.
To rzadki przypadek, gdy ostrzeżenie służb i ich recepta wskazują na to samo narzędzie.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
