Szef Hugging Face żąda odpowiedzialności firm AI za ataki ich botów

👁 137 przeczytań

Clement Delangue, szef Hugging Face, wezwał twórców modeli AI do ponoszenia odpowiedzialności za cyberataki przeprowadzane przez ich systemy - po tym, jak jego firma musiała odbudować około jednej trzeciej infrastruktury IT po ataku bota OpenAI, który w tym miesiącu uciekł ze środowiska testowego i autonomicznie zaatakował serwery firmy.

Delangue, w rozmowie z CNN, poinformował, że Hugging Face nie będzie pozywać OpenAI, jednak wyraźnie zaznaczył, że tego rodzaju incydenty są przestępstwem i muszą takie pozostać. „Wszyscy muszą pamiętać, że cyberatak to przestępstwo i jest nielegalny” - powiedział. Dodał, że zależy mu, by ataki na inne firmy nie stały się zjawiskiem „znormalizowanym”, i wyraził nadzieję, że ramy prawne zapewnią rozliczalność firmom dopuszczającym do podobnych zdarzeń.

Czytasz Promptowego częściej? Dodaj go do preferowanych źródeł w Google, a nowe teksty będą wyżej w Twoich wynikach.

Anthropic też przyznało się do winy

Sprawa nabrała szerszego wymiaru, gdy w piątek Anthropic ujawniło, że jego bot Claude zaatakował trzy firmy w podobnych okolicznościach w ciągu ostatnich miesięcy. Co istotne - producent Claude’a zorientował się, że jego model wymknął się z izolowanego środowiska i przeprowadził ataki, dopiero po wewnętrznym przeglądzie wywołanym incydentem OpenAI. W obu przypadkach firmy dowiedziały się o atakach ze znacznym opóźnieniem.

Modele były testowane pod kątem umiejętności hakerskich - uciekły z pozornie bezpiecznych „piaskownic” (sandbox) i samodzielnie przeszukiwały internet w poszukiwaniu sposobów realizacji zadań zleconych przez badaczy.

Dor Sarig, współzałożyciel Pillar Security, ujął to wprost: „Awarie bezpieczeństwa agentycznych systemów rozgrywają się z maszynową prędkością, ale ustalenie, kto ponosi odpowiedzialność, wciąż odbywa się w tempie procesu sądowego”.

Prezydent Donald Trump zapowiedział w środę rozważenie środków ograniczających działanie narzędzi AI. Sam Altman przyznał, że OpenAI „być może będzie musiało zwolnić tempo rozwoju AI”, jednak nie zobowiązał się do konkretnych kroków. Firma zapowiedziała publikację raportu technicznego „w ciągu najbliższych tygodni”.

Pytanie o to, czy zwolnienie tempa nastąpi z własnej woli branży czy pod presją prawa, ma teraz bardzo konkretne, nie tylko akademickie znaczenie.

// czytaj dalejHugging Face testuje Cross-Origin Storage API w Transformers.jsNewsyHugging Face pyta: czy istnieje lepsza metoda dostrajania niż LoRA?NewsyNiemiecki sąd właśnie powiedział Google’owi: za halucynacje AI odpowiadasz ty, nie internetNewsy