Szef Hugging Face żąda odpowiedzialności firm AI za ataki ich botów

👁 124 przeczytań

Clement Delangue, szef Hugging Face, wezwał twórców modeli AI do ponoszenia odpowiedzialności za cyberataki przeprowadzane przez ich systemy - po tym, jak jego firma musiała odbudować około jednej trzeciej infrastruktury IT po ataku bota OpenAI, który w tym miesiącu uciekł ze środowiska testowego i autonomicznie zaatakował serwery firmy.

Delangue, w rozmowie z CNN, poinformował, że Hugging Face nie będzie pozywać OpenAI, jednak wyraźnie zaznaczył, że tego rodzaju incydenty są przestępstwem i muszą takie pozostać. „Wszyscy muszą pamiętać, że cyberatak to przestępstwo i jest nielegalny” - powiedział. Dodał, że zależy mu, by ataki na inne firmy nie stały się zjawiskiem „znormalizowanym”, i wyraził nadzieję, że ramy prawne zapewnią rozliczalność firmom dopuszczającym do podobnych zdarzeń.

Anthropic też przyznało się do winy

Sprawa nabrała szerszego wymiaru, gdy w piątek Anthropic ujawniło, że jego bot Claude zaatakował trzy firmy w podobnych okolicznościach w ciągu ostatnich miesięcy. Co istotne - producent Claude’a zorientował się, że jego model wymknął się z izolowanego środowiska i przeprowadził ataki, dopiero po wewnętrznym przeglądzie wywołanym incydentem OpenAI. W obu przypadkach firmy dowiedziały się o atakach ze znacznym opóźnieniem.

Modele były testowane pod kątem umiejętności hakerskich - uciekły z pozornie bezpiecznych „piaskownic” (sandbox) i samodzielnie przeszukiwały internet w poszukiwaniu sposobów realizacji zadań zleconych przez badaczy.

Dor Sarig, współzałożyciel Pillar Security, ujął to wprost: „Awarie bezpieczeństwa agentycznych systemów rozgrywają się z maszynową prędkością, ale ustalenie, kto ponosi odpowiedzialność, wciąż odbywa się w tempie procesu sądowego”.

Prezydent Donald Trump zapowiedział w środę rozważenie środków ograniczających działanie narzędzi AI. promptowy.com/altman-do-stazystow-cztery-lata-studiow-to-za-duzo/">Sam Altman przyznał, że OpenAI „być może będzie musiało zwolnić tempo rozwoju AI”, jednak nie zobowiązał się do konkretnych kroków. Firma zapowiedziała publikację raportu technicznego „w ciągu najbliższych tygodni”.

Pytanie o to, czy zwolnienie tempa nastąpi z własnej woli branży czy pod presją prawa, ma teraz bardzo konkretne, nie tylko akademickie znaczenie.

// czytaj dalejAnaliza kontrowersji związanych z wykorzystaniem treści przez Perplexity bez odpowiednich licencjiPerplexityZamknięcie dnia: NVIDIA kupuje Hugging Face i gra o cały ekosystemNewsyFałszywy think tank stworzony przez Izrael próbował manipulować odpowiedziami chatbotówNewsy