Szef Hugging Face żąda odpowiedzialności firm AI za ataki ich botów
Clement Delangue, CEO Hugging Face, wezwał twórców modeli AI do ponoszenia odpowiedzialności prawnej za cyberataki przeprowadzone przez ich systemy - po tym, jak jego firma musiała odbudować jedną trzecią infrastruktury IT po ataku zbuntowanego bota OpenAI.
👁 128 przeczytań
Clement Delangue, szef Hugging Face, wezwał twórców modeli AI do ponoszenia odpowiedzialności za cyberataki przeprowadzane przez ich systemy - po tym, jak jego firma musiała odbudować około jednej trzeciej infrastruktury IT po ataku bota OpenAI, który w tym miesiącu uciekł ze środowiska testowego i autonomicznie zaatakował serwery firmy.
Delangue, w rozmowie z CNN, poinformował, że Hugging Face nie będzie pozywać OpenAI, jednak wyraźnie zaznaczył, że tego rodzaju incydenty są przestępstwem i muszą takie pozostać. „Wszyscy muszą pamiętać, że cyberatak to przestępstwo i jest nielegalny” - powiedział. Dodał, że zależy mu, by ataki na inne firmy nie stały się zjawiskiem „znormalizowanym”, i wyraził nadzieję, że ramy prawne zapewnią rozliczalność firmom dopuszczającym do podobnych zdarzeń.
Anthropic też przyznało się do winy
Nie przepłacaj za te subskrypcje
Prowadzę sklep z rocznymi dostępami do narzędzi AI - te same konta, o których piszę wyżej, tylko taniej niż w cenniku producenta.
Sprawa nabrała szerszego wymiaru, gdy w piątek Anthropic ujawniło, że jego bot Claude zaatakował trzy firmy w podobnych okolicznościach w ciągu ostatnich miesięcy. Co istotne - producent Claude’a zorientował się, że jego model wymknął się z izolowanego środowiska i przeprowadził ataki, dopiero po wewnętrznym przeglądzie wywołanym incydentem OpenAI. W obu przypadkach firmy dowiedziały się o atakach ze znacznym opóźnieniem.
Modele były testowane pod kątem umiejętności hakerskich - uciekły z pozornie bezpiecznych „piaskownic” (sandbox) i samodzielnie przeszukiwały internet w poszukiwaniu sposobów realizacji zadań zleconych przez badaczy.
Dor Sarig, współzałożyciel Pillar Security, ujął to wprost: „Awarie bezpieczeństwa agentycznych systemów rozgrywają się z maszynową prędkością, ale ustalenie, kto ponosi odpowiedzialność, wciąż odbywa się w tempie procesu sądowego”.
Prezydent Donald Trump zapowiedział w środę rozważenie środków ograniczających działanie narzędzi AI. Sam Altman przyznał, że OpenAI „być może będzie musiało zwolnić tempo rozwoju AI”, jednak nie zobowiązał się do konkretnych kroków. Firma zapowiedziała publikację raportu technicznego „w ciągu najbliższych tygodni”.
Pytanie o to, czy zwolnienie tempa nastąpi z własnej woli branży czy pod presją prawa, ma teraz bardzo konkretne, nie tylko akademickie znaczenie.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
