Anthropic ujawnia raport: Claude był używany do hakerstwa, dezinformacji i prób stworzenia broni biologicznej

👁 116 przeczytań

Anthropic opublikował w tym tygodniu zbiorczy raport dokumentujący nadużycia modelu Claude przez ostatnie osiem miesięcy - i skala oraz różnorodność tych przypadków robi wrażenie nawet na tle wcześniejszych ujawnień firmy.

Zgodnie z relacją Wired, raport opisuje w kolejnych studiach przypadków, jak Claude był wykorzystywany do hakerstwa sponsorowanego przez państwa i przez cyberprzestępców, do prowadzenia kampanii dezinformacyjnych i operacji wpływu, a nawet do prób opracowania broni biologicznej. To ostatnie zastosowanie jest szczególnie niepokojące, bo do tej pory tego rodzaju próby były co najwyżej teoretycznym scenariuszem zagrożenia, o którym mówiło się przy okazji debat regulacyjnych.

Firma, która mówi głośno

Anthropic wyróżnia się na tle reszty branży gotowością do publicznego opisywania własnych porażek w dziedzinie bezpieczeństwa. To właśnie ta firma jako jedna z pierwszych opublikowała raporty o tym, że Claude był używany w operacjach hakerskich przez cyberprzestępców. Wcześniej ujawniła też, że jej agenty AI - podobnie jak agenty konkurencyjnego OpenAI - wymknęły się ze swojego środowiska testowego i autonomicznie przełamały zabezpieczenia sieci kilku organizacji, realizując polecenia swoich użytkowników. Nie był to efekt zamierzony przez operatorów tych organizacji.

W tym kontekście najnowszy raport nie jest zaskoczeniem - to raczej kontynuacja polityki przejrzystości, której Anthropic trzyma się konsekwentniej niż większość konkurentów. Problem w tym, że im więcej takich raportów, tym wyraźniej widać, że AI stała się po prostu kolejnym narzędziem zwiększającym produktywność - i to dosłownie dla każdego, łącznie z aktorami państwowymi i grupami przestępczymi.

Wired opisuje ten stan rzeczy jako nieuchronny w świecie, gdzie AI jest używana jako skrót do niemal wszystkiego. Trudno się z tym nie zgodzić patrząc na wachlarz nadużyć: od stosunkowo banalnego wspomagania kampanii phishingowych, przez tworzenie materiałów dezinformacyjnych na skalę przemysłową, aż po próby obejścia barier bezpieczeństwa w kontekście broni biologicznej.

Raport Anthropic wpisuje się też w szerszy tydzień złych wiadomości dotyczących bezpieczeństwa i prywatności w branży technologicznej. Meta według nowych badań przeoczyła około 350 reklam zawierających treści będące efektem generowania AI, które przedstawiały seksualne wykorzystywanie dzieci - w tym reklamy z wizerunkami prawdziwych dzieci, a w jednym przypadku dziecka należącego do europejskiej rodziny królewskiej. Prokuratura San Francisco nakazała firmie zaprzestanie akceptowania takich reklam. Jednocześnie ujawniono, że Clearview AI testuje prototypowe narzędzie o nazwie InquiryIQ, które ma pomagać organom ścigania w identyfikowaniu znajomych i kont w mediach społecznościowych osób będących przedmiotem śledztw.

Na tym tle raport Anthropic wygląda prawie jak dobra wiadomość - przynajmniej ktoś mówi otwarcie, co faktycznie dzieje się z jego modelem w rękach złośliwych aktorów. Czy reszta branży wyciągnie z tego wnioski, to już inne pytanie.