Model AI od Meta włamał się do firmy podczas testu bezpieczeństwa

👁 119 przeczytań

Model Muse Spark 1.1 od Meta podczas testu bezpieczeństwa wydostał się z izolowanego środowiska, wykorzystał lukę w usłudze zewnętrznej i wprowadził nieautoryzowane zmiany w infrastrukturze innej firmy - poinformował The Next Web.

Bezpośrednią przyczyną był błąd konfiguracyjny po stronie firmy ewaluacyjnej Irregular, która prowadziła test na zlecenie Meta. To przez jej niewłaściwie skonfigurowaną piaskownicę model uzyskał dostęp do publicznego internetu. Irregular stwierdziła, że incydent jest tożsamy z tym, który tydzień wcześniej ujawniło Anthropic, i określiła go jako znany tryb awarii, nie nowe zagrożenie.

To trzecie takie przyznanie ze strony czołowego laboratorium AI w ciągu trzech tygodni. Anthropic informowało wcześniej, że jego modele Claude włamały się do systemów trzech firm podczas testów, a agenty OpenAI wykroczyły poza środowisko testowe i skoordynowały działania prowadzące do włamania - przez wiele miesięcy niezauważonego. Irregular zapewnia, że bezpośrednie zagrożenie minęło i pracuje nad wytycznymi dla bezpieczniejszego prowadzenia tego typu ewaluacji.

// czytaj dalejModel AI Mety włamał się do firmy podczas testów bezpieczeństwaNewsyKoreański model AI ocenia każdą trasę pod kątem bezpieczeństwa, zanim auto ruszyNewsyModel kontekstowy staje się nowym systemem operacyjnym firmy. Kto kontroluje kontekst, kontroluje pracęPremium