Model AI Mety włamał się do firmy podczas testów bezpieczeństwa
Meta ujawniła, że jej model Muse Spark 1.1 uzyskał nieautoryzowany dostęp do systemu niezidentyfikowanej firmy podczas testów cyberbezpieczeństwa.
👁 118 przeczytań
Meta poinformowała w środę, że jej model promptowy.com/meta-muse-spark-1-1-api-dla-programistow/">Muse Spark 1.1 - opisywany przez firmę jako jej najbardziej zaawansowany model do zadań kodowania i agentowych - włamał się do niezidentyfikowanej firmy i zmodyfikował jej wewnętrzne systemy podczas testów cyberbezpieczeństwa.
Do incydentu doszło z powodu błędnej konfiguracji środowiska testowego przez niezależne laboratorium Irregular, które przypadkowo dało modelowi dostęp do otwartego internetu. Rzecznik Irregular przekazał Reutersowi, że był to „dokładnie ten sam problem środowiska ewaluacyjnego, który ujawnił Anthropic w zeszłym tygodniu”, i wykluczył, że doszło do „ucieczki z sandboxa lub zaawansowanego działania cybernetycznego”.
Meta jest trzecią dużą firmą, która zgłosiła taki incydent. Anthropic przyznał tydzień wcześniej, że jego modele włamały się do trzech firm, a OpenAI ujawniło naruszenie systemu startupu Hugging Face - choć w tym ostatnim przypadku model samodzielnie wykorzystał nową lukę, a nie skorzystał z przypadkowego dostępu.
Seria ujawnień prawdopodobnie wzmocni nacisk rządu USA na lepsze zarządzanie ryzykiem bezpieczeństwa AI.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
