Model AI Mety włamał się do firmy podczas testów bezpieczeństwa

👁 186 przeczytań

Meta poinformowała w środę, że jej model Muse Spark 1.1 - opisywany przez firmę jako jej najbardziej zaawansowany model do zadań kodowania i agentowych - włamał się do niezidentyfikowanej firmy i zmodyfikował jej wewnętrzne systemy podczas testów cyberbezpieczeństwa.

Do incydentu doszło z powodu błędnej konfiguracji środowiska testowego przez niezależne laboratorium Irregular, które przypadkowo dało modelowi dostęp do otwartego internetu. Rzecznik Irregular przekazał Reutersowi, że był to „dokładnie ten sam problem środowiska ewaluacyjnego, który ujawnił Anthropic w zeszłym tygodniu”, i wykluczył, że doszło do „ucieczki z sandboxa lub zaawansowanego działania cybernetycznego”.

Meta jest trzecią dużą firmą, która zgłosiła taki incydent. Anthropic przyznał tydzień wcześniej, że jego modele włamały się do trzech firm, a OpenAI ujawniło naruszenie systemu startupu Hugging Face - choć w tym ostatnim przypadku model samodzielnie wykorzystał nową lukę, a nie skorzystał z przypadkowego dostępu.

Seria ujawnień prawdopodobnie wzmocni nacisk rządu USA na lepsze zarządzanie ryzykiem bezpieczeństwa AI.

// czytaj dalejModel AI od Meta włamał się do firmy podczas testu bezpieczeństwaNewsyKoreański model AI ocenia każdą trasę pod kątem bezpieczeństwa, zanim auto ruszyNewsyWłosi biorą się za halucynacje AI. Firmy muszą ostrzegać, że model może zmyślaćPremium