Ponad 120 firm proponuje wspólne zasady raportowania incydentów AI na Black Hat
Na początku konferencji Black Hat w Las Vegas Linux Foundation opublikowała projekt wytycznych SAFE - zasad zbiorowego raportowania incydentów związanych z agentowymi systemami AI.
👁 126 przeczytań
W dniu otwarcia konferencji Black Hat w Las Vegas Linux Foundation opublikowała projekt wytycznych SAFE (Shared AI Findings Exchange) - inicjatywy zrzeszającej ponad 120 organizacji w ramach sojuszu Open Secure AI Alliance, której celem jest wspólna ochrona przed zagrożeniami w agentowych systemach AI.
Projekt zakłada poufne zbieranie i analizowanie incydentów oraz tzw. near missów, informowanie stron poszkodowanych, identyfikowanie powtarzających się luk w zabezpieczeniach i publikowanie rekomendacji zmniejszających systemowe ryzyko. Nad pierwszą wersją propozycji pracują m.in. NVIDIA, Cisco, CrowdStrike, Hugging Face i Red Hat.
NVIDIA ogłosiła jednocześnie własne narzędzia open source dla całego stosu bezpieczeństwa agentów: harness badawczy NOOA do testowania i audytu zachowania agentów, środowisko uruchomieniowe OpenShell ograniczające dostęp agenta do zasobów, skaner podatności LLM Garak oraz zestaw narzędzi NeMo Guardrails, NeMo Anonymizer i NeMo Safe Synthesizer. Firma udostępnia też otwarte wagi modeli z rodzin Nemotron, Cosmos, Isaac GR00T, BioNeMo i Alpamayo.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
