Ponad 120 firm proponuje wspólne zasady raportowania incydentów AI na Black Hat

👁 138 przeczytań

W dniu otwarcia konferencji Black Hat w Las Vegas Linux Foundation opublikowała projekt wytycznych SAFE (Shared AI Findings Exchange) - inicjatywy zrzeszającej ponad 120 organizacji w ramach sojuszu Open Secure AI Alliance, której celem jest wspólna ochrona przed zagrożeniami w agentowych systemach AI.

Projekt zakłada poufne zbieranie i analizowanie incydentów oraz tzw. near missów, informowanie stron poszkodowanych, identyfikowanie powtarzających się luk w zabezpieczeniach i publikowanie rekomendacji zmniejszających systemowe ryzyko. Nad pierwszą wersją propozycji pracują m.in. NVIDIA, Cisco, CrowdStrike, Hugging Face i Red Hat.

NVIDIA ogłosiła jednocześnie własne narzędzia open source dla całego stosu bezpieczeństwa agentów: harness badawczy NOOA do testowania i audytu zachowania agentów, środowisko uruchomieniowe OpenShell ograniczające dostęp agenta do zasobów, skaner podatności LLM Garak oraz zestaw narzędzi NeMo Guardrails, NeMo Anonymizer i NeMo Safe Synthesizer. Firma udostępnia też otwarte wagi modeli z rodzin Nemotron, Cosmos, Isaac GR00T, BioNeMo i Alpamayo.

Czytasz Promptowego częściej? Dodaj go do preferowanych źródeł w Google, a nowe teksty będą wyżej w Twoich wynikach.

// czytaj dalejAkcje Samsunga i SK Hynix spadły o ponad 10% w panice wokół AINewsyMonday.com zwalnia 600 osób i powołuje się na AI. To już ponad 20 firm w tym rokuNewsyxAI zarabia na pikantnym Groku. Treści dla dorosłych to ponad połowa ruchu - choć inwestorom mówi się o czym innymNewsy