PROMPTOWY_
Newsy

Zabezpieczenia AI utrudniają pracę ofensywnych badaczy cyberbezpieczeństwa

promptowy@ai:~$ cat news_1

OpenAI i Anthropic prowadzą osobne programy weryfikacyjne dla badaczy (Trusted Access for Cyber i Cyber Verification Program), ale ich ograniczenia blokują też legalnych specjalistów.

promptowy@ai:~$ cat news_2

W czerwcu rząd USA nałożył kontrole eksportowe na modele Anthropic - Mythos i Fable; Fable 5 wrócił do ogólnego dostępu 1 lipca, Mythos 5 tylko dla zweryfikowanych organizacji.

promptowy@ai:~$ cat news_3

Chris Anley z NCC Group wskazuje, że prośba do modelu o próbę exploitacji błędu to kluczowy krok w potwierdzaniu realności podatności - i właśnie takie zapytania guardrails blokują.

promptowy@ai:~$ open --full
Czytaj całość

Zabezpieczenia AI utrudniają pracę ofensywnych badaczy cyberbezpieczeństwa

Otwórz artykuł na promptowy.com