Zabezpieczenia AI utrudniają pracę ofensywnych badaczy cyberbezpieczeństwa

👁 115 przeczytań

Zabezpieczenia modeli AI od Anthropic i OpenAI, zaprojektowane by ograniczyć ich wykorzystanie przez cyberprzestępców, coraz mocniej utrudniają pracę legalnym badaczom ofensywnego bezpieczeństwa - wynika z materiału TechCrunch opublikowanego 23 lipca 2026.

Obydwie firmy prowadzą osobne programy weryfikacyjne: OpenAI oferuje Trusted Access for Cyber, Anthropic - Cyber Verification Program. Zatwierdzeni badacze uzyskują dostęp do modeli z mniejszą liczbą ograniczeń. Problem w tym, że nawet zweryfikowani specjaliści regularnie natrafiają na odmowy. W czerwcu rząd USA nałożył ponadto kontrole eksportowe na modele Anthropic Mythos i Fable, powołując się częściowo na obawy związane z możliwością obejścia guardrails. Fable 5 wrócił do ogólnego dostępu 1 lipca; Mythos 5 udostępniono ponownie jedynie zweryfikowanym organizacjom w USA.

Chris Anley, główny naukowiec w NCC Group, tłumaczy, że prośba o próbę exploitacji kodu to podstawowy sposób potwierdzenia, czy dany błąd jest realną podatnością wartą naprawy.

„Fix this code jako prompt to jednocześnie niezbędny mechanizm obrony i mapa drogowa do znajdowania krytycznych podatności - tych dwóch rzeczy nie da się rozdzielić”

- powiedział Anley. Badacz Mark Dowd, który od dekad sprzedaje zero-days zachodnim rządom, ujął to prościej: niepokoi go, że duże firmy technologiczne samodzielnie decydują, co w dziedzinie bezpieczeństwa jest bezpieczne, a co nie.

// czytaj dalejBadacze z Instytutu Turinga złamali zabezpieczenia GitHub Copilota przez rozłożenie szkodliwego żądania na etapyNewsyBadacze AI odchodzą z laboratoriów, ostrzegając przed ryzykiem wyginięcia ludzkościNewsyBadacz używa Codex i ChatGPT do szukania nowych cząsteczek przeciwdrobnoustrojowychNewsy