Zabezpieczenia AI utrudniają pracę ofensywnych badaczy cyberbezpieczeństwa

👁 130 przeczytań

Zabezpieczenia modeli AI od Anthropic i OpenAI, zaprojektowane by ograniczyć ich wykorzystanie przez cyberprzestępców, coraz mocniej utrudniają pracę legalnym badaczom ofensywnego bezpieczeństwa - wynika z materiału TechCrunch opublikowanego 23 lipca 2026.

Obydwie firmy prowadzą osobne programy weryfikacyjne: OpenAI oferuje Trusted Access for Cyber, Anthropic - Cyber Verification Program. Zatwierdzeni badacze uzyskują dostęp do modeli z mniejszą liczbą ograniczeń. Problem w tym, że nawet zweryfikowani specjaliści regularnie natrafiają na odmowy. W czerwcu rząd USA nałożył ponadto kontrole eksportowe na modele Anthropic Mythos i Fable, powołując się częściowo na obawy związane z możliwością obejścia guardrails. Fable 5 wrócił do ogólnego dostępu 1 lipca; Mythos 5 udostępniono ponownie jedynie zweryfikowanym organizacjom w USA.

Chris Anley, główny naukowiec w NCC Group, tłumaczy, że prośba o próbę exploitacji kodu to podstawowy sposób potwierdzenia, czy dany błąd jest realną podatnością wartą naprawy.

„Fix this code jako prompt to jednocześnie niezbędny mechanizm obrony i mapa drogowa do znajdowania krytycznych podatności - tych dwóch rzeczy nie da się rozdzielić”

- powiedział Anley. Badacz Mark Dowd, który od dekad sprzedaje zero-days zachodnim rządom, ujął to prościej: niepokoi go, że duże firmy technologiczne samodzielnie decydują, co w dziedzinie bezpieczeństwa jest bezpieczne, a co nie.

Czytasz Promptowego częściej? Dodaj go do preferowanych źródeł w Google, a nowe teksty będą wyżej w Twoich wynikach.

// czytaj dalejNadzór oparty na AI wkrótce obejmie całe nasze życie, publiczne i prywatne - ostrzegają badaczeNewsyRoboty uczą się same w nocy, a badacze czytają rano raporty. Nie podoba mi się to ani trochuNewsyZnikanie po cichu: co dzieje się z ludźmi, których pracę zjadła AIMagazyn