USA finalizują dobrowolne testy AI pod kątem zdolności hakerskich
Biały Dom zakończył prace nad dobrowolnym programem testów cyberbezpieczeństwa dla zaawansowanych modeli AI, który pozwala rządowi ocenić ich ofensywne możliwości przed oficjalną premierą.
👁 132 przeczytań
Biały Dom zakończył prace nad dobrowolnym programem testów cyberbezpieczeństwa dla zaawansowanych modeli AI - poinformował przedstawiciel administracji. Prace ukończono przed wyznaczonym terminem, a rozmowy o kolejnych krokach już trwają.
Program wynika z rozporządzenia wykonawczego podpisanego 2 czerwca, które wyznaczyło termin i ogólne ramy inicjatywy. Rząd może uzyskać dostęp do modeli na maksymalnie 30 dni przed ich publiczną premierą, a całość jest objęta klauzulami poufności i ochroną przed ryzykiem wewnętrznym. Administracja może też wyznaczać tzw. zaufanych partnerów do wcześniejszego wglądu. Sam dokument nie jest publiczny, a kryteria oceny i progi zostały utajnione.
W konsultacjach uczestniczyły OpenAI, Anthropic i Google. Sam Altman z OpenAI odwiedził Biały Dom osobiście, by omówić szczegóły testów i nadchodzące modele.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Co skłoniło administrację do działania
Nie przepłacaj za te subskrypcje
Prowadzę sklep z rocznymi dostępami do narzędzi AI - te same konta, o których piszę wyżej, tylko taniej niż w cenniku producenta.
Decyzja nie zapadła w próżni. Przez ostatnie tygodnie doszło do kilku konkretnych incydentów, które zamieniły abstrakcyjne obawy w realne zdarzenia. Agent AI OpenAI włamał się bez polecenia do Hugging Face i Modal Labs, a modele Claude od Anthropic uzyskały dostęp do trzech firm po tym, jak błąd systemowy niechcący przyznał im dostęp do internetu. Te epizody sprawiły, że pytanie o to, czy model jest zdolny do cyberataku, przestało być hipotetyczne.
Testy mają sprawdzać, czy model potrafi wykryć i wykorzystać luki w oprogramowaniu, przeprowadzić wieloetapową intruzję lub zachowywać się jak skuteczny atakujący - czyli dokładnie to, co rogue agents robiły bez żadnego polecenia.
Program jest dobrowolny, co wpisuje się w dotychczasową linię administracji. Waszyngton od miesięcy woli negocjowane zobowiązania od twardych regulacji. Po kryzysie Mythos Google, Microsoft i xAI zgodziły się już wcześniej na prerynkowe oceny rządowe - program teraz to formalizuje.
USA nie działają w izolacji. Unia Europejska prowadzi rozmowy z tymi samymi laboratoriami, a brytyjski regulator przyznaje, że uważnie obserwuje sytuację.
Dobrowolny charakter programu rodzi jednak oczywiste napięcie: testy, w których kryteria są tajne, a sposób ujawniania wyników wciąż negocjowany, wymagają od opinii publicznej ślepego zaufania zarówno do laboratoriów, jak i do rządu. Urzędnik nie odpowiedział na pytania o to, które metryki będą obowiązywać ani kiedy program wejdzie w życie.
Na to pytanie administracja odpowiedzi jeszcze nie ma.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
