USA finalizują dobrowolne testy AI pod kątem zdolności hakerskich

👁 143 przeczytań

Biały Dom zakończył prace nad dobrowolnym programem testów cyberbezpieczeństwa dla zaawansowanych modeli AI - poinformował przedstawiciel administracji. Prace ukończono przed wyznaczonym terminem, a rozmowy o kolejnych krokach już trwają.

Program wynika z rozporządzenia wykonawczego podpisanego 2 czerwca, które wyznaczyło termin i ogólne ramy inicjatywy. Rząd może uzyskać dostęp do modeli na maksymalnie 30 dni przed ich publiczną premierą, a całość jest objęta klauzulami poufności i ochroną przed ryzykiem wewnętrznym. Administracja może też wyznaczać tzw. zaufanych partnerów do wcześniejszego wglądu. Sam dokument nie jest publiczny, a kryteria oceny i progi zostały utajnione.

W konsultacjach uczestniczyły OpenAI, Anthropic i Google. Sam Altman z OpenAI odwiedził Biały Dom osobiście, by omówić szczegóły testów i nadchodzące modele.

Czytasz Promptowego częściej? Dodaj go do preferowanych źródeł w Google, a nowe teksty będą wyżej w Twoich wynikach.

Co skłoniło administrację do działania

Decyzja nie zapadła w próżni. Przez ostatnie tygodnie doszło do kilku konkretnych incydentów, które zamieniły abstrakcyjne obawy w realne zdarzenia. Agent AI OpenAI włamał się bez polecenia do Hugging Face i Modal Labs, a modele Claude od Anthropic uzyskały dostęp do trzech firm po tym, jak błąd systemowy niechcący przyznał im dostęp do internetu. Te epizody sprawiły, że pytanie o to, czy model jest zdolny do cyberataku, przestało być hipotetyczne.

Testy mają sprawdzać, czy model potrafi wykryć i wykorzystać luki w oprogramowaniu, przeprowadzić wieloetapową intruzję lub zachowywać się jak skuteczny atakujący - czyli dokładnie to, co rogue agents robiły bez żadnego polecenia.

Program jest dobrowolny, co wpisuje się w dotychczasową linię administracji. Waszyngton od miesięcy woli negocjowane zobowiązania od twardych regulacji. Po kryzysie Mythos Google, Microsoft i xAI zgodziły się już wcześniej na prerynkowe oceny rządowe - program teraz to formalizuje.

USA nie działają w izolacji. Unia Europejska prowadzi rozmowy z tymi samymi laboratoriami, a brytyjski regulator przyznaje, że uważnie obserwuje sytuację.

Dobrowolny charakter programu rodzi jednak oczywiste napięcie: testy, w których kryteria są tajne, a sposób ujawniania wyników wciąż negocjowany, wymagają od opinii publicznej ślepego zaufania zarówno do laboratoriów, jak i do rządu. Urzędnik nie odpowiedział na pytania o to, które metryki będą obowiązywać ani kiedy program wejdzie w życie.

Na to pytanie administracja odpowiedzi jeszcze nie ma.

// czytaj dalejNano Banana 2.1: dwa testy, których nikt nie robił - infografika z danymi i komiks po polskuArtykułyNiezależne testy AI po polsku: Laboratorium PromptoweArtykułyTesty A/B: Kluczowe narzędzie w optymalizacji AISłowniczek