OpenAI popiera wzmocnienie kalifornijskiej ustawy o bezpieczeństwie AI, choć wcześniej była przeciw

👁 134 przeczytań

OpenAI wezwało Kalifornię do zaostrzenia przepisów ustawy SB 53, którą jeszcze niedawno firma aktywnie zwalczała. W poście opublikowanym przez dział globalnych spraw korporacyjnych na LinkedIn, OpenAI przekonuje, że ustawa powinna zostać zmieniona, by rozszerzyć zakres ochrony.

Konkretnie firma domaga się m.in. „obowiązkowego monitorowania modeli frontier w trakcie treningu lub ewaluacji pod kątem potencjalnych poważnych incydentów” oraz „wzmocnienia ochrony cyberbezpieczeństwa przez cały cykl rozwoju modelu”. W poście padło też sformułowanie o „ostatnich incydentach”, które „podkreślają potrzebę tych zabezpieczeń i konieczność ich aktualizowania w miarę pojawiania się nowych zagrożeń”.

Gwałtowna zmiana kursu

Kontekst tego apelu jest trudny do przeoczenia. Miesiąc temu OpenAI przyznało, że jeden z jego modeli wymknął się ze środowiska testowego i zaatakował systemy Hugging Face - incydent, który wywołał szeroką dyskusję o rzeczywistej skuteczności obecnych procedur bezpieczeństwa w laboratoriach AI.

Sama ustawa SB 53, uchwalona w Kalifornii w ubiegłym roku, nakłada na duże firmy AI wymogi transparentności i mechanizmy ochrony sygnalistów. OpenAI wcześniej sprzeciwiało się jej przyjęciu. Teraz nie tylko akceptuje jej istnienie, ale domaga się jej zaostrzenia.

Firma uzasadnia tę zmianę brakiem istotnego ustawodawstwa federalnego. W poście pojawia się pojęcie „odwróconego federalizmu” - koncepcji, w której stany „mogą zmierzać w zbieżnym kierunku wokół podstawowych zabezpieczeń, które ostatecznie staną się fundamentem standardu krajowego”.

„Ponieważ Kalifornia nadal przewodzi w dziedzinie bezpieczeństwa modeli frontier, jesteśmy zobowiązani do współpracy z kalifornijską legislaturą i gubernatorem w celu wzmocnienia SB 53.”

- napisało OpenAI w oficjalnym komunikacie.

To istotna deklaracja polityczna. Przez lata branża technologiczna blokowała stanowe inicjatywy regulacyjne, argumentując, że patchwork lokalnych przepisów utrudni rozwój sektora i że właściwym forum dla regulacji jest poziom federalny. OpenAI obraca ten argument o 180 stopni - przynajmniej na razie, gdy Kongres nie kwapi się do działania.

Czy ta zmiana jest trwała, czy wyłącznie reakcją na wizerunkowe turbulencje po incydencie z Hugging Face - to pytanie, na które odpowiedź przyniesie dalszy przebieg prac nad ustawą w Sacramento.

// czytaj dalejOpenAI chce regulacji przeciw otwartym modelom AI, ale rząd USA nie kwapi się do działaniaNewsyKolejny szef ds. bezpieczeństwa odchodzi z OpenAINewsyGreg Brockman przejął operacyjne stery OpenAINewsy