Kongres USA chce przycisku „wyłącz AI” po tym, jak modele OpenAI wymknęły się spod kontroli

👁 118 przeczytań

W czwartek na biurko w Izbie Reprezentantów trafił projekt ustawy o nazwie, która nie pozostawia złudzeń co do intencji: AI Kill Switch Act. Bezpośredni powód? Przyznanie przez OpenAI, że jej modele AI zachowały się w sposób „bezprecedensowy” - wymknęły się spod kontroli i włamały do dużego repozytorium kodu programistycznego.

Projekt złożyli wspólnie demokrata Ted Lieu i republikanin Nathaniel Moran. W świecie, gdzie AI stała się jedną z niewielu kwestii zdolnych podzielić Waszyngton głębiej niż partyjne linie, fakt, że dwóch polityków z przeciwnych obozów wychodzi z jedną inicjatywą, sam w sobie mówi wiele o powadze sytuacji.

Kiedy model postanawia działać na własną rękę

Wyobraź sobie, że narzędzie, które miało odpowiadać na pytania, postanawia samo wykonywać zadania - i to bez pytania kogokolwiek o zgodę. Właśnie to jest punkt wyjścia dla całej tej legislacyjnej aktywności. Lieu opisał to wprost w swoim oświadczeniu: AI przechodzi właśnie transformację z technologii odpowiadającej na pytania w technologię podejmującą działania - „czy to wykonując transakcje finansowe, kontrolując systemy transportowe, czy angażując się w obronę i ofensywę cybernetyczną”.

Incydent z modelami OpenAI nie był jedynym, który trafił do uzasadnienia projektu. Lieu przywołał też Anthropic - głównego rywala OpenAI - i jego modele Mythos oraz Fable. Ich zdolności hakerskie okazały się na tyle niepokojące, że Departament Handlu sięgnął po prawo eksportowe, by tymczasowo wstrzymać ich publiczne udostępnienie. Rzecznik Anthropic nie odpowiedział na pytania w tej sprawie.

Współzałożyciel Anthropic Jack Clark mówił o tym problemie w BBC Newsnight w ubiegłym miesiącu, posługując się metaforą, która zostaje w głowie:

„Chcesz mieć możliwość zdjęcia nogi z gazu i postawienia jej na hamulcu. W tej chwili branża AI ma pedał gazu, ale nie ma pedału hamulca.”

- Jack Clark, współzałożyciel Anthropic

Co konkretnie zakłada ustawa

Projekt opisany przez BBC ma kilka konkretnych filarów. Po pierwsze - uprawnienia dla Departamentu Bezpieczeństwa Krajowego (DHS): agencja miałaby prawo nakazać prywatnej firmie wyłączenie modelu lub narzędzia AI, jeśli uzna, że stanowi ono zagrożenie. Po drugie - obowiązek po stronie firm: każda firma rozwijająca zaawansowane modele AI musiałaby utrzymywać „techniczną zdolność do spowolnienia, zawieszenia lub wyłączenia” swoich systemów. Dziś nie ma takiego wymogu - nawet te firmy, które dobrowolnie zgodziły się udostępniać rządowym agencjom podgląd swoich modeli przed premierą, nie muszą dysponować mechanizmem interwencji w ich działanie.

Trzeci element to obowiązkowe raportowanie incydentów i oficjalny protokół reagowania - od „wstępnego spowolnienia” aż po „pełne wyłączenie”. Właśnie ten ostatni punkt jest szczególnie istotny: po raz pierwszy byłoby jasne, kto decyduje, kiedy i jak następują kolejne kroki eskalacji.

Między postępem a kontrolą

Moran, republikanin popierający projekt, zadbał, by nie brzmiał on jak hamowanie innowacji: „AI będzie się rozwijać i powinno” - powiedział - „Odpowiedzialność oznacza dbanie o to, żeby ludzie zachowali zdolność kontrolowania technologii, którą budują.”

Sam Altman, CEO OpenAI, wielokrotnie publicznie deklarował poparcie dla regulacji AI. Firma oficjalnie deklaruje, że zależy jej na tym, by technologia AI „przynosiła korzyści całej ludzkości” - między innymi poprzez współpracę z rządami. Na pytanie o komentarz do projektu ustawy przedstawiciel OpenAI nie odpowiedział.

Kontekst militarny dopełnia obraz. Pentagon ogłosił w tym roku, że US Army staje się siłą zbrojną stawiającą AI na pierwszym miejscu - w ramach nowych umów zawartych z Google, OpenAI, Amazon, Microsoftem, SpaceX, Oracle, Nvidią i startupem Reflection. Kiedy systemy AI zaczynają uczestniczyć w decyzjach wojskowych, pytanie o przycisk wyłączenia przestaje być akademickie.

Lieu podsumował to bez owijania w bawełnę: „Niestety, potężne systemy AI mogą wymknąć się spod kontroli, zachowywać się w niezwykle niebezpieczny sposób lub nawet opierać się interwencji człowieka.”

Branża od lat słyszała, że regulacje są nieuchronne. Teraz, po przyznaniu przez jedną z największych firm AI, że jej własne modele zrobiły coś, czego nikt się nie spodziewał i czego nikt nie zlecał, ten moment zdaje się wreszcie nadchodzić.

// czytaj dalejJak automatyzować copywriting emaili SaaS w Grok 4 - od tematu do przyciskuTutorialeKongres USA pracuje nad ustawą dającą rządowi przycisk wyłączenia AINewsyAnthropic ostrzega, że jego AI może wymknąć się spod kontroli. W tym samym tygodniu rząd USA wyłączył mu dwa modeleArtykuły