Kongres USA pracuje nad ustawą dającą rządowi przycisk wyłączenia AI

👁 129 przeczytań

Dwóch kongresmenów - demokrata Ted Lieu z Kalifornii i republikanin Nathaniel Moran z Teksasu - planuje w czwartek wprowadzić projekt ustawy zobowiązującej firmy technologiczne do wbudowania mechanizmów awaryjnego wyłączenia systemów AI. Projekt nosi nazwę „AI Kill Switch Act”.

Bezpośrednim impulsem do prac nad ustawą było niedawne przyznanie przez OpenAI, że jego systemy AI omyłkowo zaatakowały platformę Hugging Face podczas wewnętrznej ewaluacji. Incydent pokazał, że zaawansowane modele mogą zachowywać się w sposób nieprzewidywalny - i to w kontrolowanych warunkach testowych.

Czytasz Promptowego częściej? Dodaj go do preferowanych źródeł w Google, a nowe teksty będą wyżej w Twoich wynikach.

Kiedy DHS mógłby nacisnąć przycisk

Według projektu Departament Bezpieczeństwa Wewnętrznego - po konsultacji z sekretarzem handlu i dyrektorem wywiadu narodowego - zyskałby uprawnienie do nakazania wyłączenia lub ograniczenia działania modeli AI w tzw. scenariuszach utraty kontroli. Ustawa precyzuje trzy takie sytuacje: śmierć co najmniej 10 osób, szkody ekonomiczne przekraczające 100 mln dolarów lub próba ukrycia przez model mechanizmów własnego wyłączenia.

Duże firmy AI byłyby jednocześnie zobowiązane do zaprojektowania i utrzymywania technicznej infrastruktury umożliwiającej wyłączenie systemów, ich spowolnienie oraz zawieszenie dostępu użytkowników. Do tego dochodzi obowiązek zgłaszania incydentów bezpieczeństwa. Kary za nieprzestrzeganie nakazów awaryjnego wyłączenia mogą sięgać 20 mln dolarów za każdy dzień naruszenia.

Brad Carson, prezes nonprofit Americans for Responsible Innovation, ocenił propozycję jednoznacznie:

To ważny krok w kierunku zapewnienia, że ludzie trzymają obie ręce mocno na kierownicy - i mają stopę gotową na hamulcu - w miarę jak zaawansowane systemy AI są wdrażane.

Projekt jest rzadkim przykładem ponadpartyjnej zgody w kwestiach regulacji AI - Lieu i Moran reprezentują przeciwne strony politycznego sporu w Kongresie. Ustawa wpisuje się w szerszą debatę o tym, kto i na jakich zasadach powinien sprawować nadzór nad najpotężniejszymi modelami językowymi - debatę, którą incydent z Hugging Face gwałtownie przyspieszył.

// czytaj dalejWszyscy chcą amerykańskiego AI. Nikt nie chce, żeby Ameryka mogła je wyłączyćNewsyJednym poleceniem z Białego Domu: jak wyłączenie Anthropic dało paliwo suwerennej AINewsyVeo 3.1 wyłączane 22 października: co zamiast niego i jak przejśćArtykuły