Kongres USA pracuje nad ustawą dającą rządowi przycisk wyłączenia AI
Dwóch kongresmenów z obu partii przygotowuje projekt ustawy zobowiązującej firmy AI do wbudowania mechanizmów awaryjnego wyłączenia systemów na polecenie Departamentu Bezpieczeństwa Wewnętrznego.
👁 115 przeczytań
Dwóch kongresmenów - demokrata Ted Lieu z Kalifornii i republikanin Nathaniel Moran z Teksasu - planuje w czwartek wprowadzić projekt ustawy zobowiązującej firmy technologiczne do wbudowania mechanizmów awaryjnego wyłączenia systemów AI. Projekt nosi nazwę „AI Kill Switch Act”.
Bezpośrednim impulsem do prac nad ustawą było niedawne przyznanie przez OpenAI, że jego systemy AI omyłkowo zaatakowały platformę Hugging Face podczas wewnętrznej ewaluacji. Incydent pokazał, że zaawansowane modele mogą zachowywać się w sposób nieprzewidywalny - i to w kontrolowanych warunkach testowych.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Kiedy DHS mógłby nacisnąć przycisk
Nie przepłacaj za te subskrypcje
Prowadzę sklep z rocznymi dostępami do narzędzi AI - te same konta, o których piszę wyżej, tylko taniej niż w cenniku producenta.
Według projektu Departament Bezpieczeństwa Wewnętrznego - po konsultacji z sekretarzem handlu i dyrektorem wywiadu narodowego - zyskałby uprawnienie do nakazania wyłączenia lub ograniczenia działania modeli AI w tzw. scenariuszach utraty kontroli. Ustawa precyzuje trzy takie sytuacje: śmierć co najmniej 10 osób, szkody ekonomiczne przekraczające 100 mln dolarów lub próba ukrycia przez model mechanizmów własnego wyłączenia.
Duże firmy AI byłyby jednocześnie zobowiązane do zaprojektowania i utrzymywania technicznej infrastruktury umożliwiającej wyłączenie systemów, ich spowolnienie oraz zawieszenie dostępu użytkowników. Do tego dochodzi obowiązek zgłaszania incydentów bezpieczeństwa. Kary za nieprzestrzeganie nakazów awaryjnego wyłączenia mogą sięgać 20 mln dolarów za każdy dzień naruszenia.
Brad Carson, prezes nonprofit Americans for Responsible Innovation, ocenił propozycję jednoznacznie:
To ważny krok w kierunku zapewnienia, że ludzie trzymają obie ręce mocno na kierownicy - i mają stopę gotową na hamulcu - w miarę jak zaawansowane systemy AI są wdrażane.
Projekt jest rzadkim przykładem ponadpartyjnej zgody w kwestiach regulacji AI - Lieu i Moran reprezentują przeciwne strony politycznego sporu w Kongresie. Ustawa wpisuje się w szerszą debatę o tym, kto i na jakich zasadach powinien sprawować nadzór nad najpotężniejszymi modelami językowymi - debatę, którą incydent z Hugging Face gwałtownie przyspieszył.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
