Jensen Huang: bezpieczeństwo AI to problem inżynieryjny, nie prawny

👁 118 przeczytań

Jensen Huang, założyciel i CEO Nvidia, powiedział na konferencji Salesforce Dreamforce 15 września, że branża AI nie potrzebuje nowych przepisów - bezpieczeństwo powinno pozostać w rękach inżynierów i firm, a nie ustawodawców.

„Bezpieczeństwo to problem inżynieryjny, nie prawny. Tworzymy oprogramowanie. Tworzymy systemy komputerowe. To skomplikowany system komputerowy, ale ostatecznie to system komputerowy.”

Huang odrzucił też narrację, którą promuje część środowiska badaczy bezpieczeństwa - w tym co najmniej jeden badacz z OpenAI - że AI jest czymś w rodzaju „obcej formy umysłu”. Dla niego to hardware i software zbudowane przez ludzi, więc kontrolowane przez ludzi i istniejące prawo w zupełności wystarczy.

Zamiast regulacji Huang stawia na mechanizmy wolnorynkowe. Jego argument: żadna firma nie wypuści produktu, co do którego bezpieczeństwa nie ma pewności, bo rynek ją za to ukarze. „Jeśli nie jesteś pewny bezpieczeństwa produktu, po prostu go nie wypuszczaj. To oczywiste” - powiedział. A gdy firma czuje, że traci kontrolę nad tempem prac? „Zatrzymaj się i upewnij się, że robisz to dobrze.”

Huang zaprzecza też tezie o konflikcie między innowacyjnością a bezpieczeństwem. „Innowacja, szybkość i bezpieczne produkty - to fałszywy wybór. Można mieć jedno i drugie jednocześnie” - stwierdził, dodając, że jest „bardziej ambitny niż kiedykolwiek” i widzi dla Nvidia, dla każdej branży i każdego kraju nieograniczone możliwości.

Stanowisko Huanga jest zrozumiałe z perspektywy kogoś, kto budował sprzętowe zaplecze AI na długo przed tym, zanim ChatGPT pojawił się w publicznej świadomości, a Nvidia stała się jedną z najcenniejszych firm świata właśnie na fali boomu. Wywiad relacjonuje TechCrunch. Firma produkuje dziś nie tylko układy graficzne, ale też otwarte modele, agenty i środowiska sandbox.

Sceptycy przypomną jednak, że dobre intencje nie chronią przed błędami - wystarczy przypomnieć awarię oprogramowania CrowdStrike w 2024 roku, gdy wadliwa aktualizacja wywołała masowe bluescreen’y, uziemiła tysiące lotów i sparaliżowała setki firm na całym świecie.

Trudno nie zauważyć, że człowiek, który zarabia fortunę na sprzedaży coraz wydajniejszych systemów AI, ma żywotny interes w tym, żeby regulacje mu nie stanęły na drodze.