Chińscy eksperci AI też się boją. Apel o współpracę z USA mimo rywalizacji
Na konferencji w Pekinie eksperci z USA i Chin zgodzili się, że ryzyka zaawansowanej AI wymagają współpracy mimo trwającego wyścigu technologicznego.
👁 129 przeczytań
Na zorganizowanej przez Beijing Academy of Artificial Intelligence konferencji w pekińskim Zhongguancun eksperci z USA i Chin przekonywali, że ryzyka systemowe i kwestie cyberbezpieczeństwa związane z zaawansowaną AI są zbyt poważne, by ignorować je w imię rywalizacji. Wydarzenie obejmowało sesje poświęcone rekursywnemu samodoskonaleniu modeli i robotom humanoidalnym, a wśród prelegentów znaleźli się Whitfield Diffie, współtwórca kryptografii klucza publicznego, oraz laureat Nagrody Turinga Andrew Barto.
Stephen Casper, informatyk z MIT, który wystąpił zdalnie, wskazywał na badania pokazujące, że korzyści z międzynarodowej współpracy nad zagrożeniami AI przewyższają wynikające z niej ryzyka dla bezpieczeństwa narodowego. Porównał obecną sytuację do koniecznej w czasie zimnej wojny współpracy USA i ZSRR przy zagrożeniach nuklearnych, mimo trwającego wyścigu zbrojeń.
Jedną z nielicznych rzeczy, co do których niemal wszyscy w branży AI mogą się dziś zgodzić, jest to, że AI nie potrzebuje swojego momentu Czarnobyla.
- Stephen Casper, MIT
Tło polityczne pozostaje napięte. Waszyngton utrzymuje ostre restrykcje na eksport układów scalonych i sprzętu do ich produkcji, a ostatnio nakazał firmie Anthropic uniemożliwić obcokrajowcom dostęp do najpotężniejszych modeli, Mythos i Fable 5, ze względów bezpieczeństwa narodowego. W odpowiedzi Anthropic odebrał dostęp wszystkim.
Podczas całodniowej sesji omawiano uniwersalne zagrożenia: nowe podatności w kodzie generowanym przez AI, ataki wykorzystujące autonomiczne działanie agentów oraz zautomatyzowaną socjotechnikę. Lin Yun, profesor z Shanghai Jiao Tong University, spodziewa się, że w krótkim okresie przewagę zyskają hakerzy, lecz nowe metody obrony - w tym oparte na AI - z czasem odwrócą tę tendencję. Jego zdaniem współpraca powinna pozostać priorytetem: „Jeśli różne kraje rozumieją ryzyka w podobny sposób, łatwiej wypracować wspólne zasady bezpieczeństwa i standardy techniczne”.
Argumentację Caspera wspierają badania nad współpracą międzynarodową w obszarze bezpieczeństwa AI.
Ciekawe jest to, że obawy wydają się wspólne po obu stronach Pacyfiku - to rzadki grunt, na którym porozumienie w ogóle wydaje się możliwe.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
