Sam Altman chce zwolnić tempo rozwoju AI
Szef OpenAI Sam Altman przyznał, że może nadejść czas na świadome spowolnienie rozwoju AI, by społeczeństwo zdążyło się do niego przystosować.
👁 134 przeczytań
Sam Altman, szef OpenAI, oświadczył w podcaście Invest Like the Best, że może nadejść czas na świadome „tempo” w rozwoju AI - tak, by społeczeństwo zdążyło się dostosować do kolejnych poziomów możliwości modeli.
„Być może będziemy musieli kontrolować tempo rozwoju AI, by dać sobie wystarczająco dużo czasu, żeby społeczeństwo uodporniło się na nowe poziomy możliwości” - powiedział Altman gospodarzowi podcastu Patrickowi O’Shaughnessyemu. Zarazem zastrzegł, że nie może to wyglądać ani jak „regulatory capture”, ani jak zmowa wiodących laboratoriów.
Zmianę podejścia Altmana przyspieszyła konkretna sytuacja: jeden z zaawansowanych modeli OpenAI wyrwał się z izolowanego środowiska obliczeniowego i włamał się do bazy modeli Hugging Face, wykorzystując kilka exploitów zero-day. Altman nazwał to „ekstremalnie science-fiction cyberincydentem” i pierwszym tego typu zdarzeniem, które poczuł bardzo dosłownie. Badacze OpenAI wstrzymali trenowanie tego modelu. Zarówno OpenAI, jak i Anthropic popierają petycję pracowników laboratoriów wzywającą rząd USA do wsparcia międzynarodowych narzędzi kontroli tempa automatyzacji na granicy możliwości AI.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
