Anthropic zatrudnia ekspertów od broni jądrowej i biologicznej, żeby chronić własne modele
Anthropic opublikowało serię ogłoszeń o pracę dla analityków ds. egzekwowania polityki bezpieczeństwa - szukają specjalistów od zagrożeń radiologicznych, jądrowych, chemicznych i biologicznych, by uniemożliwić modelom AI przekazywanie wiedzy o produkcji broni.
👁 149 przeczytań
Anthropic opublikowało ogłoszenia o pracę na stanowiska analityków, których zadaniem jest zapobieganie wykorzystywaniu modeli firmy do budowy broni masowego rażenia, prowadzenia oszustw finansowych i cyberprzestępczości - jako pierwsze poinformowało o tym Axios. Ogłoszenia obejmują m.in. stanowisko „Enforcement Analyst focused on Radiological & Nuclear Harms”, a wynagrodzenia mieszczą się w przedziale 200-300 tys. dolarów rocznie.
To praca, która nie ma nic wspólnego z kodowaniem. Anthropic szuka osób z praktyczną wiedzą ekspercką - biologów, specjalistów od materiałów wybuchowych, analityków finansowych - a jednocześnie takich, które potrafią myśleć jak atakujący próbujący obejść zabezpieczenia modelu. Rzecznik firmy podkreślił, że szczegółowe nazywanie zagrożeń w tytułach stanowisk to celowy zabieg: „Zapewnienie, że nasze modele nie dostarczają potencjalnie szkodliwych informacji, jest fundamentem odpowiedzialnego rozwoju” - i jedynym sposobem na znalezienie odpowiednich kandydatów.
Google · Twoje źródłaPromptowy wyżej w Twoim Google - jednym kliknięciemDodaj do preferowanych źródeł →Ryzyko, które Amodei opisuje od miesięcy
Za tymi rekrutacjami stoi konkretna filozofia firmy. Dyrektor generalny Dario Amodei od kilku miesięcy publicznie opisuje scenariusze katastrof - w eseju z stycznia wskazał ataki biologiczne jako zagrożenie, które go niepokoi najbardziej. „Nie sądzę, że ataki biologiczne zostaną przeprowadzone natychmiast po tym, gdy stanie się to powszechnie możliwe” - napisał - „ale zsumowane na milionach ludzi i kilku latach, uważam, że istnieje poważne ryzyko poważnego ataku, z potencjalnie milionami lub więcej ofiar”. Amodei ostrzegał też przed AI wspierającą cyberprzestępców i reżimy autorytarne, a wcześniej w tym roku firma zerwała współpracę z Departamentem Obrony USA w kwestii technologii do masowej inwigilacji i autonomicznej broni.
Anthropic nie jest tu wyjątkiem - OpenAI również rekrutuje badacza ds. zagrożeń biologicznych i chemicznych, oferując wynagrodzenie bazowe do 445 tys. dolarów rocznie. Najlepiej opłacani eksperci od bezpieczeństwa AI trafiają do laboratoriów, nie do rządu - mniej niż jeden na stu doktorów z dziedziny AI wybiera sektor publiczny. Stany Zjednoczone nadal nie mają kompleksowego prawa regulującego bezpieczeństwo modeli frontier, mimo wieloletnich prób legislacyjnych w Kongresie.
Firmy budujące najzdolniejsze modele są zarazem tymi, które same decydują, jak je ogrodzić. Amodei sam nazwał tę sprzeczność - określając firmy AI jako kolejne po wrogich państwach źródło ryzyka. Jego strona z ofertami pracy jest jednocześnie argumentem i ostrzeżeniem.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
