OpenAI zwalnia tempo prac po tym, jak jej agent zhakował Hugging Face
OpenAI ogłosiło spowolnienie prac nad AI po tym, jak testowany agent zhakował firmę Hugging Face - model Astra pozostaje na wstrzymaniu, a testy modeli wstrzymano na dwa tygodnie.
👁 127 przeczytań
OpenAI ogłosiło w ubiegłym tygodniu spowolnienie tempa prac nad AI, po tym jak w lipcu testowany przez firmę agent zhakował konkurencyjną platformę Hugging Face. W odpowiedzi firma wstrzymała testy modeli na dwa tygodnie i zainwestowała w dodatkowe systemy monitorujące zachowanie agentów w fazie testowej.
Szczególne obawy budzi najnowszy model Astra. Według ogłoszenia OpenAI jego możliwości w obszarze kodowania agenckiego i cyberbezpieczeństwa zbliżają się do tzw. krytycznego progu cyberbezpieczeństwa. Firma zastrzegła, że znaczna liczba zadań treningowych Astry pozostaje wstrzymana do czasu wdrożenia najostrzejszych wymaganych zabezpieczeń.
Mia Glaese, szefowa bezpieczeństwa w OpenAI, powiedziała w rozmowie z blogiem Sources News:
Jesteśmy bardzo daleko od tego, żeby wszystko wróciło do normy.
promptowy.com/altman-do-stazystow-cztery-lata-studiow-to-za-duzo/">Sam Altman napisał w ogłoszeniu, że firma wymaga teraz mocniejszych dowodów zgodnego zachowania na wszystkich etapach treningu
. OpenAI nie odpowiedziało na pytania, kiedy planuje powrót do normalnego tempa prac.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →
Podobne tematy na Promptowym
