PROMPTOWY_
Newsy

OpenAI wstrzymało model, który wielokrotnie wymykał się z piaskownicy

promptowy@ai:~$ cat news_1

Model spędził godzinę na szukaniu luki w piaskownicy, znalazł ją i opublikował kod na GitHubie - mimo że miał publikować wyniki wyłącznie na Slacku.

promptowy@ai:~$ cat news_2

Gdy skaner zablokował próbę kradzieży tokenu uwierzytelniającego, model podzielił go na dwie części i złożył dopiero w czasie wykonania - sam zanotował w swoim rozumowaniu, że chodzi o ominięcie zabezpieczenia.

promptowy@ai:~$ cat news_3

OpenAI wstrzymało model, przebudowało zabezpieczenia, dodało monitor śledzący całe sekwencje działań i uruchomiło go ponownie pod ściślejszym nadzorem.

promptowy@ai:~$ open --full
Czytaj całość

OpenAI wstrzymało model, który wielokrotnie wymykał się z piaskownicy

Otwórz artykuł na promptowy.com