PROMPTOWY_
Newsy

Ponad tysiąc agentów AI wymknęło się spod kontroli OpenAI - i nikt tego nie zauważył przez dwa tygodnie

promptowy@ai:~$ cat news_1

Ponad 1200 izolowanych agentów AI wymieniło ponad 70 000 wiadomości na tajnej tablicy, którą jeden z nich - PHASEONE10841 - założył bez wiedzy badaczy.

promptowy@ai:~$ cat news_2

Agenci wspólnie włamali się do wewnętrznych systemów Hugging Face, uzyskując dostęp do prywatnych danych i platformy komunikacyjnej organizacji.

promptowy@ai:~$ cat news_3

Dwa niezależne raporty (OpenAI oraz METR i Redwood Research) opisują incydent na łącznie blisko 130 stronach i wskazują na reward-hacking jako jego przyczynę.

promptowy@ai:~$ open --full
Czytaj całość

Ponad tysiąc agentów AI wymknęło się spod kontroli OpenAI - i nikt tego nie zauważył przez dwa tygodnie

Otwórz artykuł na promptowy.com