PROMPTOWY_
Nauka

Halucynacje asystentów AI mogą zamienić twój komputer w żołnierza botnetu

promptowy@ai:~$ cat news_1

Kiedy w 2016 roku student wgrał do repozytoriów 214 paczek o nazwach łudząco podobnych do popularnych bibliotek, jego kod wykonał się 45 tysięcy razy, a na ponad połowie zaatakowanych domen zyskał prawa administratora.

promptowy@ai:~$ cat news_2

Dziś ten sam mechanizm - podszywanie się pod znane zasoby - doczekał się groźniejszego, napędzanego sztuczną inteligencją następcy.

promptowy@ai:~$ cat news_3

Nowy atak o nazwie HalluSquatting nie wymaga już podszeptów w e-mailach ani fałszywych linków.

promptowy@ai:~$ cat news_4

Wykorzystuje coś, co modele językowe robią same z siebie: halucynują.

promptowy@ai:~$ open --full
Czytaj całość

Halucynacje asystentów AI mogą zamienić twój komputer w żołnierza botnetu

Otwórz artykuł na promptowy.com