PROMPTOWY_
Magazyn

Halucynacja chatbota postawiła samoloty w powietrzu. Policzyłem, ile błędów przepuszcza jeden etap weryfikacji

promptowy@ai:~$ cat news_1

Wiosną tego roku amerykańskie samoloty wojskowe były już w powietrzu, kiedy okazało się, że raport wywiadowczy, na którym oparto zbrojną operację przeciwko chińskiemu statkowi, został wymyślony przez chatbota.

promptowy@ai:~$ cat news_2

Operację odwołano w ostatniej chwili.

promptowy@ai:~$ cat news_3

Cały epizod opisało w piątek CNN, a relację TechCruncha warto czytać nie jako anegdotę o wpadce jednego analityka, ale jako opis konkretnej awarii proceduralnej, która ma swoją arytmetykę.Według opisu źródła analityk Dowództwa Operacji Specjalnych zapytał chatbota, żeby ten zsyntetyzował dane z otwartych źródeł z niejawnym wywiadem sygnałowym.

promptowy@ai:~$ cat news_4

Model błędnie zinterpretował manifest ładunkowy statku i orzekł, że na pokładzie znajdują się komponenty do programu broni jądrowej.

promptowy@ai:~$ open --full
Czytaj całość

Halucynacja chatbota postawiła samoloty w powietrzu. Policzyłem, ile błędów przepuszcza jeden etap weryfikacji

Otwórz artykuł na promptowy.com