PROMPTOWY_
Newsy

Zbyt duża wiara w to, że AI potrafi odmówić

promptowy@ai:~$ cat news_1

› Modele językowe są trenowane do odmawiania tysięcy typów zapytań, ale mechanizmy te mają charakter probabilistyczny i zawodzą - w tym przy próbach udoskonalania patogenów czy budowania rojów dronów.

promptowy@ai:~$ cat news_2

› Steven Adler, pracownik działu bezpieczeństwa OpenAI w latach 2020-2024, przyznaje, że najwcześniejsze modele firmy odpowiadały na absolutnie wszystko bez ograniczeń.

promptowy@ai:~$ cat news_3

› Autor porównuje obecne podejście do zamontowania karabinu maszynowego w każdym samochodzie i ukrycia spustu pod maską - broń pozostaje, tylko dostęp jest utrudniony.

promptowy@ai:~$ open --full
Czytaj całość

Zbyt duża wiara w to, że AI potrafi odmówić

Otwórz artykuł na promptowy.com