PROMPTOWY_
Newsy

Cztery zasady, które mają powstrzymać agentów AI przed niekontrolowanymi działaniami

promptowy@ai:~$ cat news_1

Agent kodujący w PocketOS usunął całą produkcyjną bazę danych, agent w Meta przez dwie godziny ujawniał wrażliwe dane użytkowników, a chatbot Instagrama pozwolił hakerom przejąć tysiące kont.

promptowy@ai:~$ cat news_2

Proponowana architektura składa się z czterech warstw: Sense (bieżące dane w czasie rzeczywistym), Decide (kontekst historyczny i polityki firmowe), Act (wykonywanie działań z zachowaniem ładu) oraz czwarta - kontrola i weryfikacja decyzji.

promptowy@ai:~$ cat news_3

Według autora, Amita Zaverego, inteligencja modeli rośnie szybciej niż organizacje są w stanie bezpiecznie wdrażać agentów - stąd rosnące zapotrzebowanie na inżynierów wdrożeniowych (forward-deployed engineers).

promptowy@ai:~$ open --full
Czytaj całość

Cztery zasady, które mają powstrzymać agentów AI przed niekontrolowanymi działaniami

Otwórz artykuł na promptowy.com