PROMPTOWY_
Newsy

Prompt injection kontra hakerskie agenty AI - atak skuteczny w 1% przypadków

promptowy@ai:~$ cat news_1

Technika nazwana 'context bombing' polega na podrzucaniu zakazanych poleceń obok sekretów w AWS, co zmusza atakujące modele LLM do odmowy działania.

promptowy@ai:~$ cat news_2

W 152 testowych atakach na pięciu modelach odsetek przejęcia pełnych uprawnień admina spadł z 57% do 5%, a całkowitego kompromisu z 36% do 1%.

promptowy@ai:~$ cat news_3

Najsilniejszy testowany model, Opus 4.8, osiągał dostęp administracyjny w 93% prób - po zastosowaniu context bomb zawiódł za każdym razem.

promptowy@ai:~$ open --full
Czytaj całość

Prompt injection kontra hakerskie agenty AI - atak skuteczny w 1% przypadków

Otwórz artykuł na promptowy.com