Prompt injection: co to jest, jak wygląda atak i jak się bronić

promptowy@ai:~$ cat news_1 › Prompt injection to atak, w którym polecenie dla modelu językowego jest ukryte w treści, którą model czyta: w mailu, na stronie, w PDF-ie, w zaproszeniu do kalendarza albo w obrazku.

promptowy@ai:~$ cat news_2 › Model nie odróżnia niezawodnie tego, co mówi użytkownik, od tego, co „mówi” dokument, więc wykonuje cudze instrukcje jak własne.

promptowy@ai:~$ cat news_3 › OWASP od 2023 roku trzyma tę podatność na pierwszym miejscu listy zagrożeń dla aplikacji z LLM, a od kiedy agenci mają dostęp do poczty i plików, przestała być ciekawostką.

promptowy@ai:~$ cat news_4 › Poniżej, jak wygląda atak, jakie były głośne incydenty i co realnie możesz zrobić.

Prompt injection: co to jest, jak wygląda atak i jak się bronić

promptowy@ai:~$ open --full Czytaj całość Otwórz artykuł na promptowy.com