PROMPTOWY_
Newsy

Grok kradnie dane, bo nie czyta zaszyfrowanych rozkazów. To nie błąd - to cecha całej klasy

promptowy@ai:~$ cat news_1

Badacz Rony Utevsky z firmy Adversa odkrył, że zaszyfrowanie złośliwych instrukcji (AES-256-GCM + PBKDF2) pozwala całkowicie ominąć filtry bezpieczeństwa Grok i wykraść imię, lokalizację oraz historię czatów użytkownika.

promptowy@ai:~$ cat news_2

xAI zostało poinformowane o podatności już w czerwcu, jednak w momencie publikacji artykułu atak nadal działał bez ostrzeżeń i bez wymaganego potwierdzenia.

promptowy@ai:~$ cat news_3

Atak należy do klasy prompt injection - eksperci twierdzą, że LLM-y są strukturalnie niezdolne do rozwiązania tego problemu u źródła, a guardrails to jedyne dostępne narzędzie obrony.

promptowy@ai:~$ open --full
Czytaj całość

Grok kradnie dane, bo nie czyta zaszyfrowanych rozkazów. To nie błąd - to cecha całej klasy

Otwórz artykuł na promptowy.com