Przejdź do treści
Sklep
Słownik AI / Jailbreak
🛡️ Bezpieczeństwo i jakość

Jailbreak

Próba obejścia zabezpieczeń modelu sprytnie skonstruowanym promptem.

Jailbreak to próba obejścia zabezpieczeń modelu za pomocą sprytnie skonstruowanego promptu: odgrywania ról, hipotetycznych scenariuszy, wielokrotnych przeformułowań - wszystko po to, by model zrobił coś, czego zgodnie z regułami robić nie powinien.

Między twórcami zabezpieczeń a łamiącymi je trwa nieustanny wyścig; publikowane triki szybko przestają działać, pojawiają się nowe. Dla firm wdrażających AI wniosek jest praktyczny: nie należy zakładać, że barierki modelu są nie do przejścia - krytyczne ograniczenia trzeba egzekwować także poza samym modelem.

Pojęcia powiązane
GuardrailsPrompt injection

← Wszystkie pojęcia w Słowniku AI

🛒 Sklep Kinetyka CapCut Pro 460 zł/rok Lovable Pro 450 zł/rok Replit Core 119 zł/rok Zobacz wszystko →
× ‹ powiększenie ›