Słownik AI / Jailbreak

🛡️ Bezpieczeństwo i jakość

Jailbreak to próba obejścia zabezpieczeń modelu za pomocą sprytnie skonstruowanego promptu: odgrywania ról, hipotetycznych scenariuszy, wielokrotnych przeformułowań - wszystko po to, by model zrobił coś, czego zgodnie z regułami robić nie powinien.

Między twórcami zabezpieczeń a łamiącymi je trwa nieustanny wyścig; publikowane triki szybko przestają działać, pojawiają się nowe. Dla firm wdrażających AI wniosek jest praktyczny: nie należy zakładać, że barierki modelu są nie do przejścia - krytyczne ograniczenia trzeba egzekwować także poza samym modelem.