› Kiedy agent AI dostaje sprzeczne polecenia - powiedzmy, jedno z komunikatu systemowego, drugie od użytkownika, trzecie z narzędzia, a czwarte od innego agenta - które z nich powinien wykonać?
› To pytanie brzmi prosto, ale w praktyce okazuje się poważnym problemem.
› Na czym polega problem Obecne podejście do hierarchii poleceń w modelach językowych zakłada niewielką, sztywną liczbę poziomów uprzywilejowania - zazwyczaj mniej niż pięć - definiowanych przez stałe etykiety ról, na przykład: system ma pierwszeństwo przed użytkownikiem.
› Autorzy artykułu - Jingyu Zhang, Tianjian Li, William Jurayj, Hongyuan Zhan, Benjamin Van Durme i Daniel Khashabi - twierdzą, że taki model jest niewystarczający dla rzeczywistych zastosowań agentowych.