PROMPTOWY_
Warsztat

Model obiecał JSON, parser zwrócił null. Pięć przebiegów i trzy przyczyny

promptowy@ai:~$ cat news_1

Prosisz model o JSON, model obiecuje JSON, a `json_decode` zwraca `null`.

promptowy@ai:~$ cat news_2

Trafiłem na to w tym tygodniu przy automacie, który pisze teksty - i przy okazji zrozumiałem, dlaczego cała kategoria nowych narzędzi powstaje właśnie wokół tego problemu.

promptowy@ai:~$ cat news_3

Wniosek w jednym akapicie Model generujący tekst nigdy nie da gwarancji struktury - może ją tylko obiecać.

promptowy@ai:~$ cat news_4

Tryb JSON i structured outputs bardzo podnoszą skuteczność, ale nadal wymuszają format na systemie, który pod spodem produkuje kolejne tokeny.

promptowy@ai:~$ open --full
Czytaj całość

Model obiecał JSON, parser zwrócił null. Pięć przebiegów i trzy przyczyny

Otwórz artykuł na promptowy.com