Structured Output
Гарантований машиночитаний формат відповіді LLM через Constrained Decoding
structured outputJSONschemaconstrained decodingSGR
📎ОФІЦІЙНА ДОКУМЕНТАЦІЯ
Structured Output
Structured Output -- інструмент взаємодії з LLM, що гарантує відповідь у суворому, машиночитаному форматі (JSON).
Як це працює
Використовує Constrained Decoding. Рушій моделі будує FSM або формальну граматику. На кожному кроці відкидаються токени, що порушують схему.
Порівняння з промптингом
| Характеристика | Промптинг | Structured Output API |
|---|---|---|
| Надійність | Низька | Абсолютна |
| Дотримання типів | Може помилитися | Суворе |
| Галюцинації ключів | Може вигадати зайві | Строго за схемою |
Best Practices
💡Порада
Поєднуйте Structured Output з SGR (Schema-Guided Reasoning) для максимальної якості та надійності.
- Використовуйте поля
descriptionу схемі - Keep it Simple -- уникайте надскладних вкладених структур
- Поєднуйте з SGR для покращення reasoning