Структурированный вывод

Введение

В некоторых сценариях использования пользователям может понадобиться, чтобы языковая модель отвечала структурированным содержимым в формате JSON. Этого можно добиться, настроив функцию «Структурированный вывод».

Конфигурация

  • Схема JSON — пользователь может задать ожидаемую структуру ответа модели, настроив Схема JSON.
  • Названиенеобязательно, помогает модели лучше понять объект, описанный Схемой JSON.
  • описаниенеобязательно, помогает модели лучше понять назначение Схемой JSON.
  • Строгое соответствие — требует, чтобы модель генерировала ответ строго в соответствии со структурой Схемы JSON. В настоящее время этот параметр поддерживается только некоторыми новыми моделями OpenAI. Перед включением убедитесь, что ваша модель совместима с ним.

Метод генерации структурированного содержимого

То, как модель генерирует структурированное содержимое, зависит от используемой модели и её настройки Формат ответа:

  1. Модели, у которых Формат ответа поддерживает только текст

    • При вызове узел привяжет инструмент, который генерирует содержимое в формате JSON на основе Схемы JSON и направляет модель на генерацию структурированного ответа через этот инструмент.
  2. Модели, у которых Формат ответа поддерживает режим JSON (json_object)

    • Если при вызове выбран режим JSON, пользователю нужно явно указать модели в запросе, что ответ должен быть в формате JSON, и описать поля ответа.
    • В этом режиме Схема JSON используется только для парсинга JSON‑строки, возвращаемой моделью, и преобразования её в целевой JSON‑объект.
  3. Модели, у которых Формат ответа поддерживает Схему JSON (json_schema)

    • Схема JSON напрямую используется для указания целевой структуры ответа модели.
    • Необязательный параметр Строгое соответствие требует, чтобы модель строго следовала Схеме JSON при генерации ответа.
  4. Локальные модели Ollama

    • Если настроена Схема JSON, узел передаст её в модель как параметр format при вызове.

Использование результата Структурированного вывода

Структурированное содержимое ответа модели сохраняется как JSON‑объект в поле Структурированное содержимое узла и может использоваться последующими узлами.