Настройка моделей ИИ-сотрудников

По умолчанию ИИ-сотрудники могут использовать все включённые службы языковой модели и модели. Администраторы могут включить настройки выделенной модели для конкретного сотрудника и ограничить набор моделей.

Предварительная подготовка

  • Плагин ИИ-сотрудники включён.
  • Настроена хотя бы одна служба языковой модели.
  • Целевой ИИ-сотрудник включён.

Настройку службы языковой модели см. Настройка службы языковой модели.

Точки входа

Перейдите в Настройки системы -> ИИ-сотрудники -> ИИ-сотрудники, откройте нужного сотрудника и переключитесь на Настройки модели.

Включение настроек выделенной модели

После включения Включить настройку выделенной модели выберите разрешённые модели в Модели.

  • Переключатель модели в чате показывает только выбранные модели.
  • Быстрые задачи и узлы рабочего процесса могут использовать только выбранные модели.
Совет

Если настройки выделенной модели активны, но модель не выбрана, доступная модель не будет определена.

Отключение настроек выделенной модели

После отключения снова применяются правила по умолчанию:

  • Можно использовать все включённые модели языковой модели.
  • Без ручного выбора система использует глобальную модель по умолчанию.

Правила выбора модели

При выполнении задачи итоговая модель выбирается в таком порядке:

  1. Если настройки выделенной модели включены, сначала выбирать модель в пределах выбранного диапазона.
  2. Если запрос указывает модель и она разрешена, использовать эту модель.
  3. Если указанная модель не разрешена, использовать первую разрешённую модель.
  4. Если настройки выделенной модели не включены, предпочитать модель, указанную в запросе.
  5. Если модель не указана, использовать глобальную модель по умолчанию.

Рекомендации

  • Если локальное развёртывание невозможно, выбирайте специализированную переводческую модель, а не обычную чат-модель.
  • Параллелизм можно настраивать по возможностям модели для управления пропускной способностью, временем ответа и стоимостью.

Частые вопросы

Почему список моделей пуст?

Обычно служба языковой модели не настроена или модель не включена. Проверьте Включенные модели.

Почему пользователи не могут переключаться на другие модели?

При включённых настройках выделенной модели доступен только выбранный диапазон моделей.

Какие записи затрагиваются?

Затрагивает новые чаты, быстрые задачи, узлы рабочего процесса с ИИ-сотрудником и встроенные задачи плагина. Исторические сообщения не пересоздаются.