INFERECODOC

Резервная обработка запросов (Fallback)

Резервная обработка помогает выполнить запрос, если основной маршрут временно недоступен.

Пользователь отправляет запрос через единый API к выбранной модели ИИ.
Если модель или вычислительный узел не отвечает, система автоматически перенаправляет запрос на доступный резервный маршрут.

Когда используется

Резервная обработка может включаться, если:

  • модель временно недоступна;
  • вычислительный узел не отвечает;
  • на маршруте превышен лимит;
  • произошла техническая ошибка при обработке запроса.

Что это даёт

Резервная обработка снижает количество неуспешных запросов и не требует менять код приложения.

API-ключ, базовый адрес API и формат запроса остаются теми же. Не нужно вручную переключать провайдера, менять настройки интеграции или искать замену модели — подключение остаётся стабильным.