Очередь

Как это работает?

Для запросов, выполнение которых занимает больше нескольких секунд, как это обычно бывает при работе с ИИ-моделями, в GenAPI используется система очередей. Она позволяет обрабатывать длительные операции асинхронно и не блокировать клиентское приложение в ожидании результата.

Система очередей обеспечивает:

• стабильную обработку долгих запросов;
• контроль состояния выполнения задачи;
• возможность получения результата после завершения обработки.

Очереди используются по умолчанию для всех операций, время выполнения которых не позволяет вернуть ответ быстро.

Отправка запроса:

Отправка запроса в очередь:

Получение результата:

Получение результата по уникальному идентификатору запроса, полученного из ответа API: