На каждом деплое клиенты получают несколько секунд ответов 502
Сервис на uvicorn раскатывается в Kubernetes с постепенной заменой подов. Сам релиз проходит успешно, но в момент каждого деплоя балансировщик отдаёт клиентам всплеск 502 длиной в несколько секунд.
Какое объяснение и исправление верные?
- Старый под гасит соединения раньше, чем его убрали из балансировки
- Новые поды получают трафик до установки зависимостей — нужен больший образ
- Uvicorn не поддерживает постепенную замену, нужен gunicorn
- Нужно увеличить число реплик: при большем числе 502 не бывает