Добавили реплики gRPC-сервиса, а вся нагрузка по-прежнему идёт на один под
Сервис рекомендаций вызывают по gRPC через обычный Service в Kubernetes. Его масштабировали с двух до восьми подов, но мониторинг показывает, что почти все вызовы от сервиса каталога приходят на один-два пода, а остальные простаивают.
Почему так и что сделать?
- gRPC держит одно долгое соединение; нужна балансировка на клиенте
- Kubernetes балансирует gRPC только после перезапуска
- Нужно увеличить число реплик сервиса каталога
- Protobuf не поддерживает больше двух серверов