Под нагрузкой пропускная способность упёрлась в потолок при загрузке процессора 30%
Нагрузочный тест плавно поднимает число запросов к API. После 400 запросов в секунду пропускная способность перестаёт расти, время ответа резко увеличивается, но процессор сервиса загружен на 30%, база — на 25%. Добавление реплик сервиса почти не помогает.
Куда смотреть в первую очередь?
- На метрики пулов: соединений к базе, потоков, HTTP-клиента — сколько занято и сколько ждут
- На сеть между генератором нагрузки и сервисом — она всегда узкое место
- На процессор базы: 25% означает, что она не справляется
- Никуда: 400 запросов в секунду — нормальный предел для любого сервиса