Один партнёр шлёт 5 000 запросов в секунду и замедляет API для всех остальных
Публичное API используют десятки партнёров. Скрипт одного из них из-за ошибки отправляет тысячи запросов в секунду, база нагружена, остальные партнёры получают таймауты. Сервис на .NET 8.
Как защитить API?
- Rate limiter с партиционированием по ключу партнёра
- Общий лимит запросов на всё API сразу
- Блокировать партнёра вручную при каждом инциденте
- Увеличить число реплик до выдерживания любой нагрузки