RATE LIMITING AT SCALE: Token Bucket, Leaky Bucket & Redis

Chapters / Timestamps: 0:00 Introduction & Architecture Risks 0:42 Token Bucket Algorithm 1:22 Leaky Bucket Algorithm Тема видео - RATE LIMITING AT SCALE: Token Bucket, Leaky Bucket, Sliding Window & Distributed Redis Counter. Разбор алгоритмов ограничений запросов и их реализация в высоконагруженных распределенных системах. Длительность видео 8 минут. Количество сцен 48. Видео формата "Длинное". Информация про предметную область и алгоритмы Rate Limiting: - Основное назначение Rate Limiting: защита инфраструктуры от DDoS-атак, предотвращение исчерпания ресурсов (Resource Starvation), каскадных сбоев (Cascading Failures) и монетизация API через квоты. - Алгоритм Token Bucket (Маркерное ведро): позволяет отрабатывать короткие всплески трафика (Burst Traffic). Токены пополняются с постоянной скоростью, при отсутствии токенов запрос отклоняется (HTTP 429 Too Many Requests). - Алгоритм Leaky Bucket (Протекающее ведро): сглаживает всплески трафика, обрабатывая запросы с фиксированной скоростью в очереди FIFO. Подходит для фоновой обработки задач и асинхронных сервисов. - Fixed Window Counter & Sliding Window Logs/Counter: разбор проблемы "границ окна" (Window Boundary Issue) в фиксированных окнах и решение через скользящие логи (высокие затраты памяти) и скользящие счетчики (Sliding Window Counter) с весовыми коэффициентами. - Распределенный Rate Limiting (Distributed Rate Limiting): масштабирование алгоритмов с использованием распределенных хранилищ (Redis/Memcached). - Проблема состояния гонки (Race Conditions) в распределенной среде при параллельных запросах (Read-Modify-Write) и методы ее решения: атомарные операции INCR, использование Lua-скриптов в Redis или Redis Cell (модуль на Rust). - Архитектурное размещение: интеграция на уровне API Gateway / Reverse Proxy (Envoy, NGINX, Kong) против реализации на уровне приложения (Middleware).