AI 网关固定窗口限流在大促被击穿

一名开发者复盘其为一家 SaaS 客服公司搭建的 AI 网关：按每租户每 60 秒 100 个请求做固定窗口限流，大促时窗口边界两侧各 100 个请求在 0.2 秒内集中打到下游模型供应商，触发 429 错误并形成雪崩，还波及同一配额下的其他租户。 问题出在固定窗口限流无法约束窗口交界处的瞬时流量，单租户配额因此被短时突破，并沿共享配额传导给同供应商的其他租户。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。