GenPark LLM Token Bucket & Sliding Window Rate Limiter

本地 MCP 服务器，为 LLM 调用提供自适应 TPM/RPM 限流、漏桶排队与突发等待时间估算。

可以做什么

• 对 LLM 流量施加多层每分钟令牌数（TPM）与每分钟请求数（RPM）限制。
• 通过漏桶平滑排队请求，而不是直接拒绝。
• 估算一批突发请求需要等待多久才能通过。
• 随使用情况变化在各层级间自适应调整限额。

适用场景

适用于助手或智能体流程调用 LLM API、需要遵守服务商的 TPM/RPM 配额而不触发硬性失败时，或需要为突发请求给出可预期的等待估算时。

运行要求

以本地 stdio 进程在用户机器上运行（仅桌面端）。README 示例配置使用 Python 启动本地脚本，且实现仅依赖 Python 3 标准库，因此需要 Python 3 运行环境。未声明任何环境变量、请求头或身份验证。