GenPark Adaptive Batch Request Debouncer

本地 MCP 服务器，通过自适应防抖与微批合并来提升 LLM 吞吐量。

可以做什么

• 使用自适应滑动窗口对传入查询进行防抖。
• 将相关请求合并为微批后再处理。
• 通过减少独立调用次数来提升 LLM 吞吐量。
• 未列出具体工具，因此助手可调用的具体操作没有文档说明。

适用场景

当存在大量相似或突发性的 LLM 请求，需要先分组并控制发送时机，且希望在本机完成批处理时，可以考虑使用。

运行要求

以本地 stdio 进程在用户机器上运行，以 MCPB 包形式分发给桌面客户端。未声明任何认证、环境变量或请求头。