GenPark LLM Token Bucket & Sliding Window Rate Limiter

io.github.alphaparkinc由 GitHub 帳號 alphaparkinc 發布v1.0.1更新於 Nov 2, 2026

Adaptive multi-tier TPM/RPM rate limiter with smooth leaky bucket queuing and burst wait estimation

已驗證STDIO僅桌面開發者工具AI 與機器學習

概覽

AI 產生的概覽

本機 MCP 伺服器，為 LLM 呼叫提供自適應 TPM/RPM 限流、漏桶排隊與突發等待時間估算。

可以做什麼
  • 對 LLM 流量套用多層每分鐘權杖數（TPM）與每分鐘請求數（RPM）限制。
  • 透過漏桶平滑排隊請求，而非直接拒絕。
  • 估算一批突發請求需要等待多久才能通過。
  • 隨使用情況變化在各層級間自適應調整限額。
適用情境
適用於助理或代理流程呼叫 LLM API、需要遵守供應商的 TPM/RPM 配額而不觸發硬性失敗時，或需要為突發請求提供可預期的等待估算時。
執行需求
以本機 stdio 程序在使用者機器上執行（僅桌面端）。README 範例設定使用 Python 啟動本機腳本，且實作僅依賴 Python 3 標準函式庫，因此需要 Python 3 執行環境。未宣告任何環境變數、標頭或身分驗證。
安裝前請注意
README 範例設定會執行本機 Python 腳本，啟動前請確認腳本來源可信。未宣告需要憑證，也未宣告會寫入資料的操作。

安裝

在 SourceWeft 中

  1. 開啟 儀表板中的 GenPark LLM Token Bucket & Sliding Window Rate Limiter，將其新增到工作區。
  2. 為需要使用其工具的對話啟用該服務。

Desktop only，透過 STDIO。 STDIO 服務會啟動本機處理程序，因此需要 SourceWeft 桌面主機。

其他 MCP 客戶端

參照 儲存庫 中的啟動說明。

README

genpark-llm-token-bucket-sliding-window-rate-limiter-skill

[Verified by Smithery] [LinkedIn] [Website]

Adaptive multi-tier TPM and RPM rate limiter with smooth leaky bucket queuing and predictive burst wait estimation

Quick Installation & MCP Integration

Add to your Claude Desktop or Cursor configuration:

json
{  "mcpServers": {    "genpark-llm-token-bucket-sliding-window-rate-limiter-skill": {      "command": "python",      "args": ["mcp_server.py"]    }  }}

Zero Dependencies

Implemented entirely in Python 3 standard library.

來源：README.md，提交 0507a76

工具

0
SourceWeft 尚未在沙箱中啟動過該軟體包，因此其工具未知。

版本歷史

1
  1. v1.0.1最新Oct 19, 2026

評分

已滿足適用檢查項的 40%

該評分衡量此收錄條目的完整程度，依據註冊中心條目、端點與公開來源計算得出。它不是對伺服器本身的評價，也不表示伺服器安全或目前可用：可連通性是帶日期的檢查結果，評分也不包含安裝量或使用者評價。

  • 近 30 天內可連通25 分

    請保持端點能夠回應 MCP 握手；SourceWeft 每 30 天探測一次。

  • 已宣告認證方式10 分

    請在註冊中心條目中宣告憑證請求標頭，或保持端點能夠回應探測，以便判定其認證方式。

  • 已列出工具15 分

    請讓伺服器在無憑證時回應 tools/list，或發布可在沙箱中無憑證啟動的軟體包。

  • 描述必需15 分
  • 圖示10 分
  • 文件15 分
  • 授權條款10 分

    請在儲存庫或註冊中心條目中宣告授權條款。