SentioGate FinOps & LLM Router

io.github.HISHAMJOTTERREV由 GitHub 帳號 HISHAMJOTTERREV 發布v1.0.1更新於 Nov 8, 2026

BYOK AI router & FinOps control plane: audit token waste, check tool safety, and rank models.

發布方自己的服務:370.ai — AI Gateway: 100+ Chat Models, Image & Speech Generation

已驗證Streamable HTTP可網頁執行安全與監控資料與分析AI 與機器學習

概覽

AI 產生的概覽

一個 BYOK AI 路由與 FinOps 閘道,讓助理稽核 token 浪費、檢查工具呼叫安全、最佳化訊息負載並挑選成本最理想的模型。

可以做什麼
  • 稽核過往 LLM 請求日誌,找出成本浪費、上下文膨脹、提示快取機會與可節省金額
  • 取得 FinOps 指標:依供應商的支出、提示快取節省、活躍工作階段與剩餘配額
  • 依即時定價與延遲,為程式開發或代理任務推薦模型及供應商備援鏈
  • 對工具呼叫、終端機指令或對話歷史做預先檢查,辨識憑證外洩、破壞性指令與失控迴圈等風險
  • 在不執行推論的情況下預覽上下文壓縮與工具輸出裁剪效果
  • 將聊天補全子任務經閘道路由,或加入背景批次佇列
適用情境
適合想降低 LLM 成本、為任務比較模型,或在執行工具呼叫與 shell 指令前加上安全檢查的情境。也適合需要追蹤跨供應商 BYOK 支出與配額的團隊。
執行需求
以遠端端點執行,或以本機 npm 套件透過 stdio 執行。BYOK Vault 與 FinOps 帳本存取需要選用的 SENTIOGATE_API_KEY;需要能連線至 SentioGate 服務的網路。
安裝前請注意
此 API 金鑰可存取保險庫與帳本資料,應視為機密保管。委派提示會將對話內容傳送至 SentioGate 服務,路由或批次補全可能消耗付費配額。安全檢查僅供提示,不能取代你自己對破壞性指令的審查。

安裝

在 SourceWeft 中

  1. 開啟 儀表板中的 SentioGate FinOps & LLM Router,將其新增到工作區。
  2. 為需要使用其工具的對話啟用該服務。

Web executable,透過 Streamable HTTP。 遠端服務在工作區中設定後即可從網頁執行環境執行。

交給代理程式安裝

把這段提示詞貼上到 Claude Code、Codex、Cursor 等代理程式,或 SourceWeft 對話中。代理程式會讀取該伺服器的安裝指南,先向你展示發布者、端點和登入方式,經你同意後再把它新增到你的客戶端。金鑰不會寫進任何命令。

閱讀 https://sourceweft.com/mcp/io.github.HISHAMJOTTERREV%2Fsentiogate-mcp/install.md,並按其中說明把這個 MCP 伺服器接入我的客戶端。修改任何設定之前,先告訴我它的發布者、端點和登入方式,等我確認。不要把 API 金鑰寫進命令或我會提交的檔案;問我金鑰應從哪裡取得。

檢視代理程式所依據的安裝指南

其他 MCP 客戶端

把它新增到你客戶端的 mcpServers 設定中。

{
  "mcpServers": {
    "sentiogate-finops-llm-router": {
      "type": "http",
      "url": "https://api.sentiogate.dev/v1/mcp"
    }
  }
}

README

該儲存庫沒有 README。

工具

6

sentiogate_audit_waste

Analyze past LLM request logs (raw JSON/JSONL/CSV or array of message turns) to detect cost waste, unnecessary context bloat, prompt-cache opportunities, and achievable savings with SentioGate.

輸入參數recordsraw_logs

sentiogate_get_finops_ledger

Fetch real-time SentioGate BYOK FinOps metrics: measured spend by provider, prompt-cache USD savings, active sessions, and remaining 5-hour Community Pool quota.

輸入參數time_range

sentiogate_recommend_model

Recommend the optimal model and provider fallback chain for a given coding or agent task based on real-time task difficulty, live catalog pricing, and measured latency.

輸入參數prioritytask_prompt必填requires_tools

sentiogate_guard_check

Pre-flight check tool calls, terminal commands, or conversation history against SentioGate Armor security rules (credential leakage, destructive rm, pipe-to-shell, git force-push, and runaway tool loops).

輸入參數messagesarguments必填tool_name必填

sentiogate_optimize_payload

Preview and simulate context compaction and tool-output trimming on an array of conversation messages without executing upstream model inference.

輸入參數messages必填

sentiogate_delegate_prompt

Route a chat completion sub-task through SentioGate (using model "auto" or a pinned provider/model) or enqueue it on the background batch queue.

輸入參數modelprompt必填systemasync_batch

版本歷史

1
  1. v1.0.1最新Nov 8, 2026

評分

已滿足適用檢查項的 75%

該評分衡量此收錄條目的完整程度,依據註冊中心條目、端點與公開來源計算得出。它不是對伺服器本身的評價,也不表示伺服器安全或目前可用:可連通性是帶日期的檢查結果,評分也不包含安裝量或使用者評價。

  • 近 30 天內可連通必需25 分
  • 已宣告認證方式必需10 分
  • 已列出工具必需15 分
  • 描述必需15 分
  • 圖示10 分
  • 文件15 分

    請宣告包含 README 的 GitHub 儲存庫,或在 OAuth 受保護資源後設資料中提供 resource_documentation。

  • 授權條款10 分

    請在儲存庫或註冊中心條目中宣告授權條款。

其他 Router 整合