LLM Broker

net.llm-brokerv1.0.0更新於 Oct 2, 2026

One key, every model: measured scores and live prices, routed per request to the cheapest fit.

已驗證Streamable HTTP可網頁執行AI & ML

概覽

AI 產生的概覽

一個遠端 MCP 端點,用單一 API 金鑰在多個大型語言模型之間路由對話請求,並挑選符合需求且最便宜的模型。

功能
LLM Broker 是託管式 MCP 伺服器,提供對話工具與模型清單工具。它依據實測評分與即時價格,為每個對話請求挑選並路由到最便宜且合適的模型。列出可用模型不需要金鑰,送出對話請求則需要。
適用情境
適合想用一組憑證存取多種模型、不想分別申請各家帳號的情境,也適合在意模型間成本最佳化路由的情境。若已能直接存取所需模型,或必須固定使用某個模型,則幫助不大。
執行需求
遠端 streamable HTTP 端點,不需在本機安裝。對話請求需要在 Authorization 標頭提供形如 ast_sk_… 的 bearer 權杖;列出模型不需要金鑰。需要能連線至該服務的 API 端點。
安裝前請注意
對話工具會把提示內容送往第三方代理,再由它轉給所選模型,提示內容因此離開你的掌控。Authorization bearer 權杖是可計費憑證,應視為機密保管,並預期會依用量產生費用。路由由服務方決定,你可能無法得知是哪個模型處理了請求。

安裝

在 SourceWeft 中

  1. 開啟 儀表板中的 LLM Broker,將其新增到工作區。
  2. 為需要使用其工具的對話啟用該服務。

Web executable,透過 Streamable HTTP。 遠端服務在工作區中設定後即可從網頁執行環境執行。

其他 MCP 客戶端

把它新增到你客戶端的 mcpServers 設定中。

{
  "mcpServers": {
    "broker": {
      "type": "http",
      "url": "https://api.llm-broker.net/api/v1/broker/mcp"
    }
  }
}

工具

0
工具後設資料尚未被收錄。

版本歷史

1
  1. v1.0.0最新Oct 2, 2026