LLM Broker
net.llm-brokerv1.0.0更新於 Oct 2, 2026
One key, every model: measured scores and live prices, routed per request to the cheapest fit.
概覽
AI 產生的概覽
一個遠端 MCP 端點,用單一 API 金鑰在多個大型語言模型之間路由對話請求,並挑選符合需求且最便宜的模型。
- 功能
- LLM Broker 是託管式 MCP 伺服器,提供對話工具與模型清單工具。它依據實測評分與即時價格,為每個對話請求挑選並路由到最便宜且合適的模型。列出可用模型不需要金鑰,送出對話請求則需要。
- 適用情境
- 適合想用一組憑證存取多種模型、不想分別申請各家帳號的情境,也適合在意模型間成本最佳化路由的情境。若已能直接存取所需模型,或必須固定使用某個模型,則幫助不大。
- 執行需求
- 遠端 streamable HTTP 端點,不需在本機安裝。對話請求需要在 Authorization 標頭提供形如 ast_sk_… 的 bearer 權杖;列出模型不需要金鑰。需要能連線至該服務的 API 端點。
安裝前請注意
對話工具會把提示內容送往第三方代理,再由它轉給所選模型,提示內容因此離開你的掌控。Authorization bearer 權杖是可計費憑證,應視為機密保管,並預期會依用量產生費用。路由由服務方決定,你可能無法得知是哪個模型處理了請求。
安裝
在 SourceWeft 中
- 開啟 儀表板中的 LLM Broker,將其新增到工作區。
- 為需要使用其工具的對話啟用該服務。
Web executable,透過 Streamable HTTP。 遠端服務在工作區中設定後即可從網頁執行環境執行。
其他 MCP 客戶端
把它新增到你客戶端的 mcpServers 設定中。
{
"mcpServers": {
"broker": {
"type": "http",
"url": "https://api.llm-broker.net/api/v1/broker/mcp"
}
}
}工具
0工具後設資料尚未被收錄。
版本歷史
1- v1.0.0最新Oct 2, 2026