LLM Broker
net.llm-brokerv1.0.0更新于 Oct 2, 2026
One key, every model: measured scores and live prices, routed per request to the cheapest fit.
概览
AI 生成的概览
一个远程 MCP 端点,用单一 API 密钥在多个大模型之间路由对话请求,并选择满足需求的最便宜模型。
- 功能
- LLM Broker 是一个托管型 MCP 服务器,提供对话工具和模型列表工具。它依据实测评分和实时价格,为每个对话请求挑选并路由到最便宜且合适的模型。列出可用模型无需密钥,发送对话请求则需要。
- 适用场景
- 适合希望用一个凭据访问多种模型、而不想分别注册各家账号的场景,也适合关注模型间成本优化路由的场景。若已能直接访问所需模型,或必须固定使用某个模型,则用处不大。
- 运行要求
- 远程 streamable HTTP 端点,无需本地安装。对话请求需要在 Authorization 请求头中提供形如 ast_sk_… 的 bearer 令牌;列出模型无需密钥。需要能访问该服务的 API 端点。
安装前请注意
对话工具会把提示内容发送给第三方代理,再由其转发给所选模型,提示内容因此脱离你的掌控。Authorization bearer 令牌是可计费凭据,应作为机密保管,并预期按用量产生费用。路由由服务方决定,你可能无法得知具体由哪个模型处理了请求。
安装
在 SourceWeft 中
- 打开 控制台中的 LLM Broker,将其添加到工作区。
- 为需要使用其工具的对话启用该服务。
Web executable,通过 Streamable HTTP。 远程服务在工作区中配置后即可从网页运行时运行。
其他 MCP 客户端
把它添加到你客户端的 mcpServers 配置中。
{
"mcpServers": {
"broker": {
"type": "http",
"url": "https://api.llm-broker.net/api/v1/broker/mcp"
}
}
}工具
0工具元数据尚未被收录。
版本历史
1- v1.0.0最新Oct 2, 2026