LLM Broker

net.llm-brokerv1.0.0更新于 Oct 2, 2026

One key, every model: measured scores and live prices, routed per request to the cheapest fit.

已验证Streamable HTTP可网页运行AI & ML

概览

AI 生成的概览

一个远程 MCP 端点,用单一 API 密钥在多个大模型之间路由对话请求,并选择满足需求的最便宜模型。

功能
LLM Broker 是一个托管型 MCP 服务器,提供对话工具和模型列表工具。它依据实测评分和实时价格,为每个对话请求挑选并路由到最便宜且合适的模型。列出可用模型无需密钥,发送对话请求则需要。
适用场景
适合希望用一个凭据访问多种模型、而不想分别注册各家账号的场景,也适合关注模型间成本优化路由的场景。若已能直接访问所需模型,或必须固定使用某个模型,则用处不大。
运行要求
远程 streamable HTTP 端点,无需本地安装。对话请求需要在 Authorization 请求头中提供形如 ast_sk_… 的 bearer 令牌;列出模型无需密钥。需要能访问该服务的 API 端点。
安装前请注意
对话工具会把提示内容发送给第三方代理,再由其转发给所选模型,提示内容因此脱离你的掌控。Authorization bearer 令牌是可计费凭据,应作为机密保管,并预期按用量产生费用。路由由服务方决定,你可能无法得知具体由哪个模型处理了请求。

安装

在 SourceWeft 中

  1. 打开 控制台中的 LLM Broker,将其添加到工作区。
  2. 为需要使用其工具的对话启用该服务。

Web executable,通过 Streamable HTTP。 远程服务在工作区中配置后即可从网页运行时运行。

其他 MCP 客户端

把它添加到你客户端的 mcpServers 配置中。

{
  "mcpServers": {
    "broker": {
      "type": "http",
      "url": "https://api.llm-broker.net/api/v1/broker/mcp"
    }
  }
}

工具

0
工具元数据尚未被收录。

版本历史

1
  1. v1.0.0最新Oct 2, 2026