Toolroute

io.github.grossiweb由 GitHub 帳號 grossiweb 發布v0.2.2更新於 Oct 24, 2026

Route AI agent tasks to the best MCP server and LLM, scored on 132+ real benchmark executions.

已驗證STDIO僅桌面開發者工具AI 與機器學習

概覽

AI 產生的概覽

ToolRoute 依基準執行評分為任務推薦最合適的 MCP 伺服器與 LLM 模型,讓助理在行動前選好工具與模型

可以做什麼
將任務路由到推薦的 MCP 伺服器加 LLM 模型,或僅推薦模型,並提供信心度、替代方案、備援選項與各模型成本估算。把複合任務分類為有序的多工具編排鏈。搜尋 MCP 伺服器目錄,並查詢服務健康狀態與公開彙總指標。回傳執行結果與模型輸出品質,註冊代理身分或設定路由偏好。
適用情境
當助理需要在眾多 MCP 伺服器或 LLM 模型之間做選擇,並希望取得附成本估算的評分推薦時適用;複合任務需要有序工具鏈時也適用。若已明確知道要用的工具與模型,則幫助不大。
執行需求
README 顯示可將遠端端點加入 MCP 用戶端,或在本機安裝 npm SDK 套件;清單列出本機 stdio 程序。需要連線至託管服務的網路。一般使用未宣告 API 金鑰或環境變數;自架需要 Supabase 相關變數。
安裝前請注意
路由會把任務文字傳送到第三方託管服務,該服務還會對其執行 LLM 分類器。回報與遙測端點會把執行結果與技能識別碼回傳,結果會更新共享評分。自架需要 Supabase 憑證,包括服務角色金鑰。路由呼叫會產生少量按次費用。

安裝

在 SourceWeft 中

  1. 開啟 儀表板中的 Toolroute,將其新增到工作區。
  2. 為需要使用其工具的對話啟用該服務。

Desktop only,透過 STDIO。 STDIO 服務會啟動本機處理程序,因此需要 SourceWeft 桌面主機。

其他 MCP 客戶端

參照 儲存庫 中的啟動說明。

README

ToolRoute

Routing layer for AI agents. One call returns the best MCP server and LLM for any task — scored on 132 real benchmark executions.

[MIT]


Quick start

Add to any MCP client (Claude Code, Cursor, Windsurf, Cline):

json
{  "mcpServers": {    "toolroute": {      "url": "https://toolroute.io/api/mcp"    }  }}

Or via HTTP:

bash
curl -X POST https://toolroute.io/api/route \  -H "Content-Type: application/json" \  -d '{"task": "search the web for recent AI papers"}'
json
{  "approach": "mcp_server",  "recommended_skill": "exa-mcp-server",  "recommended_skill_name": "Exa MCP Server",  "recommended_model": {    "slug": "claude-haiku-4-5-20251001",    "display_name": "Claude Haiku 4.5",    "provider": "anthropic",    "tier": "cheap_chat",    "provider_model_id": "anthropic/claude-haiku-4-5-20251001",    "input_cost_per_mtok": 1.00,    "output_cost_per_mtok": 5.00  },  "confidence": 0.91,  "alternatives": ["brave-search-mcp", "tavily-mcp"],  "fallback": "brave-search-mcp"}

recommended_model is always an object, not a bare string — the inner slug is the canonical model identifier.


How it works

Every task falls into one of three approaches:

ApproachWhenReturns
direct_llmTask needs only an LLM (code, writing, analysis)Best model + cost estimate
mcp_serverTask needs an external tool (search, email, calendar)Best tool + best model
multi_toolCompound task ("send Slack AND update Jira AND email")Ordered orchestration chain

Routing uses an LLM classifier (~$0.00001/call) for task understanding, then ranks candidates on a 5-dimension score:

Value Score = 0.35 × Output Quality            + 0.25 × Reliability            + 0.15 × Efficiency            + 0.15 × Cost            + 0.10 × Trust

Every reported outcome updates the scores. The routing gets more accurate as more agents use it.


Benchmark results

132 blind A/B executions across code, writing, analysis, structured output, and translation.

ToolRouteFixed GPT-4o
Quality wins60
Ties99
Losses0—
Avg cost$0.001–0.01$0.03–0.10

API

EndpointMethodDescription
/api/routePOSTRoute a task to best MCP server + LLM (unified)
/api/route/modelPOSTRoute to best LLM model only (no MCP server)
/api/mcpPOST (JSON-RPC)MCP server — 16 tools
/api/mcpGET (SSE)SSE transport for MCP clients
/api/reportPOSTReport MCP server outcome (lightweight)
/api/contributionsPOSTAdvanced MCP skill telemetry (requires skill_id or skill_slug in payload)
/api/report/modelPOSTReport LLM model outcome — use this for model telemetry, not /api/contributions
/api/verify/modelPOSTVerify model output quality
/api/skillsGETSearch MCP server catalog
/api/agents/registerPOSTRegister agent identity
/api/agents/preferencesPOSTSet routing preferences (Strategy D Phase 2 — allow_china, regulated_industries)
/api/healthGETService health check (DB + uptime)
/api/metricsGETPublic aggregate platform metrics (no auth)

Full reference at toolroute.io/api-docs


SDK

bash
npm install @toolroute/sdk
typescript
import { ToolRoute } from '@toolroute/sdk'
const tr = new ToolRoute()const rec = await tr.route({ task: 'parse this CSV and summarize it' })// execute with rec.recommended_model ...await tr.report({ skill: rec.recommended_skill, outcome: 'success', latency_ms: 1400 })

Self-hosting

bash
git clone https://github.com/grossiweb/ToolRoute.gitcd ToolRoutecp .env.local.example .env.localnpm installnpm run dev

Requires: NEXT_PUBLIC_SUPABASE_URL, NEXT_PUBLIC_SUPABASE_ANON_KEY, SUPABASE_SERVICE_ROLE_KEY


How routing works

ToolRoute classifies each task using an LLM classifier (Gemini Flash Lite, ~$0.00001/call) with a keyword fallback. The resulting tier maps to a specific model via src/lib/routing/tiers.ts. Live pricing and capability data come from the models table. See docs/architecture.md for the full picture.


Stack

Next.js 14 (App Router) · Supabase (Postgres) · Vercel

License

MIT

來源:README.md,提交 40b88de

工具

0
SourceWeft 尚未在沙箱中啟動過該軟體包,因此其工具未知。

版本歷史

1
  1. v0.2.2最新Sep 16, 2026

評分

已滿足適用檢查項的 50%

該評分衡量此收錄條目的完整程度,依據註冊中心條目、端點與公開來源計算得出。它不是對伺服器本身的評價,也不表示伺服器安全或目前可用:可連通性是帶日期的檢查結果,評分也不包含安裝量或使用者評價。

  • 近 30 天內可連通25 分

    請保持端點能夠回應 MCP 握手;SourceWeft 每 30 天探測一次。

  • 已宣告認證方式10 分

    請在註冊中心條目中宣告憑證請求標頭,或保持端點能夠回應探測,以便判定其認證方式。

  • 已列出工具15 分

    請讓伺服器在無憑證時回應 tools/list,或發布可在沙箱中無憑證啟動的軟體包。

  • 描述必需15 分
  • 圖示10 分
  • 文件15 分
  • 授權條款10 分