EcoCompute Should-I-Quantize Estimator

io.github.hongping-zh由 GitHub 账号 hongping-zh 发布v1.0.0更新于 Oct 24, 2026

Energy impact of LLM quantization, calibrated to measured GPU data. Every answer states its basis.

已验证Streamable HTTP可网页运行云端与基础设施数据与分析AI 与机器学习

概览

AI 生成的概览

远程 MCP 服务器,让助手基于实测 GPU 数据估算 LLM 权重量化(NF4/INT8)相对 FP16 的任务级能耗变化。

可以做什么
估算指定模型大小与 GPU 架构类别下,NF4 或 INT8 权重量化相对 FP16 的任务级能耗变化,并标注依据、置信度与证据边界。查询各架构下 NF4 与 INT8 的模型大小交叉点,低于该点量化反而更耗能。列出实际测量、借用或估算的数据范围与缺口,先确认自己的 GPU 是否有数据。按模型名称、GPU 名称、架构或大小搜索测量锚点,取得各锚点的能耗变化与运行次数。
适用场景
当你想在特定 GPU 架构上比较 NF4 或 INT8 权重量化与 FP16 的任务级能耗,或想了解某个模型大小是否已超过量化的节能门槛时使用。也适合在引用估算值前先确认数据覆盖范围。
运行要求
远程端点,无需本地安装软件包;声明无需认证、环境变量或请求头。需要网络连接。
安装前请注意
数值为 GPU 封装功耗而非整机墙端功耗,不能直接当作总用电。覆盖范围外的组合不会外推,估算值与测量值须按标注的依据与置信度区分使用。贡献测量数据需前往外部代码仓库。

安装

在 SourceWeft 中

  1. 打开 控制台中的 EcoCompute Should-I-Quantize Estimator,将其添加到工作区。
  2. 为需要使用其工具的对话启用该服务。

Web executable,通过 Streamable HTTP。 远程服务在工作区中配置后即可从网页运行时运行。

交给智能体安装

把这段提示词粘贴到 Claude Code、Codex、Cursor 等智能体,或 SourceWeft 对话中。智能体会读取该服务器的安装指南,先向你展示发布者、端点和登录方式,经你同意后再把它添加到你的客户端。密钥不会写进任何命令。

阅读 https://sourceweft.com/mcp/io.github.hongping-zh%2Fecocompute-estimator/install.md,并按其中说明把这个 MCP 服务器接入我的客户端。修改任何配置之前,先告诉我它的发布者、端点和登录方式,等我确认。不要把 API 密钥写进命令或我会提交的文件;问我密钥应从哪里获取。

查看智能体所依据的安装指南

其他 MCP 客户端

把它添加到你客户端的 mcpServers 配置中。

{
  "mcpServers": {
    "ecocompute-should-i-quantize-estimator": {
      "type": "http",
      "url": "https://ecocompute-estimator.zhanghongping1982.workers.dev/mcp"
    }
  }
}

README

该仓库没有 README。

工具

4

estimate_quantization_energy

Estimate the task-level energy change (ΔE% vs FP16) of weight-only quantization (NF4 or INT8) for a model of a given size on a GPU architecture class, from measured-anchored curves. The answer carries basis (measured/interpolated/estimated), confidence and evidence boundaries.

输入参数qctxarchbatchparams_bprecision

get_quantization_crossover

Get the model-size crossover for NF4/INT8 per architecture: below it quantization costs energy, above it saves. Crossovers belong to a card + software stack, not an architecture — the answer says so.

输入参数arch

list_data_coverage

List what is actually measured (GPU architecture × precision × size range, NVML direct), what is borrowed/estimated, and where the gaps are. Use this before trusting an estimate at the edges of coverage, and to answer 'is there data for my GPU?' honestly.

无需输入参数。

search_measurements

Search the measured anchors by model name, GPU name, architecture or size. Returns ΔE% vs FP16 per anchor with run counts — the raw evidence behind the curves.

输入参数query必填

版本历史

1
  1. v1.0.0最新Oct 24, 2026

评分

已满足适用检查项的 75%

该评分衡量此收录条目的完整程度,依据注册中心条目、端点与公开来源计算得出。它不是对服务器本身的评价,也不表示服务器安全或当前可用:可连通性是带日期的检查结果,评分也不包含安装量或用户评价。

  • 近 30 天内可连通必需25 分
  • 已声明认证方式必需10 分
  • 已列出工具必需15 分
  • 描述必需15 分
  • 图标10 分
  • 文档15 分

    请声明包含 README 的 GitHub 仓库,或在 OAuth 受保护资源元数据中提供 resource_documentation。

  • 许可证10 分

    请在仓库或注册中心条目中声明许可证。