StudioTV LLM VRAM Calculator

com.studiotvai由 studiotvai.com 發布官方發布者v1.0.0更新於 Oct 26, 2026

Does an LLM fit on your GPU? VRAM, KV cache and GPU count for any Hugging Face model.

已驗證Streamable HTTP可網頁執行雲端與基礎設施AI 與機器學習

概覽

AI 產生的概覽

估算執行開源大型語言模型所需的 VRAM、GPU 數量、速度與租用成本,並列出在指定 GPU 上跑得動的模型。

可以做什麼
  • 估算模型在指定 GPU 上的 VRAM、GPU 數量、速度與租用成本
  • 支援服務方列出的開源模型,也支援任意 Hugging Face 模型 ID 或連結
  • 列出在給定 GPU 上跑得動的所有已收錄模型,由大到小排序並附上可用的最高保真權重格式
  • 比較主要雲端與 GPU 租用平台的最低隨需每小時價格
適用情境
適合在自行架設或租用 GPU 部署開源模型之前,快速評估 VRAM 需求、是否跑得動與大致成本,再決定硬體或供應商。
執行需求
位於 studiotvai.com 的遠端 MCP 端點,使用 streamable HTTP;未宣告驗證、環境變數或標頭。需要能連線至該端點的網路。
安裝前請注意
估算結果與價格僅供參考,可能與實際吞吐量或帳單不符,租用 GPU 前請自行確認。模型涵蓋範圍取決於服務方收錄的清單及 Hugging Face 模型 ID。

安裝

在 SourceWeft 中

  1. 開啟 儀表板中的 StudioTV LLM VRAM Calculator,將其新增到工作區。
  2. 為需要使用其工具的對話啟用該服務。

Web executable,透過 Streamable HTTP。 遠端服務在工作區中設定後即可從網頁執行環境執行。

交給代理程式安裝

把這段提示詞貼上到 Claude Code、Codex、Cursor 等代理程式,或 SourceWeft 對話中。代理程式會讀取該伺服器的安裝指南,先向你展示發布者、端點和登入方式,經你同意後再把它新增到你的客戶端。金鑰不會寫進任何命令。

閱讀 https://sourceweft.com/mcp/com.studiotvai%2Fllm-vram/install.md,並按其中說明把這個 MCP 伺服器接入我的客戶端。修改任何設定之前,先告訴我它的發布者、端點和登入方式,等我確認。不要把 API 金鑰寫進命令或我會提交的檔案;問我金鑰應從哪裡取得。

檢視代理程式所依據的安裝指南

其他 MCP 客戶端

把它新增到你客戶端的 mcpServers 設定中。

{
  "mcpServers": {
    "studiotv-llm-vram-calculator": {
      "type": "http",
      "url": "https://studiotvai.com/api/mcp"
    }
  }
}

工具

3

estimate_vram

Does this LLM fit on this GPU?

GPU memory, number of GPUs, speed and rental cost to run an open LLM. Works for the models listed at https://studiotvai.com/api/models.json and any Hugging Face model id or link. Uses the real KV cache of each architecture (sliding window, hybrid linear attention, MLA).

輸入參數gpumodel必填enginecontextweightskv_cachegpu_countconcurrent_requests

models_that_fit

Which LLMs fit on this GPU?

Every listed open model that fits on the given GPU(s), largest first, with the most faithful weight format that fits.

輸入參數gpu必填enginecontextweightskv_cachegpu_countconcurrent_requests

gpu_prices

GPU rental prices

Cheapest on-demand price per GPU-hour from AWS, Google Cloud, Azure, RunPod, Vast.ai, Oracle Cloud, OVHcloud, Scaleway, Verda, Akash and UpCloud, checked every hour.

輸入參數gpu

版本歷史

1
  1. v1.0.0最新Oct 10, 2026

評分

已滿足適用檢查項的 83%

該評分衡量此收錄條目的完整程度,依據註冊中心條目、端點與公開來源計算得出。它不是對伺服器本身的評價,也不表示伺服器安全或目前可用:可連通性是帶日期的檢查結果,評分也不包含安裝量或使用者評價。

  • 近 30 天內可連通必需25 分
  • 已宣告認證方式必需10 分
  • 已列出工具必需15 分
  • 描述必需15 分
  • 圖示10 分
  • 文件15 分

    請宣告包含 README 的 GitHub 儲存庫,或在 OAuth 受保護資源後設資料中提供 resource_documentation。

  • 授權條款不適用

    託管服務按其提供方的條款使用,因此這裡不要求授權條款。此檢查項不計入百分比。