Jetson Llm Serve

nvidia/skills/skills/jetson-llm-serve

作者 nvidiacf5224d14250Apache-2.03.5K 個星標收錄於 2026年10月8日更新於 2026年10月8日儲存庫今天更新

Stand up vLLM or SGLang serving on Jetson, using upstream vLLM on Thor and Orin JetPack 7.2+, and NVIDIA-AI-IOT vLLM on older Orin.

僅含說明DevOps & Cloud

僅公開檔案列表。將技能安裝到工作區後即可檢視檔案內容。

路徑大小類型
BENCHMARK.md3.2 KBtext/markdown
evals/evals.json5.7 KBapplication/json
skill-card.md3.6 KBtext/markdown
SKILL.md11.8 KBtext/markdown
skill.oms.sig4.5 KBtext/plain

來源與署名

來源:nvidia/skills位於skills/jetson-llm-serve提交cf5224d

授權條款: Apache-2.0

內容歸原作者所有。SourceWeft 從公開儲存庫中收錄這些內容。

檢舉或申請下架