Jetson Inference Mem Tune

nvidia/skills/skills/jetson-inference-mem-tune

作者 nvidiacf5224d14250Apache-2.03.5K 个星标收录于 2026年10月8日更新于 2026年10月8日仓库今天更新

Pick the serving stack and per-runtime memory flags (vLLM, SGLang, llama.cpp, TensorRT Edge-LLM) for an LLM/VLM workload on any NVIDIA Jetson.

包含脚本DevOps & Cloud
  1. cf5224d14250当前提交 cf5224d发布于 2026年10月8日

来源与署名

来源:nvidia/skills位于skills/jetson-inference-mem-tune提交cf5224d

许可证: Apache-2.0

内容归原作者所有。SourceWeft 从公开仓库中收录这些内容。

举报或申请下架