自动化与运维 ✓ NVIDIA · 官方 jetsonmemory-auditdram-monitoringnvmaptegrastatsdrop-caches

Jetson 内存审计

用设备实时数据审计 Jetson 内存占用,并验证内存回收是否真正生效。

FollowSkills 评估 · FSRS-2.0
不推荐
52/ 100 五分制 2.6 / 5
信任安全18 / 25 · 3.6/5

技能以只读审计为主,明确要求用户授权后才执行 drop_caches,并限定主机、权限和沙箱可见性;但缓存清理仍需 root/sudo,脚本本身不执行交互式确认,缺少回滚机制和更完整的数据流披露,因此扣分。

可靠稳定7 / 20 · 1.8/5

指令、参数、退出码、异常场景和缺少主机可见性时的反馈较完整;但关键依赖 snapshot.sh、common.sh、detect_jetson.sh 未在所给材料中提供,且没有覆盖关键路径的测试,静态评估不超过10分。

适用触发10 / 15 · 3.3/5

目标用户、触发场景、输入输出、主机/容器边界及不适用情况描述清楚,并能转交其他技能;未说明中文交互支持,环境兼容性仍依赖 Jetson 主机可见性,因此扣分。

规范维护9 / 15 · 3.0/5

文档分层、前置条件、脚本说明、限制、错误处理、版本和评估报告较充分;但缺少 Examples,作者格式不符合验证要求,变更记录和维护责任/更新路径不完整,且许可证元数据存在 NOASSERTION 与文件声明不完全一致的问题。

有效结果5 / 15 · 1.7/5

审计 JSON、缓存清理前后差值和基线流程均可直接支持核心任务,且包含不估算、不虚构数据的约束;但 benchmark 数据集不可用,报告的 effectiveness 仅47%、correctness 仅68%,且静态无法验证脚本实际产出,因此扣分。

证据核验3 / 10 · 1.5/5

提交了脚本、设计说明、评估报告和 evals,提供一定可审计依据;但评估数据集缺失,没有关键路径测试或第三方独立复现证据,结论覆盖有限。

证据充分度: 评估于 2026年7月20日 审查版本 55f18499943e
上游仓库在本次评估后已有新提交;当前评分仍对应所示审查版本,可能尚未覆盖最新改动。
使用前请注意
  • 执行 drop_caches 前仍应在主机侧再次确认授权、目标环境和业务影响;该操作可能改变全局缓存状态,技能未提供回滚步骤。
  • audit.sh 依赖仓库中未提供的 snapshot.sh 及其他辅助脚本;部署前应确认依赖路径和版本一致。
  • 不要把 benchmark 的 PASS 或百分比视为独立验证;报告明确说明评估数据集未随材料提供。
  • 许可证、作者元数据和维护责任信息应在发布前统一。
查看完整评分方法 →

这个 Skill 能做什么,适合哪些场景?

这是一个面向 NVIDIA Jetson 设备的只读内存审计技能,适用于检查 DRAM、NvMap 和进程内存使用情况。它运行审计脚本,生成包含内存总量、可用内存、缓存、系统目标、显示管理器、NvMap 客户端和高 PSS 进程的 JSON 快照。对于 JetPack 7.2 以下或 L4T r39.0 以下版本,它说明 CUDA 工作负载退出后内存可能仍由 Thor RM 保留,并提供经用户授权后执行的缓存回收验证流程。它适合需要基线、变更后快照和实际可用内存差值的 Jetson 主机运维场景。

运行 scripts/audit.sh,调用 jetson-diagnostic/scripts/snapshot.sh 并输出 JSON 内存快照;读取实际设备上的内存、进程、系统目标、候选显示服务、tegrastats 和 NvMap 数据。对于明确授权的缓存回收操作,运行 scripts/drop_caches.sh,支持 --mode 1|2|3 和 --quiet,并报告回收前后的 free、available 和 cached 差值。它要求使用 before/after 快照比较 memory_kb.available,不从容器大小、模型大小或单次 RSS 数据估算释放量。

  1. Jetson 用户想知道当前有多少内存被使用,以及哪个进程或 NvMap 客户端占用最多。
  2. 用户停止 vLLM、sglang、Ollama 或其他 CUDA 工作负载后,发现 free -h 或 tegrastats 仍显示内存紧张。
  3. 用户在停用图形界面或其他内存相关变更前后,需要记录基线并计算实际可用内存增量。
  4. 运维人员需要确认显示管理器和 graphical.target 状态,但希望把停用桌面服务的方案交给其他技能处理。
  5. 审计需要访问 Jetson 主机的 /proc、tegrastats 或 NvMap 数据,并判断当前沙箱是否具备足够可见性。

这个 Skill 有哪些优点和局限?

优点
  • 以实际 Jetson 设备数据为依据,覆盖内存、进程、tegrastats、系统目标和 NvMap 信息。
  • 明确区分当前快照与 before/after 回收差值,避免用容器大小或模型大小推算释放量。
  • 针对旧版 JetPack/L4T 的 CUDA 内存滞留现象提供具体诊断和验证流程。
  • 缓存回收脚本默认先执行 sync,并要求用户授权后再操作。
局限
  • 没有 before 快照时,无法从当前状态单独恢复精确的已释放内存量。
  • NvMap 统计依赖主机可见的 debugfs 和权限;不可用时只能报告 GPU 内存归因受限。
  • 沙箱或容器若无法访问 Jetson 主机数据,审计无法提供真实内存数字。
  • 技能本身不负责停用桌面服务、调整模型服务或执行超出其范围的启动参数修改。

如何安装这个 Skill?

使用 NVIDIA 技能集合的 skills CLI 安装:

npx skills add nvidia/skills --skill jetson-memory-audit --yes

README 未说明该技能的独立安装包或额外版本要求。

如何使用这个 Skill?

在已加载该技能的 Agent 中提出“这台 Jetson 当前用了多少内存?”或“我停止 vLLM 后内存为什么没有释放?”之类的问题。运行审计时应在 Jetson 主机,或具备主机可见 /proc、/etc/nv_tegra_release、tegrastats 和进程数据的沙箱中执行 scripts/audit.sh。只有在用户明确授权缓存回收后,才执行 scripts/drop_caches.sh;如果需要测量变更释放量,先保存审计快照,完成用户批准的变更,再执行必要的主机缓存回收并重新审计。

这个 Skill 与同类方案有什么区别?

源材料没有提供可直接比较的竞品或替代技能。它只明确将 jetson-headless-mode 用于无桌面模式规划,将 jetson-inference-mem-tune 用于模型服务器成为主要 NvMap/PSS 消费者时的后续处理。

常见问题

这个技能会主动修改系统吗?
审计流程是只读的。drop_caches.sh 只有在用户明确授权后才运行,并在主机上释放内核可回收缓存。
为什么必须在 Jetson 主机上运行?
脚本需要主机可见的 /proc、tegrastats、/etc/nv_tegra_release、进程数据以及可能需要 root 权限的 NvMap debugfs;普通容器或沙箱可能看不到这些信息。
停止 CUDA 工作负载后仍显示内存不足怎么办?
在 JetPack 7.2 以下或 L4T r39.0 以下版本,技能建议在主机上执行 sudo sync && sudo sysctl -w vm.drop_caches=3;新版本仅在出现相同症状且用户批准时使用。

同仓库的其他 Skills

均来自 NVIDIA/skills

自动化与运维 ✓ NVIDIA · 官方

Jetson 健康快照

以只读方式汇总 Jetson 的硬件、资源与服务状态。

开发与工程 ✓ NVIDIA · 官方

Jetson 内存优化

为无显示或无摄像头的 Jetson 部署回收未使用的 DRAM。

自动化与运维 ✓ NVIDIA · 官方

Jetson 无头模式内存优化

通过安全、可回滚的系统服务调整,为无桌面 Jetson 设备释放内存。

开发与工程 ✓ NVIDIA · 官方

Jetson 目标平台切换器

在已有 Jetson 平台配置之间切换当前活动目标。

开发与工程 ✓ NVIDIA · 官方

Jetson BSP 信息检查

在刷写前快速核验 Jetson BSP 版本、板卡配置与 rootfs 状态。

开发与工程 ✓ NVIDIA · 官方

Jetson BSP 源码构建

根据 Jetson BSP 源码变更重建设备树、内核和模块,并生成可部署清单。

自动化与运维 ✓ NVIDIA · 官方

Jetson 设备信息快照

在运行中的 Jetson 上快速采集软件栈、内核、系统版本和电源模式。

开发与工程 ✓ NVIDIA · 官方

Jetson PCIe 控制器定制

为 Jetson Thor 或 Orin 定制 PCIe 控制器状态、通道数和链路速率。

开发与工程 ✓ NVIDIA · 官方

Jetson 目标平台初始化

为 Jetson 开发套件或定制载板创建目标平台配置并更新活动指针。

开发与工程 ✓ NVIDIA · 官方

Jetson 时钟定制

在刷写 Jetson 镜像前,锁定或限制 CPU、GPU 与 EMC 的时钟行为。

开发与工程 ✓ NVIDIA · 官方

Jetson BSP 镜像刷写

将已提升的 Jetson BSP 镜像安全刷入处于 RCM 模式的设备。

自动化与运维 ✓ NVIDIA · 官方

Jetson 软件包与环境助手

为 Jetson 选择匹配架构的容器与 GPU 软件包。

开发与工程 ✓ NVIDIA · 官方

Jetson BSP 快速启动

用一次问卷选择 Jetson BSP 定制路径并衔接后续设置技能。

开发与工程 ✓ NVIDIA · 官方

Jetson USB 端口定制

通过内核设备树覆盖层安全启用、禁用或调整 Jetson USB 端口角色。

开发与工程 ✓ NVIDIA · 官方

Jetson 风扇曲线定制

在 Jetson BSP 中安全维护 nvfancontrol 风扇配置与启动默认值。

自动化与运维 ✓ NVIDIA · 官方

Jetson nvpmodel 电源模式定制

在 Jetson BSP 中安全调整 nvpmodel 电源模式、频率上限和启动默认值。

自动化与运维 ✓ NVIDIA · 官方

Jetson LLM 服务部署技能

为 NVIDIA Jetson 配置并启动 vLLM 或 SGLang 的 LLM/VLM 服务。

自动化与运维 ✓ NVIDIA · 官方

Jetson vLLM 推测解码调优

为 Jetson vLLM 服务配置推测解码,降低单流生成延迟。

开发与工程 ✓ NVIDIA · 官方

NVIDIA 技能发现器

帮助代理在 NVIDIA 产品与工作流中发现并选择合适的技能。

自动化与运维 ✓ NVIDIA · 官方

Jetson 大模型基准测试

在 Jetson 上统一测量并比较多种大模型运行时性能。

相关 Skills