开发与工程 ✓ NVIDIA · 官方 nemo-relayadaptive-tuningtelemetrytool-parallelismprompt-cachingruntime-optimization

NeMo Relay 自适应调优

基于运行时信号,以可测量方式调优 NeMo Relay 插件行为。

FollowSkills 评估 · FSRS-2.0
不推荐
57/ 100 五分制 2.9 / 5
信任安全18 / 25 · 3.6/5

文档强调先观测、逐步启用、配置校验、幂等性与竞态检查、回滚及保留脱敏诊断,也避免把提示当作强制指令;但未明确遥测数据流、敏感数据处理、用户确认边界、依赖安全或精确运行时权限,且仓库许可证元数据为 NOASSERTION,因此扣分。

可靠稳定9 / 20 · 2.3/5

SKILL.md、config.md 和 hints.md 在前置条件、逐步发布、验证失败和回滚方面基本一致,并要求异常时停止;但没有可复现的配置示例、实际依赖版本、关键路径测试或可验证的错误输出,静态评估不超过10分,因此扣分。

适用触发11 / 15 · 3.7/5

触发条件和不适用场景清楚,覆盖遥测、提示、工具并行和 ACG,并说明 Python、Node.js、Rust 等入口;但未定义更细的能力边界、输入输出契约或中文使用支持,也未证明中国大陆网络环境下的可达性,因此扣分。

规范维护9 / 15 · 3.0/5

目录结构、参考文档、相关技能、许可证和发布/同步路径较清楚,且有版本与评估记录;但缺少推荐的 Instructions 和 Examples,作者格式被静态检查指出不合规,依赖安装、变更日志、API 兼容策略和维护责任不完整,因此扣分。

有效结果6 / 15 · 2.0/5

对已有 NeMo Relay instrumentation 的自适应调优提供了可直接采用的测量式流程,包括基线、in_memory、单一行为变更和回滚;但缺少完整可运行示例,真实输出和替代方案比较有限,静态证据不足以证明普遍有效,因此扣分。

证据核验4 / 10 · 2.0/5

提供了提交版本、评估任务、基准报告、静态检查发现和配置/提示语义,具备一定审计线索;但基准结果主要是文档中的作者报告,缺少可独立复现的测试套件、CI 覆盖或第三方交叉证据,因此扣分。

证据充分度: 评估于 2026年7月20日 审查版本 55f18499943e
上游仓库在本次评估后已有新提交;当前评分仍对应所示审查版本,可能尚未覆盖最新改动。
使用前请注意
  • 启用 tool_parallelism 的 schedule 或 ACG/request rewriting 前,应补充工具幂等性、竞态、请求载荷稳定性和明确回滚验证。
  • 确认遥测、提示和诊断不会记录密钥、个人数据或完整请求内容,并明确数据保留、访问权限和跨境传输边界。
  • 发布前应补充可运行的 Python/Node.js/Rust 配置示例、依赖与版本兼容说明,以及覆盖关键路径的测试。
  • 对中国大陆用户应单独验证 NeMo Relay、Redis、依赖包和相关文档服务的网络可达性。
查看完整评分方法 →

这个 Skill 能做什么,适合哪些场景?

该技能用于在已有 NeMo Relay 基础埋点的应用中配置或评估自适应插件行为。它覆盖遥测、状态、自适应提示、工具并行、Adaptive Cache Governor(ACG)和分阶段发布。技能要求应用已有作用域事件,以及与目标行为相关的托管工具或 LLM 生命周期事件。它强调先建立基线、逐次启用变更,并在延迟、正确性或失败率恶化时回滚。

指导用户确认作用域及工具或 LLM 事件流,采集工作流基线,并通过 kind 为 adaptive 的一方插件组件启用遥测和自适应配置。它说明如何选择 in_memory 或 redis 状态后端、observe_only、inject_hints 或 schedule 工具并行模式,以及 passthrough、anthropic 或 openai ACG 提供方。它要求运行代表性流量、检查报告或运行时事件、返回配置诊断,并在需要精确字段时读取 references/config.md,在应用需要消费提示或调度建议时读取 references/hints.md。

  1. NeMo Relay 已完成埋点的工程团队,希望根据运行时信号降低工作流延迟。
  2. 需要评估工具并行化的开发者,希望先观察提示,再逐步启用注入或调度。
  3. 希望改善提示缓存行为的团队,且其提供方请求负载已经稳定。
  4. 需要让学习到的自适应信号跨重启或在多个工作进程间共享的运维团队。
  5. 正在本地开发自适应逻辑的开发者,希望从内存状态和仅遥测模式开始。

这个 Skill 有哪些优点和局限?

优点
  • 提供了从基线、遥测到逐步发布的明确调优流程。
  • 覆盖状态后端、工具并行、ACG、提示消费和回滚条件。
  • 明确要求验证工具幂等性、竞态行为及提供方请求负载稳定性。
  • 提供 Rust、Python 和 Node.js 的自适应辅助 API 表面。
局限
  • 不能替代初始 NeMo Relay 埋点;未埋点的应用应先使用其他入门或埋点技能。
  • SKILL.md 未提供完整配置字段,精确配置需要额外读取 references/config.md。
  • 未提供具体性能提升数值或测试结果。
  • 调度和提示缓存规划需要应用侧验证安全性与请求稳定性。

如何安装这个 Skill?

使用仓库 README 支持的 skills CLI 安装指定技能:

npx skills add nvidia/skills --skill nemo-relay-plugin-adaptive-tuning --yes

CLI 会处理安装目标;无需克隆仓库或手动复制技能目录。具体安装位置由 CLI 流程决定,源材料未进一步说明。

如何使用这个 Skill?

先确保应用已有 NeMo Relay 基础埋点和相关事件流,然后向智能体提出类似请求:"评估并逐步调优 NeMo Relay 的自适应插件行为,先启用内存状态和遥测,建立基线后再考虑工具并行或 ACG。" 需要精确配置字段时读取 references/config.md;应用需要消费自适应提示或调度建议时读取 references/hints.md。若配置验证失败或事件缺失,应保留最后一个可用配置并停止推进。

这个 Skill 与同类方案有什么区别?

需要构建可复用插件行为时,源材料明确建议改用 nemo-relay-plugin-build;需要初始埋点或入门配置时,建议使用 nemo-relay-instrument-calls 或 nemo-relay-get-started。

常见问题

没有 NeMo Relay 埋点时可以直接使用吗?
不可以。该技能要求已有基础 NeMo Relay 埋点;未埋点时应先完成入门或调用埋点。
是否必须同时接入工具和 LLM 事件?
不必须。只需提供当前工作流用于评估目标行为的相关托管工具或 LLM 生命周期事件。
什么时候可以启用调度或 ACG?
启用调度前应验证工具幂等性和竞态行为;启用 ACG 前应验证提供方请求负载稳定,并先用代表性流量对比基线。

同仓库的其他 Skills

均来自 NVIDIA/skills

开发与工程 ✓ NVIDIA · 官方

NeMo Relay 插件构建指南

帮助将可复用的 NeMo Relay 运行时行为封装为可配置插件。

自动化与运维 ✓ NVIDIA · 官方

NeMo Relay 可观测性插件

为 NeMo Relay 选择并配置事件与追踪导出。

开发与工程 ✓ NVIDIA · 官方

NeMo Relay 运行时集成调试

定位 NeMo Relay 已安装但运行时行为异常的应用集成问题。

开发与工程 ✓ NVIDIA · 官方

NeMo Relay 调用插桩

为工具和大模型调用接入 Relay 生命周期、 中间件与护栏。

开发与工程 ✓ NVIDIA · 官方

NeMo Relay 安装助手

为 CLI、语言包和主流框架选择并验证 NeMo Relay 安装路径。

开发与工程 ✓ NVIDIA · 官方

NeMo Relay 快速上手

帮助首次使用 NeMo Relay 的用户通过最小试验验证可观测执行价值。

开发与工程 ✓ NVIDIA · 官方

NeMo Relay 迁移助手

将 NeMo Flow 项目安全地迁移为 NeMo Relay。

开发与工程 ✓ NVIDIA · 官方

NeMo Relay 上下文隔离

为并发请求和异步工作流维护独立的 NeMo Relay 作用域栈与正确的祖先传播。

开发与工程 ✓ NVIDIA · 官方

NeMo Relay 类型包装器与编解码器

为 NeMo Relay 集成提供类型安全边界,同时保持 JSON 中间件语义和调用方行为稳定。

自动化与运维 ✓ NVIDIA · 官方

Jetson 健康快照

以只读方式汇总 Jetson 的硬件、资源与服务状态。

自动化与运维 ✓ NVIDIA · 官方

DOCA CollectX 遥测部署

部署、运行和排查 CollectX 遥测采集器,确保计数器经导出器送达下游系统。

开发与工程 ✓ NVIDIA · 官方

NeMo AutoModel 分布式训练配置

为 NeMo AutoModel 选择并配置多 GPU 与多节点训练策略。

数据与分析 ✓ NVIDIA · 官方

Nemotron Speech ASR 定制编排

为特定领域或语言的语音识别改进选择并编排成本最低的适配路径。

开发与工程 ✓ NVIDIA · 官方

NeMo MBridge 配方推荐器

根据模型、GPU规模和训练目标推荐可调整的Megatron Bridge配方。

开发与工程 ✓ NVIDIA · 官方

MoE 分发器选型指南

根据硬件、专家并行规模和优化阶段选择 alltoall、DeepEP 或 HybridEP。

开发与工程 ✓ NVIDIA · 官方

MoE 硬件配置参考

为不同 NVIDIA 平台提供 MoE 训练配置与吞吐规划参考。

数据与分析 ✓ NVIDIA · 官方

临床语音识别微调

用 NeMo 对 Parakeet TDT v2 进行临床词汇微调,并以离线 KER 评估闭环效果。

数据与分析 ✓ NVIDIA · 官方

Nemotron 检索配方助手

帮助规划、调试、微调、评估和部署 Nemotron 嵌入与重排检索流程。

开发与工程 ✓ NVIDIA · 官方

NeMo MBridge GPU 内存调优

诊断 Megatron Bridge 训练中的 GPU OOM,并降低碎片、激活和 PEFT 内存占用。

开发与工程 ✓ NVIDIA · 官方

DOCA 硬件遥测计数器读取技能

帮助开发者从 BlueField 或 ConnectX 设备读取分域硬件计数器。

相关 Skills