开发与工程 ✓ NVIDIA · 官方 nemo-relaytool-instrumentationllm-observabilitymiddlewareguardrailslifecycle-events

NeMo Relay 调用插桩

为工具和大模型调用接入 Relay 生命周期、 中间件与护栏。

FollowSkills 评估 · FSRS-2.0
不推荐
55/ 100 五分制 2.8 / 5
信任安全18 / 25 · 3.6/5

技能明确建议在既有调用边界使用托管执行,并透明说明请求改写、输入/输出清洗、拒绝行为和原始回调结果,且技能卡提示不要泄露秘密、使用最小权限凭据;但未提供用户确认、回滚方案、具体凭据范围、依赖安全审查或外部副作用控制,因此扣分。

可靠稳定8 / 20 · 2.0/5

SKILL.md覆盖多语言API、手动生命周期配对、异常结束事件、流式提前丢弃和中间件顺序,失败语义较清楚;但没有可执行的选定技能测试、版本锁定、安装验证或针对关键路径的错误示例,BENCHMARK仅为静态可见的评估报告,因此不超过静态上限并扣分。

适用触发10 / 15 · 3.3/5

触发场景、调用边界、支持的Rust/Python/Node.js/Go API以及转用相邻技能的条件较明确;但没有系统列出输入输出契约、非适用范围、环境要求或中文使用说明,实际运行环境适配证据有限,因此扣分。

规范维护9 / 15 · 3.0/5

名称、描述、许可证、作者、技能卡、版本SHA、评估日期、相关技能和仓库级维护/发布流程均有记录;但SKILL.md缺少Instructions和Examples段落,作者格式不符合评估规范,依赖/安装、已知限制、变更历史和明确维护责任仍不完整,因此扣分。

有效结果6 / 15 · 2.0/5

技能直接覆盖围绕既有工具和LLM调用接入Relay的核心任务,且评估文件描述了正向和负向路由任务;但没有选定技能内的代表性代码示例或静态可验证的完整输出,用户仍需补足具体类型、配置和调用细节,因此仅给有限分数。

证据核验4 / 10 · 2.0/5

存在提交的BENCHMARK.md、evals/evals.json及版本信息,提供了评估任务、指标和结果,具备一定审计线索;但报告没有随技能提供可复现执行证据或第三方交叉来源,且仓库测试示例不覆盖该技能关键路径,因此仅给有限分数。

证据充分度: 评估于 2026年7月20日 审查版本 55f18499943e
上游仓库在本次评估后已有新提交;当前评分仍对应所示审查版本,可能尚未覆盖最新改动。
使用前请注意
  • 该技能只提供概念和API形态,未包含可直接复制的Rust、Python、Node.js或Go完整示例;接入前应核对实际NeMo Relay版本和签名。
  • 清洗请求/响应只影响事件载荷,不影响应用侧原始值;不要将其误当作业务数据脱敏或安全边界。
  • 手动生命周期模式必须保证每个start都有匹配的end或error路径;流式调用提前丢弃可能导致最终事件不完整。
  • 技能卡未明确API密钥、外部服务、数据保留和地域合规要求,生产部署前需由使用方补充审查。
查看完整评分方法 →

这个 Skill 能做什么,适合哪些场景?

该技能面向已经拥有工具函数或模型/供应商调用点的应用,指导其通过 NeMo Relay 正确执行调用。它强调在自然的代理、请求、工作流或图边界建立作用域,并优先使用托管执行 API。内容覆盖工具调用、LLM 调用、请求与执行拦截器、条件执行护栏、事件载荷清理、流式响应和上下文传播。它适合需要保持原有可调用行为,同时增加生命周期捕获、元数据和中间件处理的工程团队。

指导开发者将现有工具函数包装到 NeMo Relay 的托管工具执行 API 中,并将现有 LLM/供应商调用包装到对应的 LLM 执行 API 中。它列出 Rust、Python、Node.js 和 Go 的 API 入口,说明条件执行护栏、请求拦截器、执行拦截器以及请求/响应清理对输入、输出和事件的影响。它还说明失败后的结束事件、手动生命周期 API 的配对要求、流式 LLM 包装器的收尾行为,以及跨线程或异步任务时的上下文传播。

  1. 负责 AI 代理工具调用链的开发者,需要为现有工具增加 Relay 生命周期事件和元数据。
  2. 维护模型或供应商调用封装的工程师,需要在正确的抽象层接入 LLM 拦截器和护栏。
  3. 使用 Rust、Python、Node.js 或 Go 构建代理工作流的团队,需要优先采用 Relay 托管执行 API。
  4. 开发框架适配器的工程师,框架已经自行管理执行流程,因而需要使用手动生命周期 API。
  5. 实现流式 LLM 调用的团队,需要确保流结束时能完成响应收集和最终事件通知。

这个 Skill 有哪些优点和局限?

优点
  • 覆盖工具和 LLM 调用的托管执行、生命周期事件、中间件与护栏语义。
  • 提供 Rust、Python、Node.js 和 Go 的 API 入口提示。
  • 明确区分原始输入、实际执行输入、事件载荷和应用可见返回值。
  • 强调保留原有业务 callable 行为,并包含失败、流式调用和上下文传播注意事项。
局限
  • 内容是集成指导,不包含具体 NeMo Relay SDK 的安装步骤、版本要求或完整代码样例。
  • 没有提供测试套件、性能数据或已验证的平台清单。
  • 手动生命周期和部分拦截器 API 需要开发者自行保证配对、错误处理和框架适配。

如何安装这个 Skill?

使用仓库 README 中给出的 skills CLI 流程安装指定技能:

npx skills add nvidia/skills --skill nemo-relay-instrument-calls --yes

README 未说明该技能所需的 NeMo Relay SDK 具体安装命令、版本或平台矩阵。

如何使用这个 Skill?

将技能目录安装到代理可加载的 skills 目录后,在相关任务中触发,例如:“请为现有的 Python 工具和 LLM 调用接入 NeMo Relay 托管执行 API,并保留原有参数与返回值行为。” 使用时先确定作用域边界,再按语言选择对应的 managed execute API;只有宿主框架无法包装时才采用手动生命周期 API。源材料未提供完整项目代码示例。

这个 Skill 与同类方案有什么区别?

源材料没有提供可直接比较的替代方案。它仅建议在需要追踪导出、运行时调试、上下文隔离或可配置插件行为时,使用相关的其他 NeMo Relay 技能。

常见问题

这个技能会改变工具或 LLM 调用返回给应用的值吗?
按源材料,清理响应护栏只影响结束事件载荷;应用代码仍收到原始 callback 或执行拦截器结果。但执行拦截器可以通过 next 模式短路并返回自己的结果。
什么时候应该使用手动生命周期 API?
当宿主框架无法被 managed execute helpers 包装、且框架已经自行管理执行时使用。每个 start 调用都必须有匹配的 end 或 error 路径。
流式 LLM 调用有什么风险?
流式包装器会收集 chunk,并在流结束时完成响应;如果提前丢弃流,可能导致最终处理器和订阅者看不到完整输出。
它是否包含 NeMo Relay 的可观测性导出配置?
不包含。源材料建议将 traces、ATIF 或 export setup 交给 nemo-relay-plugin-observability 技能。

同仓库的其他 Skills

均来自 NVIDIA/skills

开发与工程 ✓ NVIDIA · 官方

NeMo Relay 运行时集成调试

定位 NeMo Relay 已安装但运行时行为异常的应用集成问题。

开发与工程 ✓ NVIDIA · 官方

NeMo Relay 类型包装器与编解码器

为 NeMo Relay 集成提供类型安全边界,同时保持 JSON 中间件语义和调用方行为稳定。

开发与工程 ✓ NVIDIA · 官方

NeMo Relay 快速上手

帮助首次使用 NeMo Relay 的用户通过最小试验验证可观测执行价值。

自动化与运维 ✓ NVIDIA · 官方

NeMo Relay 可观测性插件

为 NeMo Relay 选择并配置事件与追踪导出。

开发与工程 ✓ NVIDIA · 官方

NeMo Relay 自适应调优

基于运行时信号,以可测量方式调优 NeMo Relay 插件行为。

开发与工程 ✓ NVIDIA · 官方

NeMo Relay 安装助手

为 CLI、语言包和主流框架选择并验证 NeMo Relay 安装路径。

开发与工程 ✓ NVIDIA · 官方

NeMo Relay 插件构建指南

帮助将可复用的 NeMo Relay 运行时行为封装为可配置插件。

开发与工程 ✓ NVIDIA · 官方

NeMo Relay 迁移助手

将 NeMo Flow 项目安全地迁移为 NeMo Relay。

开发与工程 ✓ NVIDIA · 官方

NeMo Relay 上下文隔离

为并发请求和异步工作流维护独立的 NeMo Relay 作用域栈与正确的祖先传播。

自动化与运维 ✓ NVIDIA · 官方

Nemotron 安全策略生成器

为 NVIDIA Nemotron 内容安全模型生成可部署的自定义安全策略。

开发与工程 ✓ NVIDIA · 官方

NeMo Evaluator 评估插件技能

帮助代理通过 NeMo CLI 与 Python SDK 执行并管理模型评估。

数据与分析 ✓ NVIDIA · 官方

NeMo 数据设计器合成数据技能

用 NeMo Data Designer 构建符合描述的合成数据集与数据生成流水线。

开发与工程 ✓ NVIDIA · 官方

NeMo AutoModel 模型接入指南

指导开发者将新的 LLM、MoE 或 VLM 架构接入 NeMo AutoModel。

开发与工程 ✓ NVIDIA · 官方

NeMo AutoModel 分布式训练配置

为 NeMo AutoModel 选择并配置多 GPU 与多节点训练策略。

写作与内容 ✓ NVIDIA · 官方

NeMo-RL 文档规范

帮助 NeMo-RL 项目按统一规范编写和维护文档。

数据与分析 ✓ NVIDIA · 官方

Nemotron Speech ASR 定制编排

为特定领域或语言的语音识别改进选择并编排成本最低的适配路径。

数据与分析 ✓ NVIDIA · 官方

临床 ASR 评测与 KER 排行榜

评测临床语音识别清单并定位术语识别问题。

开发与工程 ✓ NVIDIA · 官方

DOCA Telemetry Exporter 开发技能

帮助 DOCA 应用定义、发送和调试面向外部消费者的结构化遥测数据。

开发与工程 ✓ NVIDIA · 官方

NeMo AutoModel 配方开发

帮助构建、修改和验证 NeMo AutoModel 训练与评估配方。

开发与工程 ✓ NVIDIA · 官方

DOCA Flow 调优技能

帮助工程师快照、分析并优化运行中的 DOCA Flow 管道。

相关 Skills