自动化与运维 ✓ NVIDIA · 官方 dynamoroutersmoke-testingkuberneteskv-cachepython

Dynamo 路由启动器

快速配置 Dynamo 路由模式并验证前端端点可用性。

FollowSkills 评估 · FSRS-2.0
不推荐
53/ 100 五分制 2.7 / 5
信任安全15 / 25 · 3.0/5

技能范围主要限于启动前端、修改 Kubernetes 前端环境变量和发送健康检查请求,未见凭据窃取、隐蔽外传或破坏性默认操作;但修改配置和启动服务前缺少明确的用户确认、权限最小化、回滚步骤及敏感数据处理说明,因此扣分。官方 NVIDIA 来源和技能内 Apache-2.0 声明提供了一定归属依据,但给定许可证元数据为 NOASSERTION,仍存在治理不确定性。

可靠稳定8 / 20 · 2.0/5

步骤、模式映射、健康检查脚本和故障转交路径基本一致;脚本包含 HTTP/JSON/URL 校验、重试和结构化退出码。静态材料没有覆盖该技能关键路径的提交测试,且重试参数缺少边界校验,Kubernetes 配置和 Dynamo 版本兼容性也未验证,因此按静态上限保守扣分。

适用触发10 / 15 · 3.3/5

目标用户、模式、前置条件、输入、输出契约、负面场景和不适用的故障诊断边界较清楚;但触发条件仍依赖模型判断,中文支持、不同版本环境适配和中国大陆网络可达性未说明。核心功能依赖本地环境或 Kubernetes,并非完全依赖海外服务,因此未作额外网络扣分。

规范维护10 / 15 · 3.3/5

文档包含目的、前置条件、步骤、脚本参数、示例、输出契约、限制、排障、参考资料和版本提示,信息架构较完整;但版本来源文件未提供,缺少明确维护责任、变更日志、依赖版本锁定和回滚/升级路径,且基准报告指出技能目录存在未预期文件,因此扣分。

有效结果6 / 15 · 2.0/5

技能直接覆盖路由模式启动和端点冒烟检查,脚本输出模式相关检查结果,核心任务预期可直接使用;但仅检查一个聊天请求,比较能力不是基准测试,且静态材料没有可核验的实际成功输出或第三方运行结果,无法给满分。

证据核验4 / 10 · 2.0/5

SKILL、参考表、脚本、评测用例和静态评估报告构成可审计材料,且有正负触发用例;但报告明确缺少 Tier 3 运行结果和具体信号,未提供关键路径的真实执行证据或多源独立复核,因此只能给有限分数。

证据充分度: 评估于 2026年7月20日 审查版本 55f18499943e
上游仓库在本次评估后已有新提交;当前评分仍对应所示审查版本,可能尚未覆盖最新改动。
使用前请注意
  • 执行前应确认目标前端、Kubernetes 命名空间和配置变更范围,并准备人工回滚方案。
  • 冒烟检查成功不等于吞吐或延迟改善;需要使用匹配负载的独立基准测试。
  • 应确认 Dynamo、脚本参数和 KV 事件配置与实际版本兼容;当前材料未提供中文说明或大陆网络适配证据。
  • 给定许可证元数据为 NOASSERTION,尽管文件声明 Apache-2.0,发布前应核对许可证归属。
查看完整评分方法 →

这个 Skill 能做什么,适合哪些场景?

该技能用于启动或修改 Dynamo 前端路由模式,并执行路由端点冒烟检查。它支持轮询、KV 感知、最少负载、设备感知加权、直接和随机路由。技能可处理本地 Python 前端或 Kubernetes 部署,但要求已有可用 worker 和已加载模型。它只执行单次聊天请求验证,不提供完整吞吐量或延迟基准。

收集运行方式、目标路由模式、前端端口或 Kubernetes 服务、KV 事件状态和模型名称;启动本地 Dynamo 前端,或指导修改 Kubernetes 前端环境变量;在需要时启用近似 KV 模式;运行 scripts/check_router_health.py 检查 /v1/models,并在发现模型时发送一次 /v1/chat/completions 请求;根据空模型列表、请求超时、KV 模式挂起或端口转发失败等症状给出下一步排查方向。

  1. Dynamo 开发者需要在已有 worker 注册后启动一个轮询路由前端。
  2. 平台工程师希望在 Kubernetes 配方中启用 KV 路由并通过端口转发验证服务。
  3. 运维人员需要确认前端能发现模型并完成一次聊天请求。
  4. 路由实验人员需要在匹配模型、worker、提示词、并发和采样设置后进行轮询与 KV 的冒烟比较。

这个 Skill 有哪些优点和局限?

优点
  • 覆盖六种明确的 Dynamo 路由模式。
  • 同时提供本地前端和 Kubernetes 场景。
  • 包含可执行的 /v1/models 与聊天请求冒烟检查。
  • 明确区分冒烟验证与正式性能基准。
局限
  • 冒烟测试仅包含一次聊天完成请求,不能证明吞吐量提升。
  • 没有 worker KV 事件时只能使用近似 KV 模式,技能不会修复 worker 配置。
  • 完整的跨模式延迟结论需要单独、匹配负载的基准测试。
  • Kubernetes 使用要求已有已部署的 Dynamo 配方、命名空间访问权限和网络连通性。

如何安装这个 Skill?

使用默认 skills CLI 安装指定技能:

npx skills add nvidia/skills --skill dynamo-router-starter --yes

README 未说明该技能的独立源码仓库或手动复制目录步骤;该仓库中的技能会从产品仓库每日同步。

如何使用这个 Skill?

触发示例:请启动或修补 Dynamo 路由器,并检查前端端点。

本地启动轮询路由:
python3 -m dynamo.frontend --router-mode round-robin --http-port 8000

本地启动 KV 路由并检查:
python3 -m dynamo.frontend --router-mode kv --http-port 8000
python3 scripts/check_router_health.py --base-url http://127.0.0.1:8000

Kubernetes 示例:先将前端服务端口转发到本地,再运行同一个检查脚本。若 worker 不发布 KV 事件,可将 DYN_ROUTER_USE_KV_EVENTS 设为 false。

这个 Skill 与同类方案有什么区别?

技能明确建议将不健康端点或缺失 worker 的问题交给 dynamo-troubleshoot,并将吞吐量或延迟测量交给 dynamo-benchmark。

常见问题

它能替代正式性能基准吗?
不能。它只执行一次聊天请求的冒烟检查;吞吐量和延迟应使用 dynamo-benchmark。
KV 路由为什么可能挂起?
源文档指出,worker 未发布 KV 缓存事件时可能挂起;可将 DYN_ROUTER_USE_KV_EVENTS 设为 false,使用近似模式。
使用 Kubernetes 前需要什么?
需要已配置并可访问目标命名空间的 kubectl、已部署的 Dynamo 配方、前端服务网络可达,以及至少一个 worker 已加载模型。
安装或使用是否收费?
提供的源材料没有说明该技能的费用或商业许可条款;仓库 README 标注 Apache 2.0 与 CC BY 4.0 双重许可,技能 frontmatter 标注 Apache-2.0。

同仓库的其他 Skills

均来自 NVIDIA/skills

自动化与运维 ✓ NVIDIA · 官方

Dynamo 部署故障排查

按证据定位不健康的 Dynamo Kubernetes 部署。

开发与工程 ✓ NVIDIA · 官方

Earth2Studio 诊断模型构建器

为 Earth2Studio 创建单步数据转换诊断模型包装器。

自动化与运维 ✓ NVIDIA · 官方

Dynamo 互联就绪检查

在信任 Dynamo 分离式服务的性能数据前,验证 RDMA、NVLink 与 NIXL 传输链路是否就绪。

开发与工程 ✓ NVIDIA · 官方

NV-Reason-CXR 胸部X光推理测试技能

为胸部X光模型执行可复现的命令形状与在线推理冒烟测试。

自动化与运维 ✓ NVIDIA · 官方

Dynamo 配方部署助手

在 Kubernetes 上选择、校验、修补并部署现有的 NVIDIA Dynamo 推理配方。

开发与工程 ✓ NVIDIA · 官方

Earth2Studio 预报模型封装技能

指导开发 Earth2Studio 的时序天气预报模型封装。

开发与工程 ✓ NVIDIA · 官方

导管导航氟透视冒烟测试

在无 GPU 环境中快速验证导管导航工作流的基础功能。

开发与工程 ✓ NVIDIA · 官方

Jetson BSP 镜像验证器

验证刷写后的 Jetson BSP 镜像及目标设备状态。

开发与工程 ✓ NVIDIA · 官方

Earth2Studio 数据源构建器

把远程气象数据接入 Earth2Studio,并完成测试与校验。

开发与工程 ✓ NVIDIA · 官方

NeMo Relay 安装助手

为 CLI、语言包和主流框架选择并验证 NeMo Relay 安装路径。

开发与工程 ✓ NVIDIA · 官方

NeMo Relay 快速上手

帮助首次使用 NeMo Relay 的用户通过最小试验验证可观测执行价值。

数据与分析 ✓ NVIDIA · 官方

DICOM 序列预检

在转换或推理前快速验证单个 DICOM 序列目录。

开发与工程 ✓ NVIDIA · 官方

DALI 动态模式开发助手

帮助 AI 代理编写、审查和迁移 NVIDIA DALI 命令式动态模式代码。

开发与工程 ✓ NVIDIA · 官方

NeMo Relay 迁移助手

将 NeMo Flow 项目安全地迁移为 NeMo Relay。

数据与分析 ✓ NVIDIA · 官方

Earth2Studio 气象数据获取

按变量和时间从 Earth2Studio 数据源获取气象与气候数据。

数据与分析 ✓ NVIDIA · 官方

NVIDIA AI-Q 深度研究

通过本地 AI-Q Blueprint 后端执行可追踪的深度研究。

开发与工程 ✓ NVIDIA · 官方

AMC 样例数据集校准

用 NVIDIA AutoMagicCalib 的内置样例数据端到端验证正在运行的校准服务。

自动化与运维 ✓ NVIDIA · 官方

DOCA 管理服务运维技能

帮助运维团队部署、配置并排查 NVIDIA DMS 管理服务。

开发与工程 ✓ NVIDIA · 官方

Holoscan SDK 安装向导

根据主机环境选择并引导完成 Holoscan SDK 的合适安装方式。

开发与工程 ✓ NVIDIA · 官方

NeMo Relay 类型包装器与编解码器

为 NeMo Relay 集成提供类型安全边界,同时保持 JSON 中间件语义和调用方行为稳定。

相关 Skills