NeMo MBridge 训练助手
帮助运行 Megatron-LM 与 Megatron Bridge 训练并核对损失曲线。
技能明确限定训练入口、环境变量和不得修改的第三方目录，也说明无外部凭据需求；但包含未经确认的 rm -rf nemo_experiments，缺少备份、回滚和数据流说明，对真实数据及训练产物的影响边界也不完整，因此扣分。
SKILL.md 提供了单 GPU、多 GPU、调度器、PYTHONPATH、OOM 和子模块切换等具体路径及常见故障提示；但本次仅静态阅读，技能自身没有配套测试套件或 CI 覆盖关键训练路径，异常输入和失败诊断仍有限，且静态上限为 10 分，因此未给高分。
目标用户、相关触发语句、MLM 与 Bridge 对比、相关性测试和多 GPU 场景较清楚，并披露了参数映射和 MoE 限制；但非适用边界、硬件与版本前置条件、中文支持及中国大陆网络环境适配未说明，触发精度证据也只有一个正向任务，因此扣分。
技能有 front matter、Apache-2.0 声明、示例命令、recipes、陷阱、限制和 skill card；但缺少推荐的 Instructions/Examples 章节、作者字段，版本与变更记录不在主技能文件中，维护责任和更新路径不够明确，且静态验证发现 schema 缺项，因此扣分。
命令和参数较具体，能够覆盖相关性 smoke test、常用 recipe 及多 GPU 示例；BENCHMARK 报告一个正向任务取得通过且结果较好，但覆盖极窄、没有真实执行证据可在本次静态审查中独立确认，输出仍需用户结合本地依赖和硬件调整，因此未接近满分。
文件列出了证据文件、验证状态、评估任务和结果，并披露了待补充的 CI 相关性测试；但没有技能专属的已提交测试套件或真实 CI 复现链，报告主要是单任务、单次评估，关键结论的独立交叉验证不足，因此仅给有限分数。
- 执行前应确认 nemo_experiments 仅包含可删除的旧实验，并先备份或采用可恢复清理方式。
- 文档未固定 CUDA、PyTorch、Megatron-Core、Megatron-LM 与 Bridge 的兼容版本；真实训练前需自行核对环境。
- 不要将真实敏感数据直接用于 mock/相关性示例，也不要把训练日志或配置中的凭据提交到输出或仓库。
- 评估证据仅覆盖一个正向 smoke 任务，不能证明多 GPU、真实数据、翻译脚本边界或失败路径均可用。
这个 Skill 能做什么，适合哪些场景？
该技能面向使用 NeMo MBridge、Megatron-LM 和 Megatron Bridge 进行语言模型训练的开发者。它提供模拟数据或真实数据训练指导、MLM 与 Bridge 的损失相关性测试、常用训练配方和多 GPU 示例。内容还涵盖命令行参数到 Bridge 配置的映射、Megatron-Core 子模块切换以及常见故障排查。它适合需要复现实验、比较训练结果或定位提交后损失曲线分歧的场景。
指导用户运行 MLM 的 pretrain_gpt.py 和 Bridge 的 scripts/training/run_recipe.py，使用 vanilla_gpt_pretrain_config 进行匹配配置的相关性测试；给出单 GPU 与 2 GPU、TP=2 的命令示例；说明如何比较日志中的 lm loss、切换 Megatron-Core 版本、重新同步子模块，并处理旧检查点、PYTHONPATH、调度器覆盖和 MoE 显存等问题。
- 需要验证 Megatron-LM 与 Megatron Bridge 在相同 BF16 配置下损失是否一致的训练工程师。
- 想用模拟数据快速运行 GPT 训练相关性测试的研究人员。
- 需要将 MLM CLI 参数转换为 Bridge 配置的 NeMo MBridge 用户。
- 发现某次代码提交后损失曲线分叉、需要按检查清单排查原因的开发者。
- 需要在 2 GPU、TP=2 配置下测试训练流程的工程团队。
这个 Skill 有哪些优点和局限？
- 提供可直接执行的单 GPU 和多 GPU 训练命令。
- 明确列出 Bridge 配方、入口脚本、启动方式和新运行清理要求。
- 覆盖相关性验证、常用配方、Megatron-Core 版本切换和典型故障。
- 针对 BF16 损失比较给出明确的验证标准。
- 内容聚焦 Megatron-LM 与 Megatron Bridge，不是通用分布式训练指南。
- 示例主要使用小规模配置和模拟数据；真实数据、具体硬件及多节点部署覆盖有限。
- SKILL.md 未提供独立测试套件或平台兼容性矩阵。
- 仓库元数据标为 `NOASSERTION`，但该技能自身声明 Apache-2.0；授权信息需按使用场景进一步核对。
如何安装这个 Skill？
使用 NVIDIA 技能目录安装：npx skills add nvidia/skills --skill nemo-mbridge-mlm-bridge-training --agent codex --yes。README 未说明该命令之外的单独安装步骤；安装后，技能会在代理下一次加载技能并遇到相关任务时可用。
如何使用这个 Skill？
可向代理提问：如何运行 MLM 与 Bridge 的 correlation test？、如何比较 MLM vs Bridge 的 loss curves？ 或 为什么提交后 loss curves diverged？。执行训练时使用 uv run python -m torch.distributed.run；MLM 命令需设置 PYTHONPATH=3rdparty/Megatron-LM:$PYTHONPATH，Bridge 新一轮相关性测试前删除 nemo_experiments。
这个 Skill 与同类方案有什么区别？
该技能直接比较 Megatron-LM（MLM）与 Megatron Bridge 的训练入口、配置和损失曲线，适合评估两者在匹配参数下的行为一致性。