Megatron Bridge 激活重计算
在 Megatron Bridge 中用额外计算换取更低的 GPU 激活内存占用。
内容仅指导训练配置、环境变量和测试命令，未见恶意行为、凭据窃取、隐蔽外传或破坏性默认操作；提供了兼容性约束和故障修复方向。扣分原因是未明确用户确认、变更回滚、数据流/敏感数据处理、依赖锁定或执行隔离；来源锚点主要是仓库内部文件，归属与许可证信息虽有但不足以证明全部技术主张。
配置字段、约束、典型断言和故障诊断表相互一致，且给出单元测试命令和可诊断错误信息。静态审查上限限制为10；扣分因为未执行测试，关键路径依赖未随技能提供，且性能命令使用省略号，无法仅凭文件完整复现。
面向Megatron Bridge训练工程师，触发词、适用场景、选择性到全层重计算顺序、非适用约束和主要替代方案较清楚。扣分因为模块可用性与模型架构相关，缺少更广泛输入边界和负向触发证据；没有中文说明，也未证明在中国大陆网络环境中的文档可达性，不过核心操作看起来是本地配置。
文档包含快速决策、配置示例、兼容性、实测结果、代码锚点、故障诊断、限制、验证和卡片元数据；卡片声明Apache 2.0、所有者、版本和验证信息。扣分因为缺少推荐的Instructions和Examples章节，Benchmark指出作者元数据缺失，维护更新路径和变更记录不完整，且存在对外部文档和仓库路径的未随技能交付依赖。
技能直接给出可复制的配置片段、优先级顺序、CUDA graph绕过方式和症状到修复的映射；随附的单任务评测报告显示正确性和有效性有正向结果。静态校准将分数限制在7；扣分因为没有本次独立执行，实测只覆盖特定Llama3 70B/FP8/H100配置，不能证明其他架构或模块下结果可直接适用。
包含代码文件路径、行号锚点、结构化实验条件与结果，并附有评测报告和验证命令。静态上限为5；扣分因为证据主要是仓库自述和单个内部任务，缺少可核验的提交内容、完整测试套件或多来源独立复现，因此关键性能与兼容性结论只能有限验证。
- 实测结果仅适用于给定的Llama3 70B、FP8、H100和并行配置；不要将约3 GB节省或约16%性能损失泛化到其他模型。
- 执行full重计算前必须核对CUDA graph scope、recompute_method和recompute_num_layers；建议先确认配置并保留原配置以便回滚。
- 技能依赖Megatron Bridge/Megatron-Core源码、外部文档和测试环境，当前材料未证明这些依赖在目标环境中可用。
- 未提供中文文档或大陆网络可达性证据。
这个 Skill 能做什么，适合哪些场景？
该技能指导用户在 Megatron Bridge 中配置、验证和排查选择性或全层激活重计算。它说明如何通过丢弃前向激活并在反向传播时重算来降低显存使用，并比较不同模块的内存收益与计算代价。技能覆盖 CUDA Graph、FP8、序列并行、流水线并行和 CPU offloading 等兼容性限制。文档中的实测结果显示，MLP 重计算可节省约 3 GB 峰值显存，但在指定 Llama3 70B 工作负载上带来约 16% 的性能损失；该案例的实际 OOM 原因是内存碎片。
指导代理设置 selective 重计算及 recompute_modules，或设置 full 重计算所需的 recompute_method 和 recompute_num_layers；通过性能 harness 命令运行基准；检查 CUDA Graph、FP8、sequence parallel 和 pipeline parallel 配置；根据 OOM、性能下降、断言错误及 CPU offloading 冲突诊断故障；提供配置校验测试命令和成功标准。
- 正在训练 Megatron Bridge 模型、因激活显存压力需要降低峰值占用的工程师。
- 希望先尝试低计算代价方案，并按 core_attn、layernorm、mlp 等模块逐步增加重计算的训练工程师。
- 调查修改 recompute 配置后出现 OOM、性能回退或 CUDA Graph 断言错误的开发者。
- 在 FP8 或 Transformer Engine CUDA Graph 配置下，需要判断选择性重计算与全层重计算是否兼容的性能工程师。
- 需要评估 CPU offloading 与激活重计算取舍、且正在使用或避免流水线并行的用户。
这个 Skill 有哪些优点和局限？
- 提供 selective 与 full 两种粒度的明确配置示例。
- 列出各重计算模块的相对计算代价和显存收益。
- 覆盖 FP8、CUDA Graph、sequence parallel 和 pipeline parallel 等关键限制。
- 包含实测性能、峰值显存、故障症状和修复方向。
- 提供配置校验测试命令。
- 模块选择不是自动完成的，用户必须自行判断。
- 不同模型架构和隐藏维度的显存收益差异很大。
- MLP 重计算可能造成显著吞吐下降；示例工作负载中约为 16%。
- layernorm 单独重计算通常几乎不能解决 OOM。
- 技能未提供完整的环境安装、硬件矩阵或独立的性能测试结果之外的平台验证。
如何安装这个 Skill？
使用仓库 README 提供的 skills CLI 安装方式：npx skills add nvidia/skills --skill nemo-mbridge-perf-activation-recompute --yes。CLI 会提示安装目标；技能目录应放入所选 Agent Skills 客户端的技能目录。README 未提供该单个技能的手动目标路径。
如何使用这个 Skill？
在已加载该技能的代理中提出相关任务，例如：“在 Megatron Bridge 中为激活显存压力配置 selective recompute，并检查 FP8 CUDA Graph 兼容性。”典型配置为 cfg.model.recompute_granularity = "selective" 和 cfg.model.recompute_modules = ["core_attn"]；全层配置还需设置 recompute_method 和 recompute_num_layers。可用 uv run python scripts/performance/run_script.py ... --recompute_modules core_attn,layernorm ... 运行性能测试，并用 uv run python -m pytest tests/unit_tests/training/test_config.py -k "recompute" -q 验证配置。
这个 Skill 与同类方案有什么区别？
技能明确将选择性/全层激活重计算与 CPU offloading 进行比较：CPU offloading 避免重计算成本，但在 PP > 1 时不兼容。它还建议先使用 PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True 排除内存碎片问题。