Agent 主机端到端测试助手
用严格的回放夹具维护 VS Code Agent 主机端到端测试。
技能明确将回放设为默认且无网络、无令牌,要求录制时使用真实令牌、只发送临时目录中的简单只读提示,并要求检查脱敏结果;这些内容支持较强的数据流透明度和最小化外部影响。扣6分:未规定明确的用户确认机制、令牌生命周期或录制失败后的回滚流程,且真实 CAPI 交互仍可能产生外部影响。
工作流覆盖新增测试、录制夹具、确定性失败、平台门控和缓存未命中的排查,并要求使用通知断言而非墙钟时间。扣1分:静态审查未执行关键路径,且依赖的 README、脚本和实际夹具未在选定技能文件中提供;因此无法确认命令、错误处理和所有环境下的可运行性。
描述清楚面向 VS Code agent host AHP 黑盒端到端测试,并区分新增、重录和不可确定行为等场景,也说明了 POSIX、Windows 和 provider-specific 边界。扣5分:未明确不适用场景、输入输出契约或语义触发排除条件;未说明中文使用支持,也未证明在中国大陆网络环境下访问 GitHub/CAPI 的可达性。
技能采用前置架构文档加分工作流的渐进式结构,包含命令示例、命名规则、限制、故障排查入口和 MIT 仓库许可证背景。扣7分:技能自身没有版本、变更记录、维护责任、更新路径、安装/依赖说明或 FAQ;核心假设依赖未提供的 README 和仓库内部实现。
对于熟悉该仓库的贡献者,步骤可直接指导测试添加、夹具录制和确定性门控,且提示审查泄漏与运行回放。扣1分:静态材料没有展示代表性成功输出或实际执行结果,无法验证从用户请求到可用测试变更的完整性;仍需人工理解未提供的实现细节。
技能给出了可审计的文件路径、命令、夹具命名规则和故障症状映射;仓库还提供 MIT、锁定依赖和部分测试/CI 证据。扣1分:提供的 CI 工作流并未明确覆盖该技能的 agent-host E2E 关键路径,且本次没有执行或独立复现,因此交叉验证覆盖有限。
- 录制流程需要真实 GITHUB_TOKEN 或 gh 认证并访问 CAPI;执行前应获得明确授权,避免将敏感提示、凭据或本地路径带入请求和夹具。
- 关键架构 README、实现脚本和 agent-host 专用 CI/夹具未作为本次证据提供,建议在采用前核对其内容及实际测试覆盖。
- 技能未说明中国大陆网络不可达时的替代方案,也未给出版本、维护责任和更新通知机制。
它能做什么 & 适用场景
这个技能面向 VS Code 中通过 AHP 协议驱动完整 Agent 主机的黑盒端到端测试。它指导开发者添加跨提供商测试、为 Claude、Copilot 和 Codex 重新录制 YAML 夹具,以及排查回放缓存未命中。默认模式使用已提交的夹具,不需要令牌或网络,并对未记录的请求严格失败。录制模式需要真实令牌并访问 CAPI,因此适合熟悉该测试目录和仓库脚本的 VS Code 开发者,而不是通用测试框架用户。
指导开发者先阅读 src/vs/platform/agentHost/test/node/protocol/README.md,再在 agentHostE2ETestHelpers.ts 的 defineAgentHostE2ETests 中添加测试。测试使用 dispatchTurn(...) 和 client.waitForNotification(...) 驱动真实 Agent 主机、捆绑的提供商 SDK/CLI 和真实 AHP 协议,并通过 CapiReplayProxy 回放提交的 YAML 模型流量。它提供使用 ./scripts/test-integration.sh --run 的提供商级录制和回放步骤,指导检查夹具差异、扩展 capiReplayProxy.ts 的规范化与脱敏规则、在 capiStubs.ts 中处理辅助端点,并为不可确定回放或平台特定行为添加精确门控。
- VS Code 开发者新增一个需要同时覆盖多个模型提供商的 Agent 主机端到端测试时,使用它设计断言并生成各提供商夹具。
- 在捆绑的 SDK 或 CLI 升级后,测试出现新的端点、轮次或工具模式变化时,使用它重新录制并验证夹具。
- 测试因未记录请求、缺少夹具、子代理夹具过期或意外访问真实 CAPI 而失败时,使用它按症状排查。
- 某个测试包含实时流、运行中止或 POSIX 专属本地执行行为时,使用它决定记录专用或平台专用门控。
- 维护测试夹具的开发者需要确认没有本地用户名、绝对路径、令牌或未发布模型标识泄露时,使用它检查并改进脱敏流程。
优缺点一览
- 明确规定默认严格回放,使用已提交夹具时不需要令牌或网络。
- 覆盖新增测试、重新录制夹具、跨提供商断言和故障排查等具体维护流程。
- 强调通过录制器生成夹具,并检查规范化、脱敏和意外数据泄露。
- 对不可确定回放和 Windows/POSIX 差异提供针对性的门控策略。
- 范围仅限 VS Code 指定 Agent 主机 AHP 测试目录,不是通用端到端测试技能。
- 录制夹具需要真实令牌,并会访问真实 CAPI;相关操作必须有意执行。
- 依赖 VS Code 仓库中的脚本、测试辅助文件、代理实现和 README,脱离该仓库无法直接使用。
- 源资料没有说明单独安装方式,也没有证明其他测试框架或非 VS Code 项目的兼容性。
如何安装
源资料没有说明如何单独安装此技能,也没有提供独立安装包。它位于 microsoft/vscode 仓库的 .github/skills/agent-host-e2e-tests/SKILL.md;使用该技能需要访问相应的 VS Code 源码仓库和测试目录。仓库整体采用 MIT 许可证。
如何使用
在可访问该仓库的 Agent Skills 客户端中,以“为 agent host AHP 测试新增一个跨提供商测试”或“SDK 升级后重新录制 agent host E2E 夹具并排查 cache miss”作为触发请求。默认回放可运行:./scripts/test-integration.sh --run <path>。录制 Claude 夹具可运行:AGENT_HOST_REPLAY_RECORD=1 ./scripts/test-integration.sh --run src/vs/platform/agentHost/test/node/protocol/claudeAgentHostE2E.integrationTest.ts;Copilot 和 Codex 需替换为相应测试文件。录制前需通过 gh auth token 或 GITHUB_TOKEN 提供令牌;完成后先检查 git diff,再取消环境变量运行回放。
对比同类
它不是独立的测试运行器或模型测试平台,而是 VS Code Agent 主机端到端测试的工作流指南;其测试依赖仓库现有的 CapiReplayProxy 记录/回放系统和 AHP 测试实现。