这个 Skill 能做什么,适合哪些场景?
cua-driver 技能把一个真实的桌面应用交给代理操作。它通过 cua-driver CLI(默认)或 MCP 服务器连接,对目标应用的无障碍树做快照,用快照绑定的元素令牌执行点击、输入、菜单导航等动作,并从最新状态验证结果是否达成。该技能强调“观察—操作一次—验证”的工作流,禁止盲重重放或凭空推断坐标。它属于 trycua/cua 仓库中的一员,该仓库还包含虚拟机、基准测试等兄弟项目,但本技能只负责桌面 GUI 操作。
- 用 list_apps / list_windows / launch_app 找到并打开目标应用
- get_window_state 截取窗口的无障碍树快照
- 用快照返回的 element_token 执行 click、type_text 等输入
- 语义无法触达时,从新截图读取精确像素坐标操作
- verify_state 或重新快照验证操作后的状态
- 支持桌面级输入、浏览器页面内容操作和显式请求的录屏
- 代理开发者需要让代理在真实应用(如计算器、LibreOffice、Inkscape)中完成任务并自验结果
- 运维人员要在不抢占前台焦点的前提下,后台驱动桌面应用完成批量窗口操作
- 用户希望代理接续之前中断的 Cua 任务,通过 history_status/history_query 召回上下文
- 自动化测试人员想通过无障碍树而非脆弱的坐标定位来驱动 GUI
- 无图形界面的服务器或纯 headless 环境,本技能以 GUI 应用为目标
- 想在用户不知情时绕过权限提示、篡改浏览器安全设置的场景——技能规则明确禁止
- 不属于目标窗口/桌面的操作,未经授权的桌面或前台控制会被拒绝
如何安装这个 Skill?
- 该技能会真实控制用户桌面与应用,前台/桌面输入与浏览器现有配置文件绑定均具高风险;应仅在用户明确授权的场景启用,静态评审未做任何执行验证。
- 发布方未经企业注册库验证,身份未知;工作流/运行时等引用文档未包含在本次证据中,实际行为可能与文档不符。
- 文档仅英文,未声明中文支持;大陆网络可达性未经核实。回滚不完全:崩溃后浏览器远程调试设置可能需要用户手工恢复。
- 部分能力(Hyprland 插件、KDE 前台激活、遗留 page 工具)为实验性或有明显边界,勿按全功能假设使用。
- Shell / 命令行
- 网络访问
- MCP Server
cua-driver binarymacOS/Windows/Linux host with GUIscreen/accessibility permissions
源文档未提供针对特定代理客户端的单独安装命令;该技能随 Cua 安装器分发。安装 cua-driver 二进制:
macOS / Linux 终端
/bin/bash -c "$(curl -fsSL https://cua.ai/driver/install.sh)"Windows PowerShell
irm https://cua.ai/driver/install.ps1 | iex配合 cua CLI 一键装入代理
curl -fsSL https://cua.ai/install.sh | sh
sh -s -- --select cua-driver安装器会把 cua-driver 技能与 MCP 服务器装入 Claude Code、Codex、Cursor 等代理;未记录其他客户端的手动步骤。
如何使用这个 Skill?
安装后,把下面任意一句发给 Agent 即可触发:
- 打开计算器,计算 6 × 7,并验证界面显示 42
- 在 LibreOffice Calc 里选中 A1 单元格并填入今天的日期,填完后确认单元格内容
- 继续我上次中断的 Cua 操作任务,先查一下历史记录
- 后台方式把 Inkscape 里的对象全部选中,不要抢我的鼠标焦点
技能由用户请求触发:当用户要求代理操作、驱动或自动化宿主机上的真实应用 GUI 时使用。核心流程是:先 status/doctor 检查安装与权限,再 list_apps 定位目标,get_window_state 获取快照,用返回的 element_token 做一次输入,最后 verify_state 验证。可选地通过 CUA_DRIVER_RS_MCP_HTTP_PORT 与 CUA_DRIVER_RS_MCP_HTTP_TOKEN 启用本地 MCP HTTP 端点;Linux 上可设 CUA_DRIVER_RS_ENABLE_WAYLAND=1 启用原生 Wayland 后端。详细的分平台指南(MACOS/WINDOWS/LINUX)与工作流文档在需要时按需加载。
这个 Skill 有哪些优点和局限?
- 快照绑定元素令牌避免脆弱的坐标猜测,动作可精确指向具体控件
- 观察—操作—验证的闭环设计,把退出码成功与任务成功区分开
- 明确的失败映射和权限边界,例如不可验证操作不被当作成功
- 需要 cua-driver 二进制和相应的系统辅助功能/屏幕权限,部署门槛不低
- 后台窗口操作依赖应用与平台支持,部分平台(如 Wayland)有捕获恢复等额外故障路径
- 会话共享桌面时焦点与输入不隔离,多代理并发需自行协调
这个 Skill 与同类方案有什么区别?
与相关 Skills 并排比较;分数均按同一 FSRS 标准得出。
| Skill | FS 评分 | Star 数 | 最近更新 | License |
|---|---|---|---|---|
| Cua Driver GUI 自动化技能 本页 | 61 · 推荐 | ★ 29k | 1 天前 | MIT |
| Cua Driver 技能 | 58 · 推荐 | ★ 29k | 1 天前 | MIT |
| 跨平台屏幕截图助手 ✓ OpenAI · 官方 | 46 · 谨慎使用 | ★ 28k | 3 个月前 | — |
| cmux Computer Use 技能 | 50 · 谨慎使用 | ★ 28k | 今天 | NOASSERTION |
| Cua Spaces(cua-spaces 技能) | 46 · 谨慎使用 | ★ 29k | 1 天前 | MIT |
README 将其定位为 deprecated 包(cua-computer、cua-som、cua-agent 等)的替代品:涉及当前机器的 GUI 自动化应改用 Cua Driver,沙箱/远端机器则用 cua SDK。
FollowSkills 如何评估这个 Skill?
SKILL.md 明确最小权限与授权边界:前台/桌面输入需显式授权、拒绝隐藏回退、禁止改安全设置、失败即拒绝而非静默执行,浏览器仅接受 http/https/about、CDP 方法策略收紧、现有配置文件绑定需显式 grant 且授权随运行时销毁,敏感数据(截图、文件路径脱敏)有披露。扣分:外部效果本质是控制用户桌面,回滚仅部分覆盖(浏览器设置可恢复但崩溃时需手工处理),发布方身份未经验证,静态读无法核实授权实现。
文档内自洽性极高:失效令牌、空 AX 树、Wayland surface_identity_unproven、popup 键盘抢占、Session 0、D-Bus 会话总线等均有失败映射和可诊断错误码,拒绝路径清晰。扣分:静态评审未执行,无提交的测试套件或 CI 证据覆盖关键路径,部分能力标注实验性(Hyprland 插件、KDE 前台激活),happy path 之外覆盖依赖文档自述。
触发描述精确(用户要求操作 GUI 应用、继续/恢复历史活动),平台边界、非适用范围(Safari/Firefox、Xvnc、无 uinput 容器、Session 0)声明充分,环境检测用 doctor。扣分:文档全部为英文,无中文支持声明;桌面自动化依赖本地 OS 能力,大陆网络可达性主要取决于主页文档(cua.ai)可访问性,未验证。
分层文档(SKILL→WORKFLOW/RUNTIME/平台/浏览器/录制/嵌入)按需加载,版本号 0.31.0 且标注 release-please,MIT 许可,环境变量表完整,已知限制大量披露,嵌入指南与仓库示例镜像同步。扣分:变更日志与维护责任在所选文件内未见直接证据,参考文档(WORKFLOW/RUNTIME 等)未在证据中提供,部分表格被截断。
声称的产出(可验证的后置条件、类型化浏览器操作、可验证状态)边际价值明确:相比手工 osascript/xdotool 提供后台无焦点抢占自动化。扣分:静态评审不能执行,直接可用性仅有自述的冒烟证据(KDE Wayland 计时数据、Hyprland PR 校验),代表性输出未独立复现,封顶 7。
有优于纯营销的审计线索:日期化 PR 校验记录(#3572)、源哈希(f180e882…、1133a06e…)、指向仓库内示例代码路径、Windows/macOS 实测延迟数据。扣分:均为作者自述,所选文件内无第三方执行证据或提交测试,跨源佐证有限,上限 5 未达。
点击维度查看打分理由
证据充分度:低 — 主要依赖静态检查、作者材料或有限演示;适合发现线索,不适合做高风险决策。
查看完整评分方法 →