自动化与运维

Cua Driver GUI 自动化技能

让 AI 代理像人一样操作 macOS、Windows、Linux 上的原生应用窗口:观察状态、精准操作、事后验证。

61/ 100
推荐

整体可靠,存在已披露的局限;按说明试用并保留回滚路径。

查看评分依据 ↓
可直接使用于
Codex · Claude Code
Star 数
★ 29k
最近更新
1 天前
License
MIT
gui-automationdesktop-automationmcp-serveraccessibility-tree
+4macoswindowslinuxbrowser-automation

这个 Skill 能做什么,适合哪些场景?

cua-driver 技能把一个真实的桌面应用交给代理操作。它通过 cua-driver CLI(默认)或 MCP 服务器连接,对目标应用的无障碍树做快照,用快照绑定的元素令牌执行点击、输入、菜单导航等动作,并从最新状态验证结果是否达成。该技能强调“观察—操作一次—验证”的工作流,禁止盲重重放或凭空推断坐标。它属于 trycua/cua 仓库中的一员,该仓库还包含虚拟机、基准测试等兄弟项目,但本技能只负责桌面 GUI 操作。

  • 用 list_apps / list_windows / launch_app 找到并打开目标应用
  • get_window_state 截取窗口的无障碍树快照
  • 用快照返回的 element_token 执行 click、type_text 等输入
  • 语义无法触达时,从新截图读取精确像素坐标操作
  • verify_state 或重新快照验证操作后的状态
  • 支持桌面级输入、浏览器页面内容操作和显式请求的录屏
适合
  • 代理开发者需要让代理在真实应用(如计算器、LibreOffice、Inkscape)中完成任务并自验结果
  • 运维人员要在不抢占前台焦点的前提下,后台驱动桌面应用完成批量窗口操作
  • 用户希望代理接续之前中断的 Cua 任务,通过 history_status/history_query 召回上下文
  • 自动化测试人员想通过无障碍树而非脆弱的坐标定位来驱动 GUI
不适合
  • 无图形界面的服务器或纯 headless 环境,本技能以 GUI 应用为目标
  • 想在用户不知情时绕过权限提示、篡改浏览器安全设置的场景——技能规则明确禁止
  • 不属于目标窗口/桌面的操作,未经授权的桌面或前台控制会被拒绝

如何安装这个 Skill?

使用前请注意
  • 该技能会真实控制用户桌面与应用,前台/桌面输入与浏览器现有配置文件绑定均具高风险;应仅在用户明确授权的场景启用,静态评审未做任何执行验证。
  • 发布方未经企业注册库验证,身份未知;工作流/运行时等引用文档未包含在本次证据中,实际行为可能与文档不符。
  • 文档仅英文,未声明中文支持;大陆网络可达性未经核实。回滚不完全:崩溃后浏览器远程调试设置可能需要用户手工恢复。
  • 部分能力(Hyprland 插件、KDE 前台激活、遗留 page 工具)为实验性或有明显边界,勿按全功能假设使用。
开始前你需要
Agent 需要具备
  • Shell / 命令行
  • 网络访问
  • MCP Server
需要预先安装
  • cua-driver binary
  • macOS/Windows/Linux host with GUI
  • screen/accessibility permissions

源文档未提供针对特定代理客户端的单独安装命令;该技能随 Cua 安装器分发。安装 cua-driver 二进制:

macOS / Linux 终端

/bin/bash -c "$(curl -fsSL https://cua.ai/driver/install.sh)"

Windows PowerShell

irm https://cua.ai/driver/install.ps1 | iex

配合 cua CLI 一键装入代理

curl -fsSL https://cua.ai/install.sh | sh
sh -s -- --select cua-driver

安装器会把 cua-driver 技能与 MCP 服务器装入 Claude Code、Codex、Cursor 等代理;未记录其他客户端的手动步骤。

如何使用这个 Skill?

试试这样说

安装后,把下面任意一句发给 Agent 即可触发:

  • 打开计算器,计算 6 × 7,并验证界面显示 42
  • 在 LibreOffice Calc 里选中 A1 单元格并填入今天的日期,填完后确认单元格内容
  • 继续我上次中断的 Cua 操作任务,先查一下历史记录
  • 后台方式把 Inkscape 里的对象全部选中,不要抢我的鼠标焦点

技能由用户请求触发:当用户要求代理操作、驱动或自动化宿主机上的真实应用 GUI 时使用。核心流程是:先 status/doctor 检查安装与权限,再 list_apps 定位目标,get_window_state 获取快照,用返回的 element_token 做一次输入,最后 verify_state 验证。可选地通过 CUA_DRIVER_RS_MCP_HTTP_PORT 与 CUA_DRIVER_RS_MCP_HTTP_TOKEN 启用本地 MCP HTTP 端点;Linux 上可设 CUA_DRIVER_RS_ENABLE_WAYLAND=1 启用原生 Wayland 后端。详细的分平台指南(MACOS/WINDOWS/LINUX)与工作流文档在需要时按需加载。

这个 Skill 有哪些优点和局限?

优点
  • 快照绑定元素令牌避免脆弱的坐标猜测,动作可精确指向具体控件
  • 观察—操作—验证的闭环设计,把退出码成功与任务成功区分开
  • 明确的失败映射和权限边界,例如不可验证操作不被当作成功
局限
  • 需要 cua-driver 二进制和相应的系统辅助功能/屏幕权限,部署门槛不低
  • 后台窗口操作依赖应用与平台支持,部分平台(如 Wayland)有捕获恢复等额外故障路径
  • 会话共享桌面时焦点与输入不隔离,多代理并发需自行协调

这个 Skill 与同类方案有什么区别?

与相关 Skills 并排比较;分数均按同一 FSRS 标准得出。

Skill FS 评分 Star 数 最近更新 License
Cua Driver GUI 自动化技能 本页 61 · 推荐 ★ 29k 1 天前 MIT
Cua Driver 技能 58 · 推荐 ★ 29k 1 天前 MIT
跨平台屏幕截图助手 ✓ OpenAI · 官方 46 · 谨慎使用 ★ 28k 3 个月前 —
cmux Computer Use 技能 50 · 谨慎使用 ★ 28k 今天 NOASSERTION
Cua Spaces(cua-spaces 技能) 46 · 谨慎使用 ★ 29k 1 天前 MIT

README 将其定位为 deprecated 包(cua-computer、cua-som、cua-agent 等)的替代品:涉及当前机器的 GUI 自动化应改用 Cua Driver,沙箱/远端机器则用 cua SDK。

FollowSkills 如何评估这个 Skill?

FollowSkills 评估 · FSRS-2.0
推荐
61/ 100 五分制 3.1 / 5
1信任安全18 / 25 · 3.6/5

SKILL.md 明确最小权限与授权边界:前台/桌面输入需显式授权、拒绝隐藏回退、禁止改安全设置、失败即拒绝而非静默执行,浏览器仅接受 http/https/about、CDP 方法策略收紧、现有配置文件绑定需显式 grant 且授权随运行时销毁,敏感数据(截图、文件路径脱敏)有披露。扣分:外部效果本质是控制用户桌面,回滚仅部分覆盖(浏览器设置可恢复但崩溃时需手工处理),发布方身份未经验证,静态读无法核实授权实现。

2可靠稳定9 / 20 · 2.3/5

文档内自洽性极高:失效令牌、空 AX 树、Wayland surface_identity_unproven、popup 键盘抢占、Session 0、D-Bus 会话总线等均有失败映射和可诊断错误码,拒绝路径清晰。扣分:静态评审未执行,无提交的测试套件或 CI 证据覆盖关键路径,部分能力标注实验性(Hyprland 插件、KDE 前台激活),happy path 之外覆盖依赖文档自述。

3适用触发12 / 15 · 4.0/5

触发描述精确(用户要求操作 GUI 应用、继续/恢复历史活动),平台边界、非适用范围(Safari/Firefox、Xvnc、无 uinput 容器、Session 0)声明充分,环境检测用 doctor。扣分:文档全部为英文,无中文支持声明;桌面自动化依赖本地 OS 能力,大陆网络可达性主要取决于主页文档(cua.ai)可访问性,未验证。

4规范维护12 / 15 · 4.0/5

分层文档(SKILL→WORKFLOW/RUNTIME/平台/浏览器/录制/嵌入)按需加载,版本号 0.31.0 且标注 release-please,MIT 许可,环境变量表完整,已知限制大量披露,嵌入指南与仓库示例镜像同步。扣分:变更日志与维护责任在所选文件内未见直接证据,参考文档(WORKFLOW/RUNTIME 等)未在证据中提供,部分表格被截断。

5有效结果6 / 15 · 2.0/5

声称的产出(可验证的后置条件、类型化浏览器操作、可验证状态)边际价值明确:相比手工 osascript/xdotool 提供后台无焦点抢占自动化。扣分:静态评审不能执行,直接可用性仅有自述的冒烟证据(KDE Wayland 计时数据、Hyprland PR 校验),代表性输出未独立复现,封顶 7。

6证据核验4 / 10 · 2.0/5

有优于纯营销的审计线索:日期化 PR 校验记录(#3572)、源哈希(f180e882…、1133a06e…)、指向仓库内示例代码路径、Windows/macOS 实测延迟数据。扣分:均为作者自述,所选文件内无第三方执行证据或提交测试,跨源佐证有限,上限 5 未达。

1 2 3 4 5 6

点击维度查看打分理由

评估于 2026年10月10日 审查版本 e32127764436 评估证据[1][2][3][4][5]

证据充分度:低 — 主要依赖静态检查、作者材料或有限演示;适合发现线索,不适合做高风险决策。

查看完整评分方法 →

常见问题

使用它需要什么权限?
操作可见的前台/桌面输入需要授权;后台投递依赖应用与平台支持。用户或系统的权限提示属于用户或可信宿主,技能不得作为隐藏设置绕过。
点击没生效怎么办?
技能规定先重新观察再重试:文本未变化时先重新快照;令牌过期时刷新 list_windows/get_window_state 选取目标,绝不盲目重放未知的部分动作。
它怎么调用?CLI 还是 MCP?
默认通过 cua-driver CLI,也可作为 MCP 服务器使用(tools/list 可查询工具)。可用 CUA_DRIVER_RS_MCP_HTTP_PORT 和 CUA_DRIVER_RS_MCP_HTTP_TOKEN 启用本地 HTTP 端点。
费用如何?
该技能与 cua-driver 同属 MIT 许可的仓库内容,README 未提及本技能的订阅费用;Cua Spaces 应用则采用 FSL-1.1-MIT,个人免费,Pro/Teams 计划尚未推出。

同仓库的其他 Skills

均来自 trycua/cua

自动化与运维

Cua Driver 技能

让智能体直接操作真实桌面应用:通过无障碍树和元素令牌精确驱动 macOS、Windows、Linux 上的原生 GUI,并从最新状态验证结果。

★ 29k FS 58 推荐 1 天前
自动化与运维

Cua Spaces(cua-spaces 技能)

通过 cua MCP 服务器,让代理在用户可实时观看的远程或本地计算机(Space)里执行命令、传文件、启动编码代理并共享网络。

★ 29k FS 46 谨慎使用 1 天前
自动化与运维

Cua GUI 自动化技能

让 AI 代理像真人一样看屏幕、点按钮、填表单:在任何应用的图形界面上完成可视化操作与端到端 QA 测试。

★ 29k FS 51 谨慎使用 1 天前
开发与工程

jev-use — Cua Driver 之上的受限计算机操作循环

在 Cua Driver 之上搭建一个边界清晰的操作循环:驱动层只负责观察与执行,TypeSafe Jev 只能从应用方提供的候选 ID 中做选择,每一次动作都经过调用方验证。

★ 29k FS 58 推荐 1 天前
自动化与运维

Cua Volume 技能

让 AI 代理通过一个按版本记录的用户级共享卷,在多个 Space、你的 Mac 和其他代理之间持久化、共享和同步文件。

★ 29k FS 52 谨慎使用 1 天前
开发与工程

Cua 沙盒

一键创建可随意丢弃的 Linux 或 macOS 隔离计算机,让 AI 代理在不碰你本机的安全环境里跑代码、测应用、操作桌面和浏览网页。

★ 29k FS 52 谨慎使用 1 天前
开发与工程

Poll GitHub Work — GitHub 维护工作轮询与排期

轮询并排序仓库中待处理的 issue、RFC 和 PR,帮助维护者决定下一步做什么,或在明确选定后启动一项具体工作。

★ 29k FS 52 谨慎使用 1 天前

相关 Skills