电脑操作
Computer Use 让 Agent 观察页面,逐步点击、输入、按键或滚动,适合需要通过界面完成的任务。当前只支持 Codex 与 Claude Code,操作范围是浏览器页面与 Electron 应用的内嵌页面,例如浏览器预览;不能据此操作任意桌面应用。
启用与检查
- 打开 设置 → AI 助手 → Computer use,开启总开关,并选择本次使用的 Codex 或 Claude Code。
- 检查设置页中的运行状态;不可用时先处理页面提示。
- 在 macOS 系统设置中授予屏幕录制与辅助功能权限,并回到应用确认状态。
- 打开目标页面,在会话中说明任务、允许的操作、停止条件与禁止动作。
图 1:在设置页启用 Computer Use,检查运行状态与系统权限。
执行一次任务
- 先让 Agent 观察当前页面,核对页面身份与目标内容。
- 逐步执行操作;每次会改变状态的调用都需要你确认。核对本次动作后再允许,确认不会自动授权后续同类动作。
- 登录、授权、发送、上传、购买、付款、删除或提交正式结果前,确认操作对象与后果。
- 完成后停止任务或释放会话,并回到页面核对实际结果。
操作影响与使用提示
- 观察会读取页面内容、可交互元素和截图;只读查询不需要确认。
- 点击、输入、按键和滚动直接作用于目标页面,可能触发提交或改变页面状态。
- 页面和截图可能包含账号、患者信息或未公开数据,分享或导出前应检查并脱敏。不要让 Agent 代填密码、验证码或支付信息。
- 运行状态不可用或系统权限不足时,先修复问题再继续任务。
- 会话结束后,当前操作连接会释放。Computer Use 不适合无人值守的长期自动化。
相关页面
- 权限与安全:系统权限与关键动作确认。
- Skills、MCP 与扩展:工具连接与扩展管理。
- 浏览器预览:当前支持操作的主要页面入口。
- 工作台工具:工具分工与使用原则。
实现依据:
@sciforge/domain-computer-usev1.0.1。