跳到主要内容

电脑操作

Computer Use 让 Agent 观察页面,逐步点击、输入、按键或滚动,适合需要通过界面完成的任务。当前只支持 Codex 与 Claude Code,操作范围是浏览器页面与 Electron 应用的内嵌页面,例如浏览器预览;不能据此操作任意桌面应用。

启用与检查​

  1. 打开 设置 → AI 助手 → Computer use,开启总开关,并选择本次使用的 Codex 或 Claude Code。
  2. 检查设置页中的运行状态;不可用时先处理页面提示。
  3. 在 macOS 系统设置中授予屏幕录制与辅助功能权限,并回到应用确认状态。
  4. 打开目标页面,在会话中说明任务、允许的操作、停止条件与禁止动作。

SciForge Computer Use 设置 图 1:在设置页启用 Computer Use,检查运行状态与系统权限。

执行一次任务​

  1. 先让 Agent 观察当前页面,核对页面身份与目标内容。
  2. 逐步执行操作;每次会改变状态的调用都需要你确认。核对本次动作后再允许,确认不会自动授权后续同类动作。
  3. 登录、授权、发送、上传、购买、付款、删除或提交正式结果前,确认操作对象与后果。
  4. 完成后停止任务或释放会话,并回到页面核对实际结果。

操作影响与使用提示​

  • 观察会读取页面内容、可交互元素和截图;只读查询不需要确认。
  • 点击、输入、按键和滚动直接作用于目标页面,可能触发提交或改变页面状态。
  • 页面和截图可能包含账号、患者信息或未公开数据,分享或导出前应检查并脱敏。不要让 Agent 代填密码、验证码或支付信息。
  • 运行状态不可用或系统权限不足时,先修复问题再继续任务。
  • 会话结束后,当前操作连接会释放。Computer Use 不适合无人值守的长期自动化。

相关页面​

实现依据:@sciforge/domain-computer-use v1.0.1。