rdp-cli

MCP 工具 vs GUI 电脑操作:Agent 什么时候需要真实桌面

MCP 工具和 GUI 电脑操作解决的是两类不同的问题。

当应用提供可靠 API 时,MCP 工具更合适:查询数据库、创建工单、更新 CRM 记录或生成结构化报告。Agent 发送明确参数,并获得结构化结果。

但很多真实任务没有可用 API。Agent 可能需要打开旧版 Windows 软件、完成可视化流程、检查图表、操作视频编辑器,或进入一个正在被人使用的桌面会话。这时就需要 GUI 电脑操作。

什么时候优先使用 MCP 工具

以下情况适合 MCP:

  • 系统有稳定的 API。
  • 任务主要处理结构化数据。
  • 你需要可预测的输出和清晰日志。
  • 应用运行在没有图形界面的服务器上。
  • 你不想依赖容易变化的屏幕坐标。

例如,更新 500 条客户记录通常应该调用 API 或 MCP 工具。让 Agent 打开浏览器逐条点击,会更慢,也更难验证。

什么时候 Agent 需要真实桌面

当桌面本身就是操作界面时,GUI 控制很有用:

  • 旧版 Windows 软件没有 API。
  • 任务依赖当前用户会话。
  • Agent 必须检查视觉内容。
  • 流程包含菜单、对话框、时间轴或拖放。
  • 应用只提供本地文件和桌面控件。
  • 人员可能需要观察或接管会话。

rdp-cli 支持 Agent 使用 RDP 和 VNC 桌面、捕获屏幕、传输文件、操作多显示器,并允许人接管同一个会话。

一个实用的混合工作流

通常可以先用 MCP,再用 GUI:

  1. 用 MCP 工具获取结构化数据或准备任务。
  2. 把所需文件上传到远程桌面。
  3. 让 Agent 操作桌面应用。
  4. 在关键操作后重新截图。
  5. 下载结果,或通过 MCP 把结果传回去。
  6. 如果屏幕状态不明确,让人接管。

例如,Agent 可以上传表格,通过 RDP 打开分析软件,再检查结果:

rdp-cli files upload --session SESSION --local .\sales.xlsx --path sales.xlsx
rdp-cli screenshot --session SESSION --monitor M1 --out before.png

完成后:

rdp-cli screenshot --session SESSION --monitor M1 --out after.png
rdp-cli files download --session SESSION --path report.pdf --local .\report.pdf

截图很重要:它让 Agent 根据最新画面继续,而不是假设上一次点击已经成功。

不要把所有任务都交给 GUI

GUI 控制很强大,但并非总是合适。窗口布局变化、远程连接变慢、意外弹窗或登录过期都可能导致错误。

结构化操作使用 MCP;真正依赖视觉交互的任务使用真实桌面。只要任务跨越两者边界,就采用混合方式。

系统能直接提供数据时,用 MCP;任务依赖人眼看到并点击的内容时,用真实桌面。