SpyBara
Go Premium

computer-use.md 2026-06-16 21:57 UTC to 2026-06-17 17:02 UTC

1 added, 1 removed.

2026
Sat 27 01:01 Fri 26 23:00 Thu 25 23:58 Wed 24 22:02 Tue 23 22:00 Mon 22 23:59 Fri 19 22:58 Thu 18 22:00 Wed 17 17:02 Tue 16 21:57 Mon 15 23:02 Sat 13 21:59 Fri 12 22:00 Thu 11 23:01 Wed 10 23:57 Tue 9 06:34 Mon 8 06:52 Sat 6 06:24 Fri 5 06:45 Thu 4 06:52 Wed 3 06:53 Tue 2 06:51

讓 Claude 從 CLI 使用您的電腦

在 Claude Code CLI 中啟用 computer use,讓 Claude 可以在 macOS 上開啟應用程式、點擊、輸入和查看您的螢幕。測試原生應用程式、除錯視覺問題,以及自動化僅限 GUI 的工具,無需離開您的終端機。

Computer use 讓 Claude 可以開啟應用程式、控制您的螢幕,並以您的方式在您的機器上工作。從 CLI,Claude 可以編譯 Swift 應用程式、啟動它、點擊每個按鈕,並擷取結果的螢幕截圖,所有這些都在編寫程式碼的同一個對話中進行。

本頁涵蓋 computer use 在 CLI 中的運作方式。如需 Desktop 應用程式,請參閱 Desktop 中的 computer use

您可以使用 computer use 做什麼

Computer use 處理需要 GUI 的任務:任何您通常必須離開終端機並手動執行的操作。

  • 建置和驗證原生應用程式:要求 Claude 建置 macOS 選單列應用程式。Claude 編寫 Swift、編譯它、啟動它,並點擊每個控制項以驗證它在您開啟之前是否有效。
  • 端對端 UI 測試:將 Claude 指向本機 Electron 應用程式並說「測試上線流程」。Claude 開啟應用程式、點擊註冊,並擷取每個步驟的螢幕截圖。無需 Playwright 設定、無需測試工具。
  • 除錯視覺和版面配置問題:告訴 Claude「模態視窗在小視窗上被裁剪」。Claude 調整視窗大小、重現錯誤、擷取螢幕截圖、修補 CSS,並驗證修復。Claude 看到您看到的內容。
  • 驅動僅限 GUI 的工具:與設計工具、硬體控制面板、iOS 模擬器或沒有 CLI 或 API 的專有應用程式互動。

Computer use 何時適用

Claude 有多種方式與應用程式或服務互動。Computer use 是最廣泛和最慢的,因此 Claude 首先嘗試最精確的工具:

  • 如果您有該服務的 MCP server,Claude 會使用它。
  • 如果任務是 shell 命令,Claude 會使用 Bash。
  • 如果任務是瀏覽器工作且您已設定 Claude in Chrome,Claude 會使用它。
  • 如果以上都不適用,Claude 會使用 computer use。

螢幕控制保留用於其他工具無法到達的事物:原生應用程式、模擬器和沒有 API 的工具。

啟用 computer use

Computer use 可作為稱為 computer-use 的內建 MCP server 使用。預設情況下它是關閉的,直到您啟用它。

1

開啟 MCP 選單

在互動式 Claude Code 工作階段中,執行:

/mcp

在伺服器清單中找到 computer-use。它顯示為已停用。

2

啟用伺服器

選擇 computer-use 並選擇啟用。該設定按專案保留,因此您只需為每個想要 computer use 的專案執行一次。

3

授予 macOS 權限

Claude 第一次嘗試使用您的電腦時,您會看到授予兩個 macOS 權限的提示:

  • Accessibility:讓 Claude 點擊、輸入和捲動
  • Screen Recording:讓 Claude 看到您螢幕上的內容

提示包含開啟相關系統設定窗格的連結。授予兩者,然後在提示中選擇重試。授予螢幕錄製權限後,macOS 可能需要您重新啟動 Claude Code。

設定後,要求 Claude 執行需要 GUI 的操作:

建置應用程式目標、啟動它,並點擊每個標籤以確保
沒有任何內容崩潰。擷取您找到的任何錯誤狀態的螢幕截圖。

按工作階段核准應用程式

啟用 computer-use 伺服器不會授予 Claude 存取您機器上每個應用程式的權限。Claude 在工作階段中第一次需要特定應用程式時,您的終端機中會出現提示,顯示:

  • Claude 想要控制哪些應用程式
  • 任何額外的權限請求,例如剪貼簿存取
  • Claude 工作時將隱藏多少其他應用程式

選擇允許此工作階段拒絕。核准持續到目前工作階段。當 Claude 同時請求多個應用程式時,您可以一次核准多個應用程式。

具有廣泛影響的應用程式在提示中顯示額外警告,讓您知道核准它們會授予什麼:

警告 適用於
等同於 shell 存取 Terminal、iTerm、VS Code、Warp 和其他終端機和 IDE
可以讀取或寫入任何檔案 Finder
可以變更系統設定 System Settings

這些應用程式不會被封鎖。警告讓您決定任務是否值得該級別的存取。

Claude 的控制級別也因應用程式類別而異:瀏覽器和交易平台是僅檢視,終端機和 IDE 是僅點擊,其他所有內容都獲得完全控制。請參閱 Desktop 中的應用程式權限以取得完整的層級細目。

Claude 如何在您的螢幕上工作

了解流程有助於您預期 Claude 將執行的操作以及如何進行干預。

一次一個工作階段

Computer use 在活動時持有機器範圍的鎖定。如果另一個 Claude Code 工作階段已在使用您的電腦,新的嘗試會失敗,並顯示一條訊息,告訴您哪個工作階段持有鎖定。先完成或退出該工作階段。

Claude 工作時應用程式被隱藏

當 Claude 開始控制您的螢幕時,其他可見的應用程式會被隱藏,以便 Claude 只與已核准的應用程式互動。您的終端機視窗保持可見並從螢幕截圖中排除,因此您可以觀看工作階段,Claude 永遠看不到自己的輸出。

當 Claude 完成該輪次時,隱藏的應用程式會自動恢復。

螢幕截圖會自動縮小

Claude Code 在將每個螢幕截圖傳送到模型之前會自動縮小它。您不需要降低顯示解析度或在 Retina 或其他高解析度顯示器上調整視窗大小。16 吋 MacBook Pro 以原生 Retina 解析度擷取 3456×2234,並縮小到大約 1372×887,保持寬高比。

沒有設定可以變更目標大小。如果螢幕上的文字或控制項在縮小後對 Claude 來說太小而無法讀取,請增加應用程式中的大小,而不是變更您的顯示解析度。

隨時停止

當 Claude 獲得鎖定時,會出現 macOS 通知:「Claude 正在使用您的電腦 · 按 Esc 停止」。在任何地方按 Esc 立即中止目前操作,或在終端機中按 Ctrl+C。無論哪種方式,Claude 都會釋放鎖定、取消隱藏您的應用程式,並將控制權返回給您。

Claude 完成時會出現第二個通知。

安全性和信任邊界

內建護欄在不需要設定的情況下降低風險:

  • 按應用程式核准:Claude 只能控制您在目前工作階段中已核准的應用程式。
  • 哨兵警告:授予 shell、檔案系統或系統設定存取的應用程式在您核准之前會被標記。
  • 終端機從螢幕截圖中排除:Claude 永遠看不到您的終端機視窗,因此您工作階段中的螢幕上提示無法反饋到模型中。
  • 全域逃脫Esc 鍵可以從任何地方中止 computer use,並且按鍵被消耗,因此提示注入無法使用它來關閉對話框。
  • 鎖定檔案:一次只有一個工作階段可以控制您的機器。

範例工作流程

這些範例顯示將 computer use 與編碼任務結合的常見方式。

驗證原生建置

對 macOS 或 iOS 應用程式進行變更後,讓 Claude 在一次通過中編譯和驗證:

建置 MenuBarStats 目標、啟動它、開啟偏好設定視窗,
並驗證間隔滑塊更新標籤。完成後擷取偏好設定視窗的螢幕截圖。

Claude 執行 xcodebuild、啟動應用程式、與 UI 互動,並報告它發現的內容。

重現版面配置錯誤

當視覺錯誤僅在特定視窗大小出現時,讓 Claude 找到它:

設定模態視窗在狹窄視窗上裁剪其頁尾。調整應用程式
視窗大小直到您可以重現它、擷取裁剪狀態的螢幕截圖,
然後檢查模態容器的 CSS。

Claude 調整視窗大小、擷取損壞的狀態,並讀取相關的樣式表。

測試模擬器流程

無需編寫 XCTest 即可驅動 iOS 模擬器:

開啟 iOS 模擬器、啟動應用程式、點擊上線螢幕,
並告訴我是否有任何螢幕花費超過一秒鐘的時間來載入。

Claude 以您使用滑鼠的方式控制模擬器。

與 Desktop 應用程式的差異

CLI 和 Desktop 表面共享相同的 computer use 引擎,有一些差異:

功能 Desktop CLI
平台 macOS 和 Windows 僅 macOS
啟用 設定 > 一般中的切換(在 Desktop 應用程式下) /mcp 中啟用 computer-use
拒絕的應用程式清單 可在設定中設定 尚不可用
自動取消隱藏切換 可選 始終開啟
Dispatch 整合 Dispatch 生成的工作階段可以使用 computer use 不適用

疑難排解

「Computer use 正在被另一個 Claude 工作階段使用」

另一個 Claude Code 工作階段持有鎖定。完成該工作階段中的任務或退出它。如果另一個工作階段崩潰,當 Claude 偵測到該程序不再執行時,鎖定會自動釋放。

macOS 權限提示不斷重新出現

授予螢幕錄製權限後,macOS 有時需要重新啟動請求程序。完全退出 Claude Code 並啟動新工作階段。如果提示仍然存在,開啟系統設定 > 隱私與安全 > 螢幕錄製並確認您的終端機應用程式已列出並啟用。

`computer-use` 未出現在 `/mcp` 中

伺服器僅在符合條件的設定上出現。檢查:

  • 您在 macOS 上。Computer use 在 CLI 中不適用於 Linux 或 Windows。在 Windows 上,請改用 Desktop 中的 computer use
  • 您執行的是 Claude Code v2.1.85 或更新版本。執行 claude --version 以檢查。
  • 您在 Pro 或 Max 方案上。執行 /status 以確認您的訂閱。
  • 您透過 claude.ai 進行身份驗證。Computer use 不適用於 Amazon Bedrock、Google Cloud Vertex AI 或 Microsoft Foundry 等第三方提供者。如果您完全透過第三方提供者存取 Claude,您需要單獨的 claude.ai 帳戶才能使用此功能。
  • 您在互動式工作階段中。Computer use 在使用 -p 旗標的非互動式模式中不可用。

另請參閱