llm-gateway.md +0 −96 deleted
File Deleted View Diff
1> ## Documentation Index
2> Fetch the complete documentation index at: https://code.claude.com/docs/llms.txt
3> Use this file to discover all available pages before exploring further.
4
5# LLM gateway
6
7> 透過 LLM gateway 路由 Claude Code 以進行集中身份驗證、使用情況追蹤和成本控制。涵蓋將 Claude Code 連接到 gateway、為您的組織推出 gateway、Claude Code 發送到 gateway 的內容，以及 gateway 如何與 claude.ai 訂閱互動。
8
9LLM gateway 是您的組織在 Claude Code 和模型提供商之間運行的代理。Claude Code 將 API 流量發送到 gateway，gateway 使用您的組織控制的憑證將其轉發給提供商。
10
11<Note>
12 * 如果您是連接到現有 gateway 的開發人員：[將 Claude Code 連接到您的 gateway](/zh-TW/llm-gateway-connect)
13 * 如果您是為組織推出 gateway 的管理員：[部署和分發 gateway](/zh-TW/llm-gateway-rollout)
14 * 如果您正在配置 gateway 產品：[gateway 協議參考](/zh-TW/llm-gateway-protocol)
15</Note>
16
17<h2 id="what-a-gateway-provides">
18 gateway 提供的功能
19</h2>
20
21gateway 為您的組織提供一個地方來管理：
22
23* **憑證**：提供商金鑰保留在伺服器端；開發人員改為持有 gateway 憑證
24* **使用情況追蹤**：按開發人員或團隊歸屬使用情況，無論哪個提供商處理請求
25* **成本控制**：在一個地方強制執行預算和速率限制
26* **審計日誌**：記錄每個模型請求以進行合規性檢查
27* **提供商切換**：在 gateway 配置中更改提供商，無需觸及開發人員機器
28
29除了提供商切換外，所有這些都適用於上游是 Anthropic API 還是[雲提供商](/zh-TW/third-party-integrations)。
30
31權衡是 gateway 成為您的組織運營的基礎設施。Claude Code 在每個版本中添加功能，不轉發這些功能的 gateway 會破壞相應的功能，因此 gateway 產品需要隨著 Claude Code 的發展而保持更新。[gateway 協議參考](/zh-TW/llm-gateway-protocol)涵蓋要轉發的內容。
32
33<h2 id="how-a-gateway-works">
34 gateway 如何運作
35</h2>
36
37默認情況下，Claude Code 直接向 Anthropic API 在 `api.anthropic.com` 發送請求。要透過 gateway 路由，請將 `ANTHROPIC_BASE_URL` 設置為 gateway 的地址；Claude Code 改為向那裡發送相同的請求。gateway 對開發人員進行身份驗證，附加您的組織的提供商憑證，並將每個請求轉發給它配置的任何提供商。
38
39`ANTHROPIC_BASE_URL` 是大多數 gateway 的地址變數。面向特定雲提供商（如 Bedrock、Vertex、Foundry 或 AWS 上的 Claude Platform）的 gateway 改為使用該提供商的基本 URL 變數；[API 格式](/zh-TW/llm-gateway-protocol#api-formats)列出哪個變數與每個配置相關聯。
40
41<Frame>
42 <img src="https://mintcdn.com/claude-code/-uq-4JE0W_JO5Er5/images/llm-gateway-flow.svg?fit=max&auto=format&n=-uq-4JE0W_JO5Er5&q=85&s=1c1a8dcc0cfcc3a58652cc8e28cd3e20" alt="顯示 Claude Code 透過 LLM gateway 路由的圖表。在開發人員機器區域中，Claude Code CLI、VS Code 擴展和 CI 或 Agent SDK 客戶端向 gateway 發送請求，gateway API 格式的基本 URL 變數指向它，每個開發人員持有每個開發人員的憑證，桌面應用程式透過組織分發的配置到達相同的 gateway。在標記為您的基礎設施的區域中，LLM gateway 處理身份驗證、使用情況追蹤、預算和路由，並使用您的組織的憑證轉發請求。在模型提供商區域中，實線箭頭指向您配置的提供商（顯示為 Anthropic API），虛線箭頭指向其他提供商選項，以 Amazon Bedrock、Google Vertex AI 和 Microsoft Foundry 為例。" width="780" height="322" data-path="images/llm-gateway-flow.svg" />
43</Frame>
44
45涉及兩種憑證：
46
47* **開發人員憑證**：每個開發人員持有自己的憑證，由 gateway 發行。它對 gateway 進行身份驗證，並在使用情況追蹤中識別他們
48* **提供商憑證**：gateway 為您的提供商帳戶持有一個憑證，由所有轉發的流量共享。您不需要為每個開發人員配置提供商金鑰
49
50gateway 將每個請求轉發給您配置的提供商，例如 Anthropic API、[Amazon Bedrock](/zh-TW/amazon-bedrock)、[Google Vertex AI](/zh-TW/google-vertex-ai)、[Microsoft Foundry](/zh-TW/microsoft-foundry) 或 [AWS 上的 Claude Platform](/zh-TW/claude-platform-on-aws)。因為 Claude Code 只與 gateway 通信，提供商選擇是 gateway 的配置，而不是客戶端的。
51
52<h2 id="roll-out-a-gateway">
53 推出 gateway
54</h2>
55
56當您準備好為組織推出 LLM gateway 時，無論您選擇哪個 gateway 產品，順序都是相同的：
57
581. 部署 gateway 並給予它您的提供商憑證，以便它可以對它轉發的請求進行身份驗證。
592. 為每個開發人員發行 gateway 憑證，以便使用情況歸屬於開發人員，離職時撤銷一個憑證。
603. 透過[受管設定檔](/zh-TW/settings#settings-files)和您的機密工具分發配置，以便每台機器都接收基本 URL 和憑證。當兩者都分發時，開發人員無需配置任何內容。如果您沒有設定分發，開發人員按照[連接頁面](/zh-TW/llm-gateway-connect)自己設置變數。
614. 讓每個開發人員[檢查 Claude Code 中的配置](/zh-TW/llm-gateway-connect#check-for-an-existing-configuration)，以便分發問題在他們依賴 gateway 之前浮出水面。
62
63[為您的組織推出 LLM gateway](/zh-TW/llm-gateway-rollout) 逐步介紹每個步驟，並顯示在每個步驟分發的配置檔案。gateway 是組織設置的一部分；有關政策強制執行、使用情況可見性和資料處理決策，請參閱[為您的組織設置 Claude Code](/zh-TW/admin-setup)。
64
65<h2 id="third-party-gateways">
66 第三方 gateway
67</h2>
68
69任何公開[支持的 API 格式](/zh-TW/llm-gateway-protocol#api-formats)的 gateway 都可以運作。Anthropic 不認可、維護或審計第三方 gateway 產品。按照他們自己的文檔部署它們，然後使用[推出步驟](/zh-TW/llm-gateway-rollout)完成 Claude Code 端的推出。
70
71<h2 id="subscriptions-and-gateways">
72 訂閱和 gateway
73</h2>
74
75當[gateway 憑證變數](/zh-TW/llm-gateway-connect#set-the-credential-variable)或 `apiKeyHelper` 處於活動狀態時，開發人員的 claude.ai 訂閱不被使用：憑證替換該會話的訂閱登錄，訂閱的使用限制不適用。該流量按令牌計費給擁有 gateway 轉發的憑證的人，例如您的組織的 Anthropic Console 帳戶，或當 gateway 路由到那裡時您的 Bedrock、Vertex 或 Foundry 帳戶。
76
77僅設置 `ANTHROPIC_BASE_URL` 而不設置 gateway 憑證不會替換訂閱。請求仍然透過 gateway 路由，但保存的 claude.ai 登錄保持活動憑證，因此其使用限制和計費適用。將此流量轉發給 Anthropic 的 gateway 必須轉發 `anthropic-beta` 中的 OAuth 功能；請參閱[請求標頭參考](/zh-TW/llm-gateway-protocol#request-headers)。
78
79<h2 id="configure-separately-from-the-gateway">
80 與 gateway 分開配置
81</h2>
82
83gateway 決定模型 API 請求的發送位置。模型選擇、Claude Code 的其餘網路流量和公司代理分開配置：
84
85* **模型選擇**：基本 URL 決定請求的發送位置，而不是哪個模型回答它們。使用 `/model` 命令或模型環境變數選擇模型；請參閱[如何設置您的模型](/zh-TW/model-config#setting-your-model)
86* **客戶端流量**：版本檢查和可選客戶端遙測（都使用 [`CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC`](/zh-TW/env-vars) 禁用），以及當使用 claude.ai 或 Console 登錄時的登錄流量，轉到 Anthropic 的更新和身份驗證端點而不是 gateway。有關域，請參閱[網路存取要求](/zh-TW/network-config#network-access-requirements)
87* **公司代理**：使用 `HTTPS_PROXY` 設置的代理位於 Claude Code 和它與之通信的每個伺服器之間，包括 gateway。如果您的網路需要代理，請配置兩者；請參閱[代理配置](/zh-TW/network-config#proxy-configuration)
88
89<h2 id="related-pages">
90 相關頁面
91</h2>
92
93* [將 Claude Code 連接到 LLM gateway](/zh-TW/llm-gateway-connect)：在您自己的機器上設置基本 URL 和憑證，具有每個表面的配置和故障排除表
94* [為您的組織推出 LLM gateway](/zh-TW/llm-gateway-rollout)：部署 gateway、發行開發人員憑證和分發受管設定的管理員檢查清單
95* [Gateway 協議參考](/zh-TW/llm-gateway-protocol)：Claude Code 發送到 gateway 的內容，供配置 gateway 的操作人員使用，涵蓋端點、要轉發的標頭和功能傳遞
96* [為您的組織設置 Claude Code](/zh-TW/admin-setup)：gateway 是其中一部分的更廣泛推出決策，包括政策強制執行和使用情況可見性