llm-gateway.md +0 −96 deleted
File Deleted View Diff
1> ## Documentation Index
2> Fetch the complete documentation index at: https://code.claude.com/docs/llms.txt
3> Use this file to discover all available pages before exploring further.
4
5# LLM gateway
6
7> 通过 LLM gateway 路由 Claude Code 以实现集中身份验证、使用情况跟踪和成本控制。涵盖将 Claude Code 连接到网关、为您的组织部署网关、Claude Code 发送到网关的内容,以及网关如何与 claude.ai 订阅交互。
8
9LLM gateway 是您的组织在 Claude Code 和模型提供商之间运行的代理。Claude Code 将 API 流量发送到网关,网关使用您的组织控制的凭证将其转发给提供商。
10
11<Note>
12 * 如果您是连接到现有网关的开发人员:[将 Claude Code 连接到您的网关](/zh-CN/llm-gateway-connect)
13 * 如果您是为组织部署网关的管理员:[部署和分发网关](/zh-CN/llm-gateway-rollout)
14 * 如果您正在配置网关产品:[网关协议参考](/zh-CN/llm-gateway-protocol)
15</Note>
16
17<h2 id="what-a-gateway-provides">
18 网关提供的功能
19</h2>
20
21网关为您的组织提供一个地方来管理:
22
23* **凭证**:提供商密钥保留在服务器端;开发人员改为持有网关凭证
24* **使用情况跟踪**:按开发人员或团队归属使用情况,无论哪个提供商处理请求
25* **成本控制**:在一个地方强制执行预算和速率限制
26* **审计日志**:记录每个模型请求以实现合规性
27* **提供商切换**:在网关配置中更改提供商,无需接触开发人员机器
28
29除了提供商切换外,所有这些都适用于上游是 Anthropic 的 API 还是[云提供商](/zh-CN/third-party-integrations)。
30
31权衡是网关成为您的组织运营的基础设施。Claude Code 在每个版本中添加功能,不转发这些功能的网关会破坏相应的功能,因此网关产品需要随着 Claude Code 的发展而保持更新。[网关协议参考](/zh-CN/llm-gateway-protocol)涵盖要转发的内容。
32
33<h2 id="how-a-gateway-works">
34 网关如何工作
35</h2>
36
37默认情况下,Claude Code 直接向 Anthropic 的 API `api.anthropic.com` 发送请求。要通过网关路由,请将 `ANTHROPIC_BASE_URL` 设置为网关的地址;Claude Code 改为向那里发送相同的请求。网关对开发人员进行身份验证,附加您的组织的提供商凭证,并将每个请求转发给它配置的任何提供商。
38
39`ANTHROPIC_BASE_URL` 是大多数网关的地址变量。面向特定云提供商(如 Bedrock、Vertex、Foundry 或 AWS 上的 Claude Platform)的网关改为使用该提供商的基础 URL 变量;[API 格式](/zh-CN/llm-gateway-protocol#api-formats)列出了哪个变量与每个配置相关联。
40
41<Frame>
42 <img src="https://mintcdn.com/claude-code/-uq-4JE0W_JO5Er5/images/llm-gateway-flow.svg?fit=max&auto=format&n=-uq-4JE0W_JO5Er5&q=85&s=1c1a8dcc0cfcc3a58652cc8e28cd3e20" alt="显示 Claude Code 通过 LLM gateway 路由的图表。在开发人员机器区域中,Claude Code CLI、VS Code 扩展和 CI 或 Agent SDK 客户端向网关发送请求,网关 API 格式的基础 URL 变量指向它,每个开发人员持有每个开发人员的凭证,桌面应用通过组织分发的配置到达相同的网关。在标记为您的基础设施的区域中,LLM gateway 处理身份验证、使用情况跟踪、预算和路由,并使用您的组织的凭证转发请求。在模型提供商区域中,实线箭头指向您配置的提供商,显示为 Anthropic API,虚线箭头指向其他提供商选项,以 Amazon Bedrock、Google Vertex AI 和 Microsoft Foundry 为例。" width="780" height="322" data-path="images/llm-gateway-flow.svg" />
43</Frame>
44
45涉及两种凭证:
46
47* **开发人员凭证**:每个开发人员持有自己的凭证,由网关颁发。它向网关验证他们的身份并在使用情况跟踪中识别他们
48* **提供商凭证**:网关持有一个提供商账户的凭证,由所有转发的流量共享。您不需要为每个开发人员配置提供商密钥
49
50网关将每个请求转发给您配置的提供商,例如 Anthropic API、[Amazon Bedrock](/zh-CN/amazon-bedrock)、[Google Vertex AI](/zh-CN/google-vertex-ai)、[Microsoft Foundry](/zh-CN/microsoft-foundry) 或 [AWS 上的 Claude Platform](/zh-CN/claude-platform-on-aws)。因为 Claude Code 仅与网关通信,提供商选择是网关的配置,而不是客户端的。
51
52<h2 id="roll-out-a-gateway">
53 部署网关
54</h2>
55
56当您准备好为组织部署 LLM gateway 时,无论您选择哪个网关产品,顺序都是相同的:
57
581. 部署网关并给予它您的提供商凭证,以便它可以验证它转发的请求。
592. 为每个开发人员颁发网关凭证,以便使用情况归属于开发人员,离职时撤销一个凭证。
603. 通过[托管设置文件](/zh-CN/settings#settings-files)和您的机密工具分发配置,以便每台机器都接收基础 URL 和凭证。当两者都分发时,开发人员无需配置任何内容。如果您没有设置分发,开发人员按照[连接页面](/zh-CN/llm-gateway-connect)自己设置变量。
614. 让每个开发人员[检查 Claude Code 中的配置](/zh-CN/llm-gateway-connect#check-for-an-existing-configuration),以便分发问题在他们依赖网关之前浮出水面。
62
63[为您的组织部署 LLM gateway](/zh-CN/llm-gateway-rollout) 逐步讲解每个步骤,并显示在每个步骤中分发的配置文件。网关是组织设置的一部分;对于策略强制执行、使用情况可见性和数据处理决策,请参阅[为您的组织设置 Claude Code](/zh-CN/admin-setup)。
64
65<h2 id="third-party-gateways">
66 第三方网关
67</h2>
68
69任何公开[支持的 API 格式](/zh-CN/llm-gateway-protocol#api-formats)的网关都可以工作。Anthropic 不认可、维护或审计第三方网关产品。按照它们自己的文档部署它们,然后使用[部署步骤](/zh-CN/llm-gateway-rollout)完成 Claude Code 端的部署。
70
71<h2 id="subscriptions-and-gateways">
72 订阅和网关
73</h2>
74
75当[网关凭证变量](/zh-CN/llm-gateway-connect#set-the-credential-variable)或 `apiKeyHelper` 处于活动状态时,开发人员的 claude.ai 订阅不被使用:凭证替换该会话的订阅登录,订阅的使用限制不适用。该流量按令牌计费给拥有网关转发的凭证的人,例如您的组织的 Anthropic Console 账户,或当网关路由到那里时您的 Bedrock、Vertex 或 Foundry 账户。
76
77仅设置 `ANTHROPIC_BASE_URL`,不设置网关凭证,不会替换订阅。请求仍然通过网关路由,但保存的 claude.ai 登录保持活动凭证,因此其使用限制和计费适用。将此流量转发给 Anthropic 的网关必须转发 `anthropic-beta` 中的 OAuth 功能;请参阅[请求头参考](/zh-CN/llm-gateway-protocol#request-headers)。
78
79<h2 id="configure-separately-from-the-gateway">
80 与网关分开配置
81</h2>
82
83网关确定模型 API 请求的发送位置。模型选择、Claude Code 的其余网络流量和企业代理分开配置:
84
85* **模型选择**:基础 URL 决定请求的发送位置,而不是哪个模型回答它们。使用 `/model` 命令或模型环境变量选择模型;请参阅[如何设置您的模型](/zh-CN/model-config#setting-your-model)
86* **客户端流量**:版本检查和可选的客户端遥测(都可以用 [`CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC`](/zh-CN/env-vars) 禁用),以及当使用 claude.ai 或 Console 登录时的登录流量,转到 Anthropic 的更新和身份验证端点而不是网关。请参阅[网络访问要求](/zh-CN/network-config#network-access-requirements)了解域名
87* **企业代理**:使用 `HTTPS_PROXY` 设置的代理位于 Claude Code 和它与之通信的每个服务器之间,包括网关。如果您的网络需要代理,请配置两者;请参阅[代理配置](/zh-CN/network-config#proxy-configuration)
88
89<h2 id="related-pages">
90 相关页面
91</h2>
92
93* [将 Claude Code 连接到 LLM gateway](/zh-CN/llm-gateway-connect):在您自己的机器上设置基础 URL 和凭证,具有每个表面的配置和故障排除表
94* [为您的组织部署 LLM gateway](/zh-CN/llm-gateway-rollout):部署网关、颁发开发人员凭证和分发托管设置的管理员检查清单
95* [Gateway 协议参考](/zh-CN/llm-gateway-protocol):Claude Code 发送到网关的内容,供配置网关的运营商使用,涵盖端点、要转发的头和功能传递
96* [为您的组织设置 Claude Code](/zh-CN/admin-setup):网关是其中一部分的更广泛的部署决策,包括策略强制执行和使用情况可见性