LLM gateway
通过 LLM gateway 路由 Claude Code 以实现集中身份验证、使用情况跟踪和成本控制。涵盖将 Claude Code 连接到网关、为您的组织部署网关、Claude Code 发送到网关的内容,以及网关如何与 claude.ai 订阅交互。
LLM gateway 是您的组织在 Claude Code 和模型提供商之间运行的代理。Claude Code 将 API 流量发送到网关,网关使用您的组织控制的凭证将其转发给提供商。
- 如果您是连接到现有网关的开发人员:将 Claude Code 连接到您的网关
- 如果您是为组织部署网关的管理员:部署和分发网关
- 如果您正在配置网关产品:网关协议参考
网关提供的功能
网关为您的组织提供一个地方来管理:
- 凭证:提供商密钥保留在服务器端;开发人员改为持有网关凭证
- 使用情况跟踪:按开发人员或团队归属使用情况,无论哪个提供商处理请求
- 成本控制:在一个地方强制执行预算和速率限制
- 审计日志:记录每个模型请求以实现合规性
- 提供商切换:在网关配置中更改提供商,无需接触开发人员机器
除了提供商切换外,所有这些都适用于上游是 Anthropic 的 API 还是云提供商。
权衡是网关成为您的组织运营的基础设施。Claude Code 在每个版本中添加功能,不转发这些功能的网关会破坏相应的功能,因此网关产品需要随着 Claude Code 的发展而保持更新。网关协议参考涵盖要转发的内容。
网关如何工作
默认情况下,Claude Code 直接向 Anthropic 的 API api.anthropic.com 发送请求。要通过网关路由,请将 ANTHROPIC_BASE_URL 设置为网关的地址;Claude Code 改为向那里发送相同的请求。网关对开发人员进行身份验证,附加您的组织的提供商凭证,并将每个请求转发给它配置的任何提供商。
ANTHROPIC_BASE_URL 是大多数网关的地址变量。面向特定云提供商(如 Bedrock、Vertex、Foundry 或 AWS 上的 Claude Platform)的网关改为使用该提供商的基础 URL 变量;API 格式列出了哪个变量与每个配置相关联。
涉及两种凭证:
- 开发人员凭证:每个开发人员持有自己的凭证,由网关颁发。它向网关验证他们的身份并在使用情况跟踪中识别他们
- 提供商凭证:网关持有一个提供商账户的凭证,由所有转发的流量共享。您不需要为每个开发人员配置提供商密钥
网关将每个请求转发给您配置的提供商,例如 Anthropic API、Amazon Bedrock、Google Vertex AI、Microsoft Foundry 或 AWS 上的 Claude Platform。因为 Claude Code 仅与网关通信,提供商选择是网关的配置,而不是客户端的。
部署网关
当您准备好为组织部署 LLM gateway 时,无论您选择哪个网关产品,顺序都是相同的:
- 部署网关并给予它您的提供商凭证,以便它可以验证它转发的请求。
- 为每个开发人员颁发网关凭证,以便使用情况归属于开发人员,离职时撤销一个凭证。
- 通过托管设置文件和您的机密工具分发配置,以便每台机器都接收基础 URL 和凭证。当两者都分发时,开发人员无需配置任何内容。如果您没有设置分发,开发人员按照连接页面自己设置变量。
- 让每个开发人员检查 Claude Code 中的配置,以便分发问题在他们依赖网关之前浮出水面。
为您的组织部署 LLM gateway 逐步讲解每个步骤,并显示在每个步骤中分发的配置文件。网关是组织设置的一部分;对于策略强制执行、使用情况可见性和数据处理决策,请参阅为您的组织设置 Claude Code。
第三方网关
任何公开支持的 API 格式的网关都可以工作。Anthropic 不认可、维护或审计第三方网关产品。按照它们自己的文档部署它们,然后使用部署步骤完成 Claude Code 端的部署。
订阅和网关
当网关凭证变量或 apiKeyHelper 处于活动状态时,开发人员的 claude.ai 订阅不被使用:凭证替换该会话的订阅登录,订阅的使用限制不适用。该流量按令牌计费给拥有网关转发的凭证的人,例如您的组织的 Anthropic Console 账户,或当网关路由到那里时您的 Bedrock、Vertex 或 Foundry 账户。
仅设置 ANTHROPIC_BASE_URL,不设置网关凭证,不会替换订阅。请求仍然通过网关路由,但保存的 claude.ai 登录保持活动凭证,因此其使用限制和计费适用。将此流量转发给 Anthropic 的网关必须转发 anthropic-beta 中的 OAuth 功能;请参阅请求头参考。
与网关分开配置
网关确定模型 API 请求的发送位置。模型选择、Claude Code 的其余网络流量和企业代理分开配置:
- 模型选择:基础 URL 决定请求的发送位置,而不是哪个模型回答它们。使用
/model命令或模型环境变量选择模型;请参阅如何设置您的模型 - 客户端流量:版本检查和可选的客户端遥测(都可以用
CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC禁用),以及当使用 claude.ai 或 Console 登录时的登录流量,转到 Anthropic 的更新和身份验证端点而不是网关。请参阅网络访问要求了解域名 - 企业代理:使用
HTTPS_PROXY设置的代理位于 Claude Code 和它与之通信的每个服务器之间,包括网关。如果您的网络需要代理,请配置两者;请参阅代理配置
相关页面
- 将 Claude Code 连接到 LLM gateway:在您自己的机器上设置基础 URL 和凭证,具有每个表面的配置和故障排除表
- 为您的组织部署 LLM gateway:部署网关、颁发开发人员凭证和分发托管设置的管理员检查清单
- Gateway 协议参考:Claude Code 发送到网关的内容,供配置网关的运营商使用,涵盖端点、要转发的头和功能传递
- 为您的组织设置 Claude Code:网关是其中一部分的更广泛的部署决策,包括策略强制执行和使用情况可见性