Gateways LLM

Rotear Claude Code através de um gateway LLM para autenticação centralizada, rastreamento de uso e controles de custo. Abrange conectar Claude Code a um gateway, implantar um para sua organização, o que Claude Code envia a um gateway e como gateways interagem com assinaturas claude.ai.

Um gateway LLM é um proxy que sua organização executa entre Claude Code e um provedor de modelo. Claude Code envia tráfego de API para o gateway, e o gateway o encaminha para o provedor usando uma credencial que sua organização controla.

O que um gateway fornece

Um gateway oferece à sua organização um único lugar para gerenciar:

• Credenciais: a chave do provedor fica no lado do servidor; desenvolvedores mantêm credenciais de gateway em vez disso
• Rastreamento de uso: atribua uso por desenvolvedor ou equipe, independentemente de qual provedor atende a solicitação
• Controles de custo: aplique orçamentos e limites de taxa em um único lugar
• Registro de auditoria: registre cada solicitação de modelo para conformidade
• Alternância de provedor: altere o provedor na configuração do gateway, sem tocar nas máquinas dos desenvolvedores

Todos esses, exceto alternância de provedor, se aplicam se o upstream é a API da Anthropic ou um provedor de nuvem.

O tradeoff é que o gateway se torna infraestrutura que sua organização opera. Claude Code adiciona capacidades com cada lançamento, e um gateway que não as encaminha quebra os recursos correspondentes, então o produto gateway precisa ser mantido atualizado conforme Claude Code evolui. A referência de protocolo de gateway aborda o que encaminhar.

Como um gateway funciona

Por padrão, Claude Code envia solicitações diretamente para a API da Anthropic em api.anthropic.com. Para rotear através de um gateway, defina ANTHROPIC_BASE_URL para o endereço do gateway; Claude Code envia as mesmas solicitações lá em vez disso. O gateway autentica o desenvolvedor, anexa a credencial do provedor de sua organização e encaminha cada solicitação para qualquer provedor para o qual esteja configurado.

ANTHROPIC_BASE_URL é a variável de endereço para a maioria dos gateways. Um gateway que fronts um provedor de nuvem específico, como Bedrock, Vertex, Foundry ou Claude Platform on AWS, usa a variável de URL base desse provedor em vez disso; Formatos de API lista qual variável vai com cada configuração.

Dois tipos de credencial estão envolvidos:

• Credenciais de desenvolvedor: cada desenvolvedor mantém a sua própria, emitida pelo gateway. Ela os autentica no gateway e os identifica no rastreamento de uso
• Credencial do provedor: o gateway mantém uma credencial para sua conta de provedor, compartilhada por todo o tráfego encaminhado. Você não provisiona chaves de provedor por desenvolvedor

O gateway encaminha cada solicitação para o provedor que você configura, como a API Anthropic, Amazon Bedrock, Google Vertex AI, Microsoft Foundry ou Claude Platform on AWS. Como Claude Code fala apenas com o gateway, a escolha do provedor é a configuração do gateway, não a do cliente.

Implantar um gateway

Quando você estiver pronto para implantar um gateway LLM para sua organização, a sequência é a mesma qualquer que seja o produto gateway que você escolha:

1. Implante o gateway e dê a ele sua credencial de provedor, para que ele possa autenticar as solicitações que encaminha.
2. Emita a cada desenvolvedor uma credencial de gateway, para que o uso seja atribuído ao desenvolvedor e o offboarding revogue uma credencial.
3. Distribua a configuração através de um arquivo de configurações gerenciadas e sua ferramenta de segredos, para que cada máquina receba a URL base e uma credencial. Quando ambos forem distribuídos, os desenvolvedores não configuram nada. Se você não tiver distribuição de configurações em vigor, os desenvolvedores seguem a página de conexão para definir as variáveis eles mesmos.
4. Faça cada desenvolvedor verificar a configuração no Claude Code, para que problemas de distribuição apareçam antes de dependerem do gateway.

Implantar um gateway LLM para sua organização percorre cada passo e mostra os arquivos de configuração para distribuir em cada um. O gateway é uma parte da configuração da organização; para aplicação de política, visibilidade de uso e decisões de tratamento de dados, veja Configurar Claude Code para sua organização.

Gateways de terceiros

Qualquer gateway que exponha um formato de API suportado funciona. Anthropic não endossa, mantém ou audita produtos gateway de terceiros. Implante-os seguindo sua própria documentação, então complete o lado Claude Code do rollout com os passos de rollout.

Assinaturas e gateways

Enquanto uma variável de credencial de gateway ou apiKeyHelper está ativa, a assinatura claude.ai de um desenvolvedor não é usada: a credencial substitui o login da assinatura para essa sessão, e os limites de uso da assinatura não se aplicam. Esse tráfego é cobrado por token para quem quer que possua a credencial que o gateway encaminha, como sua conta Anthropic Console da organização, ou sua conta Bedrock, Vertex ou Foundry quando o gateway roteia para lá.

Definir apenas ANTHROPIC_BASE_URL, sem uma credencial de gateway, não substitui a assinatura. As solicitações ainda roteiam através do gateway, mas um login claude.ai salvo permanece como a credencial ativa, então seus limites de uso e cobrança se aplicam. Gateways que passam esse tráfego para Anthropic devem encaminhar a capacidade OAuth em anthropic-beta; veja a referência de cabeçalhos de solicitação.

Configurar separadamente do gateway

Um gateway determina para onde as solicitações de API de modelo são enviadas. Seleção de modelo, o resto do tráfego de rede do Claude Code e proxies corporativos são configurados separadamente:

• Seleção de modelo: a URL base decide para onde as solicitações vão, não qual modelo as responde. Escolha o modelo com o comando /model ou as variáveis de ambiente de modelo; veja como definir seu modelo
• Tráfego do lado do cliente: verificações de versão e telemetria de cliente opcional, ambas desabilitadas com CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC, e tráfego de login quando um login claude.ai ou Console está em uso, vão para os endpoints de atualização e autenticação da Anthropic em vez do gateway. Veja requisitos de acesso à rede para os domínios
• Proxies corporativos: um proxy definido com HTTPS_PROXY fica entre Claude Code e cada servidor com o qual ele fala, incluindo o gateway. Se sua rede requer um proxy, configure ambos; veja configuração de proxy

Páginas relacionadas

• Conectar Claude Code a um gateway LLM: defina a URL base e credencial em sua própria máquina, com configuração por superfície e uma tabela de solução de problemas
• Implantar um gateway LLM para sua organização: a lista de verificação do administrador para implantar um gateway, emitir credenciais de desenvolvedor e distribuir configurações gerenciadas
• Referência de protocolo de gateway: o que Claude Code envia a um gateway, para operadores configurando um, abrangendo endpoints, cabeçalhos para encaminhar e passagem de recursos
• Configurar Claude Code para sua organização: as decisões de rollout mais amplas das quais um gateway é uma parte, incluindo aplicação de política e visibilidade de uso