SpyBara
Go Premium

llm-gateway.md 2026-08-21 22:58 UTC to 2026-08-22 19:01 UTC

No changes for this document in this history range.

2026

Outros gateways LLM

Rotear Claude Code através de um gateway LLM que sua organização já executa. Abrange conectar Claude Code a um gateway, implantar um para sua organização e o que Claude Code envia a um gateway.

Esta seção aborda o uso de um produto gateway que sua organização já executa, em vez de gateway de aplicativos Claude. Para saber o que é um gateway, como ele fica entre Claude Code e seu provedor, e como escolher entre gateway de aplicativos Claude e outro produto, consulte a visão geral de gateway.

Qualquer gateway que exponha um formato de API suportado funciona. Anthropic não endossa, mantém ou audita produtos gateway de terceiros, e não oferece suporte ao roteamento de Claude Code para modelos não-Claude através de nenhum gateway. Implante o gateway seguindo sua própria documentação, depois complete o lado Claude Code com as etapas de rollout abaixo.

O que um gateway fornece

Um gateway oferece à sua organização um único lugar para gerenciar:

  • Credenciais: a chave do provedor fica no lado do servidor; desenvolvedores mantêm credenciais de gateway em vez disso
  • Rastreamento de uso: atribua uso por desenvolvedor ou equipe, independentemente de qual provedor atende a solicitação
  • Controles de custo: aplique orçamentos e limites de taxa em um único lugar
  • Registro de auditoria: registre cada solicitação de modelo para conformidade
  • Alternância de provedor: altere o provedor na configuração do gateway, sem tocar nas máquinas dos desenvolvedores

Todos esses, exceto alternância de provedor, se aplicam se o upstream é a API da Anthropic ou um provedor de nuvem. A alternância de provedor sem reconfigurar máquinas de desenvolvedores também depende do gateway expor um único endpoint em formato Anthropic independentemente do upstream; um gateway que expõe o próprio formato de um provedor vincula a configuração do cliente a esse provedor.

O tradeoff é que o gateway se torna infraestrutura que sua organização opera. Claude Code adiciona capacidades com cada lançamento, e um gateway que não as encaminha quebra os recursos correspondentes, então o produto gateway precisa ser mantido atualizado conforme Claude Code evolui. A referência de protocolo de gateway aborda o que encaminhar.

Implantar um gateway

Quando você estiver pronto para implantar um gateway LLM para sua organização, a sequência é a mesma qualquer que seja o produto gateway que você escolha:

  1. Implante o gateway e dê a ele sua credencial de provedor, para que ele possa autenticar as solicitações que encaminha.
  2. Emita a cada desenvolvedor uma credencial de gateway, para que o uso seja atribuído ao desenvolvedor e o offboarding revogue uma credencial.
  3. Distribua a configuração através de um arquivo de configurações gerenciadas e sua ferramenta de segredos, para que cada máquina receba a URL base e uma credencial. Quando ambos forem distribuídos, os desenvolvedores não configuram nada. Se você não tiver distribuição de configurações em vigor, os desenvolvedores seguem a página de conexão para definir as variáveis eles mesmos.
  4. Faça cada desenvolvedor verificar a configuração no Claude Code, para que problemas de distribuição apareçam antes de dependerem do gateway.

Implantar um gateway LLM para sua organização percorre cada etapa e mostra os arquivos de configuração para distribuir em cada uma. O gateway é uma parte da configuração da organização; para aplicação de política, visibilidade de uso e decisões de tratamento de dados, consulte Configurar Claude Code para sua organização.

Assinaturas e gateways

Enquanto uma variável de credencial de gateway ou apiKeyHelper está ativa, a assinatura claude.ai de um desenvolvedor não é usada: a credencial substitui o login da assinatura para essa sessão, e os limites de uso da assinatura não se aplicam. Esse tráfego é cobrado por token para quem quer que possua a credencial que o gateway encaminha, como sua conta Anthropic Console da organização, ou sua conta Amazon Bedrock, Google Cloud's Agent Platform, ou Microsoft Foundry quando o gateway roteia para lá.

ANTHROPIC_BASE_URL é a variável que aponta Claude Code para o gateway. Definir apenas essa variável, sem uma credencial de gateway, não substitui a assinatura. As solicitações ainda roteiam através do gateway, mas um login claude.ai salvo permanece como a credencial ativa, então seus limites de uso e cobrança se aplicam. Gateways que passam esse tráfego para Anthropic devem encaminhar a capacidade OAuth em anthropic-beta; consulte a referência de cabeçalhos de solicitação.