SpyBara
Go Premium

llm-gateway.md 2026-10-22 22:58 UTC to 2026-10-23 22:59 UTC

This page contains 18 additions and 18 deletions.

2026
Thu 1 23:59 Tue 20 23:00 Thu 22 22:58 Fri 23 22:59

Outros gateways LLM

Rotear Claude Code através de um gateway LLM que sua organização já executa. Abrange conectar Claude Code a um gateway, implantar um para sua organização e o que Claude Code envia a um gateway.

Esta seção aborda o uso de um produto gateway que sua organização já executa, em vez de gateway de aplicativos Claude. Para saber o que é um gateway, como ele fica entre Claude Code e seu provedor, e como escolher entre gateway de aplicativos Claude e outro produto, consulte a visão geral de gateway.

[!NOTE]

Qualquer gateway que exponha um formato de API suportado funciona. Anthropic não endossa, mantém ou audita produtos gateway de terceiros, e não oferece suporte ao roteamento de Claude Code para modelos não-Claude através de nenhum gateway. Implante o gateway seguindo sua própria documentação, depois complete o lado Claude Code com as etapas de rollout abaixo.

O que um gateway fornece

Um gateway oferece à sua organização um único lugar para gerenciar:

  • Credenciais: a chave do provedor fica no lado do servidor; desenvolvedores mantêm credenciais de gateway em vez disso
  • Rastreamento de uso: atribua uso por desenvolvedor ou equipe, independentemente de qual provedor atende a solicitação
  • Controles de custo: aplique orçamentos e limites de taxa em um único lugar
  • Registro de auditoria: registre cada solicitação de modelo para conformidade
  • Alternância de provedor: altere o provedor na configuração do gateway, sem tocar nas máquinas dos desenvolvedores

Todos esses, exceto alternância de provedor, se aplicam se o upstream é a API da Anthropic ou um provedor de nuvem. A alternância de provedor sem reconfigurar máquinas de desenvolvedores também depende do gateway expor um único endpoint em formato Anthropic independentemente do upstream; um gateway que expõe o próprio formato de um provedor vincula a configuração do cliente a esse provedor e altera o que Claude Code envia e quais padrões ele aplica.

O tradeoff é que o gateway se torna infraestrutura que sua organização opera. Claude Code adiciona capacidades com cada lançamento, e um gateway que não as encaminha quebra os recursos correspondentes, então o produto gateway precisa ser mantido atualizado conforme Claude Code evolui. A referência de protocolo de gateway aborda o que encaminhar.

Implantar um gateway

Quando você estiver pronto para implantar um gateway LLM para sua organização, a sequência é a mesma qualquer que seja o produto gateway que você escolha:

  1. Implante o gateway e dê a ele sua credencial de provedor, para que ele possa autenticar as solicitações que encaminha.
  2. Emita a cada desenvolvedor uma credencial de gateway, para que o uso seja atribuído ao desenvolvedor e o offboarding revogue uma credencial.
  3. Distribua a configuração através de um arquivo de configurações gerenciadas e sua ferramenta de segredos, para que cada máquina receba a URL base e uma credencial. Quando ambos forem distribuídos, os desenvolvedores não configuram nada. Se você não tiver distribuição de configurações em vigor, os desenvolvedores seguem a página de conexão para definir as variáveis eles mesmos.
  4. Faça cada desenvolvedor verificar a configuração no Claude Code, para que problemas de distribuição apareçam antes de dependerem do gateway.

Implantar um gateway LLM para sua organização percorre cada etapa e mostra os arquivos de configuração para distribuir em cada uma. O gateway é uma parte da configuração da organização; para aplicação de política, visibilidade de uso e decisões de tratamento de dados, consulte Configurar Claude Code para sua organização.

Para fazer um gateway alcançado através de ANTHROPIC_BASE_URL o único destino que uma máquina gerenciada pode usar, defina allowedProviders como ["customEndpoint"] no mesmo arquivo de configurações gerenciadas e coloque a ANTHROPIC_BASE_URL do gateway nesse bloco env do arquivo. Claude Code então recusa uma sessão apontada para qualquer outro lugar, incluindo diretamente para Anthropic ou para o próprio proxy de um desenvolvedor, e aceita ANTHROPIC_BASE_URL apenas com o valor que você definir lá. Para um gateway alcançado através de uma variável de endpoint específica do provedor, como ANTHROPIC_BEDROCK_BASE_URL, a entrada allowedProviders diz qual variável fixar. Requer Claude Code v2.1.285 ou posterior.

Assinaturas e gateways

Enquanto uma variável de credencial de gateway ou apiKeyHelper está ativa, as solicitações carregam essa credencial no lugar do login de assinatura claude.ai de um desenvolvedor, e os limites de uso da assinatura não se aplicam a elas. Claude Code mantém um login claude.ai salvo na máquina, mas não o envia com essas solicitações. Esse tráfego é cobrado por token para quem quer que possua a credencial que o gateway encaminha, como sua conta Anthropic Console da organização, ou sua conta Amazon Bedrock, Google Cloud's Agent Platform, ou Microsoft Foundry quando o gateway roteia para lá.

ANTHROPIC_BASE_URL é a variável que aponta Claude Code para o gateway. Definir apenas essa variável, sem uma credencial de gateway, não substitui a assinatura. As solicitações ainda roteiam através do gateway, mas um login claude.ai salvo permanece como a credencial ativa, então seus limites de uso e cobrança se aplicam. Gateways que passam esse tráfego para Anthropic devem encaminhar a capacidade OAuth em anthropic-beta; consulte a referência de cabeçalhos de solicitação.

Páginas relacionadas