SpyBara
Go Premium

llm-gateway.md 2026-07-28 23:57 UTC to 2026-07-29 19:02 UTC

64 added, 0 removed.

2026
Wed 29 19:02 Tue 28 23:57 Mon 27 21:02 Sun 26 19:02 Sat 25 21:59 Fri 24 23:01 Thu 23 23:57 Wed 22 23:59 Tue 21 23:00 Mon 20 23:01 Sat 18 16:02 Fri 17 22:57 Thu 16 22:59 Wed 15 22:00 Tue 14 23:01 Mon 13 23:57 Sat 11 19:03 Fri 10 17:00 Thu 9 23:58 Wed 8 16:02 Tue 7 16:02 Mon 6 23:57 Sat 4 03:01 Fri 3 23:00 Thu 2 23:59 Wed 1 21:01

Outros gateways LLM

Rotear Claude Code através de um gateway LLM que sua organização já executa. Abrange conectar Claude Code a um gateway, implantar um para sua organização e o que Claude Code envia a um gateway.

Esta seção aborda o uso de um produto gateway que sua organização já executa, em vez de gateway de aplicativos Claude. Para saber o que é um gateway, como ele fica entre Claude Code e seu provedor, e como escolher entre gateway de aplicativos Claude e outro produto, consulte a visão geral de gateway.

Qualquer gateway que exponha um formato de API suportado funciona. Anthropic não endossa, mantém ou audita produtos gateway de terceiros, e não oferece suporte ao roteamento de Claude Code para modelos não-Claude através de nenhum gateway. Implante o gateway seguindo sua própria documentação, depois complete o lado Claude Code com as etapas de rollout abaixo.

O que um gateway fornece

Um gateway oferece à sua organização um único lugar para gerenciar:

  • Credenciais: a chave do provedor fica no lado do servidor; desenvolvedores mantêm credenciais de gateway em vez disso
  • Rastreamento de uso: atribua uso por desenvolvedor ou equipe, independentemente de qual provedor atende a solicitação
  • Controles de custo: aplique orçamentos e limites de taxa em um único lugar
  • Registro de auditoria: registre cada solicitação de modelo para conformidade
  • Alternância de provedor: altere o provedor na configuração do gateway, sem tocar nas máquinas dos desenvolvedores

Todos esses, exceto alternância de provedor, se aplicam se o upstream é a API da Anthropic ou um provedor de nuvem. A alternância de provedor sem reconfigurar máquinas de desenvolvedores também depende do gateway expor um único endpoint em formato Anthropic independentemente do upstream; um gateway que expõe o próprio formato de um provedor vincula a configuração do cliente a esse provedor.

O tradeoff é que o gateway se torna infraestrutura que sua organização opera. Claude Code adiciona capacidades com cada lançamento, e um gateway que não as encaminha quebra os recursos correspondentes, então o produto gateway precisa ser mantido atualizado conforme Claude Code evolui. A referência de protocolo de gateway aborda o que encaminhar.

Implantar um gateway

Quando você estiver pronto para implantar um gateway LLM para sua organização, a sequência é a mesma qualquer que seja o produto gateway que você escolha:

  1. Implante o gateway e dê a ele sua credencial de provedor, para que ele possa autenticar as solicitações que encaminha.
  2. Emita a cada desenvolvedor uma credencial de gateway, para que o uso seja atribuído ao desenvolvedor e o offboarding revogue uma credencial.
  3. Distribua a configuração através de um arquivo de configurações gerenciadas e sua ferramenta de segredos, para que cada máquina receba a URL base e uma credencial. Quando ambos forem distribuídos, os desenvolvedores não configuram nada. Se você não tiver distribuição de configurações em vigor, os desenvolvedores seguem a página de conexão para definir as variáveis eles mesmos.
  4. Faça cada desenvolvedor verificar a configuração no Claude Code, para que problemas de distribuição apareçam antes de dependerem do gateway.

Implantar um gateway LLM para sua organização percorre cada etapa e mostra os arquivos de configuração para distribuir em cada uma. O gateway é uma parte da configuração da organização; para aplicação de política, visibilidade de uso e decisões de tratamento de dados, consulte Configurar Claude Code para sua organização.

Assinaturas e gateways

Enquanto uma variável de credencial de gateway ou apiKeyHelper está ativa, a assinatura claude.ai de um desenvolvedor não é usada: a credencial substitui o login da assinatura para essa sessão, e os limites de uso da assinatura não se aplicam. Esse tráfego é cobrado por token para quem quer que possua a credencial que o gateway encaminha, como sua conta Anthropic Console da organização, ou sua conta Amazon Bedrock, Google Cloud's Agent Platform, ou Microsoft Foundry quando o gateway roteia para lá.

ANTHROPIC_BASE_URL é a variável que aponta Claude Code para o gateway. Definir apenas essa variável, sem uma credencial de gateway, não substitui a assinatura. As solicitações ainda roteiam através do gateway, mas um login claude.ai salvo permanece como a credencial ativa, então seus limites de uso e cobrança se aplicam. Gateways que passam esse tráfego para Anthropic devem encaminhar a capacidade OAuth em anthropic-beta; consulte a referência de cabeçalhos de solicitação.