SpyBara
Go Premium

llm-gateway.md 2026-10-22 22:58 UTC to 2026-10-23 22:59 UTC

This page contains 18 additions and 18 deletions.

2026
Thu 1 23:59 Tue 20 23:00 Thu 22 22:58 Fri 23 22:59

Gateway LLM altri

Instrada Claude Code attraverso un gateway LLM che la tua organizzazione già esegue. Copre il collegamento di Claude Code a un gateway, il rollout per la tua organizzazione e cosa Claude Code invia a un gateway.

Questa sezione copre l'utilizzo di un prodotto gateway che la tua organizzazione già esegue, piuttosto che gateway di app Claude. Per informazioni su cosa sia un gateway, come si posiziona tra Claude Code e il tuo provider e come scegliere tra gateway di app Claude e un altro prodotto, vedi la panoramica del gateway.

[!NOTE]

Qualsiasi gateway che espone un formato API supportato funziona. Anthropic non approva, mantiene o controlla i prodotti gateway di terze parti e non supporta l'instradamento di Claude Code a modelli non-Claude attraverso alcun gateway. Distribuisci il gateway seguendo la sua documentazione, quindi completa il lato Claude Code con i passaggi di rollout di seguito.

Cosa fornisce un gateway

Un gateway offre alla tua organizzazione un unico posto per gestire:

  • Credenziali: la chiave del provider rimane lato server; gli sviluppatori mantengono invece le credenziali del gateway
  • Tracciamento dell'utilizzo: attribuisci l'utilizzo per sviluppatore o team, indipendentemente da quale provider serve la richiesta
  • Controlli dei costi: applica budget e limiti di velocità in un unico posto
  • Registrazione di audit: registra ogni richiesta di modello per la conformità
  • Cambio di provider: cambia il provider nella configurazione del gateway, senza toccare le macchine degli sviluppatori

Tutti questi, tranne il cambio di provider, si applicano sia che l'upstream sia l'API di Anthropic che un provider cloud. Il cambio di provider senza riconfigurare le macchine degli sviluppatori dipende anche dal gateway che espone un singolo endpoint in formato Anthropic indipendentemente dall'upstream. Un gateway che espone il formato proprio di un provider lega la configurazione del client a quel provider e cambia cosa Claude Code invia e quali impostazioni predefinite applica.

Il compromesso è che il gateway diventa un'infrastruttura che la tua organizzazione gestisce. Claude Code aggiunge funzionalità con ogni rilascio, e un gateway che non le inoltra interrompe le funzionalità corrispondenti, quindi il prodotto gateway deve essere mantenuto aggiornato man mano che Claude Code evolve. La guida di compatibilità del gateway copre cosa inoltrare.

Esegui il rollout di un gateway

Quando sei pronto a eseguire il rollout di un gateway LLM alla tua organizzazione, la sequenza è la stessa indipendentemente dal prodotto gateway che scegli:

  1. Distribuisci il gateway e dagli la tua credenziale del provider, in modo che possa autenticare le richieste che inoltra.
  2. Emetti a ogni sviluppatore una credenziale del gateway, in modo che l'utilizzo sia attribuito allo sviluppatore e l'offboarding revoca una credenziale.
  3. Distribuisci la configurazione attraverso un file di impostazioni gestite e il tuo strumento di segreti, in modo che ogni macchina riceva l'URL di base e una credenziale. Quando entrambi sono distribuiti, gli sviluppatori non configurano nulla. Se non hai la distribuzione delle impostazioni in atto, gli sviluppatori seguono la pagina di connessione per impostare le variabili stessi.
  4. Fai in modo che ogni sviluppatore verifichi la configurazione in Claude Code, in modo che i problemi di distribuzione emergano prima che dipendano dal gateway.

Esegui il rollout di un gateway LLM per la tua organizzazione esamina ogni passaggio e mostra i file di configurazione da distribuire a ogni passaggio. Il gateway è una parte della configurazione dell'organizzazione; per l'applicazione delle politiche, la visibilità dell'utilizzo e le decisioni sulla gestione dei dati, vedi Configura Claude Code per la tua organizzazione.

Per fare in modo che un gateway raggiunto attraverso ANTHROPIC_BASE_URL sia l'unica destinazione che una macchina gestita può utilizzare, imposta allowedProviders a ["customEndpoint"] nello stesso file di impostazioni gestite e inserisci l'ANTHROPIC_BASE_URL del gateway nel blocco env di quel file. Claude Code quindi rifiuta una sessione indirizzata altrove, incluso direttamente ad Anthropic o al proxy personale di uno sviluppatore, e accetta ANTHROPIC_BASE_URL solo con il valore che hai impostato lì. Per un gateway raggiunto attraverso una variabile di endpoint specifica del provider come ANTHROPIC_BEDROCK_BASE_URL, la voce allowedProviders dice quale variabile fissare. Richiede Claude Code v2.1.285 o successivo.

Abbonamenti e gateway

Mentre una variabile di credenziale del gateway o apiKeyHelper è attiva, le richieste portano quella credenziale al posto dell'accesso all'abbonamento claude.ai di uno sviluppatore, e i limiti di utilizzo dell'abbonamento non si applicano a loro. Claude Code mantiene un accesso claude.ai salvato sulla macchina ma non lo invia con quelle richieste. Quel traffico viene fatturato per token a chiunque possieda la credenziale che il gateway inoltra, come l'account Anthropic Console della tua organizzazione, o il tuo account Amazon Bedrock, Google Cloud's Agent Platform, o Microsoft Foundry quando il gateway instrada lì.

ANTHROPIC_BASE_URL è la variabile che punta Claude Code al gateway. Impostare solo quella variabile, senza una credenziale del gateway, non sostituisce l'abbonamento. Le richieste vengono comunque instradate attraverso il gateway, ma un accesso a claude.ai salvato rimane la credenziale attiva, quindi i suoi limiti di utilizzo e la fatturazione si applicano. I gateway che passano questo traffico ad Anthropic devono inoltrare la capacità OAuth in anthropic-beta; vedi il riferimento delle intestazioni della richiesta.

Pagine correlate