Passerelles LLM

Acheminez Claude Code via une passerelle LLM pour l'authentification centralisée, le suivi de l'utilisation et les contrôles des coûts. Couvre la connexion de Claude Code à une passerelle, le déploiement d'une passerelle pour votre organisation, ce que Claude Code envoie à une passerelle et comment les passerelles interagissent avec les abonnements claude.ai.

Une passerelle LLM est un proxy que votre organisation exécute entre Claude Code et un fournisseur de modèles. Claude Code envoie le trafic API à la passerelle, et la passerelle le transfère au fournisseur en utilisant une credential que votre organisation contrôle.

Ce qu'une passerelle fournit

Une passerelle donne à votre organisation un seul endroit pour gérer :

• Credentials : la clé du fournisseur reste côté serveur ; les développeurs détiennent plutôt des credentials de passerelle
• Suivi de l'utilisation : attribuez l'utilisation par développeur ou équipe, quel que soit le fournisseur qui traite la requête
• Contrôles des coûts : appliquez les budgets et les limites de débit en un seul endroit
• Journalisation d'audit : enregistrez chaque requête de modèle pour la conformité
• Changement de fournisseur : changez le fournisseur dans la configuration de la passerelle, sans toucher aux machines des développeurs

Tous ces éléments sauf le changement de fournisseur s'appliquent que le flux amont soit l'API d'Anthropic ou un fournisseur cloud.

Le compromis est que la passerelle devient une infrastructure que votre organisation exploite. Claude Code ajoute des capacités à chaque version, et une passerelle qui ne les transfère pas casse les fonctionnalités correspondantes, donc le produit de passerelle doit être maintenu à jour à mesure que Claude Code évolue. La référence du protocole de passerelle couvre ce qu'il faut transférer.

Comment une passerelle fonctionne

Par défaut, Claude Code envoie les requêtes directement à l'API d'Anthropic à api.anthropic.com. Pour acheminer via une passerelle, définissez ANTHROPIC_BASE_URL à l'adresse de la passerelle ; Claude Code envoie les mêmes requêtes là à la place. La passerelle authentifie le développeur, attache la credential du fournisseur de votre organisation, et transfère chaque requête au fournisseur pour lequel elle est configurée.

ANTHROPIC_BASE_URL est la variable d'adresse pour la plupart des passerelles. Une passerelle qui fait face à un fournisseur cloud spécifique, tel que Bedrock, Vertex, Foundry, ou la Claude Platform sur AWS, utilise plutôt la variable d'URL de base de ce fournisseur ; API formats énumère quelle variable va avec chaque configuration.

Deux types de credential sont impliqués :

• Credentials de développeur : chaque développeur détient la sienne, émise par la passerelle. Elle les authentifie auprès de la passerelle et les identifie dans le suivi de l'utilisation
• Credential du fournisseur : la passerelle détient une credential pour votre compte de fournisseur, partagée par tout le trafic transféré. Vous ne provisionnez pas les clés du fournisseur par développeur

La passerelle transfère chaque requête au fournisseur que vous configurez, tel que l'API Anthropic, Amazon Bedrock, Google Vertex AI, Microsoft Foundry, ou la Claude Platform sur AWS. Parce que Claude Code ne parle qu'à la passerelle, le choix du fournisseur est la configuration de la passerelle, pas celle du client.

Déployer une passerelle

Quand vous êtes prêt à déployer une passerelle LLM pour votre organisation, la séquence est la même quel que soit le produit de passerelle que vous choisissez :

1. Déployez la passerelle et donnez-lui votre credential du fournisseur, afin qu'elle puisse authentifier les requêtes qu'elle transfère.
2. Émettez à chaque développeur une credential de passerelle, afin que l'utilisation soit attribuée au développeur et que l'offboarding révoque une credential.
3. Distribuez la configuration via un fichier de paramètres gérés et votre outillage de secrets, afin que chaque machine reçoive l'URL de base et une credential. Quand les deux sont distribués, les développeurs ne configurent rien. Si vous n'avez pas de distribution de paramètres en place, les développeurs suivent la page de connexion pour définir les variables eux-mêmes.
4. Faites en sorte que chaque développeur vérifie la configuration dans Claude Code, afin que les problèmes de distribution fassent surface avant qu'ils ne dépendent de la passerelle.

Déployez une passerelle LLM pour votre organisation parcourt chaque étape et montre les fichiers de configuration à distribuer à chacune. La passerelle est une partie de la configuration de l'organisation ; pour l'application des politiques, la visibilité de l'utilisation et les décisions de traitement des données, voir Configurez Claude Code pour votre organisation.

Passerelles tierces

Toute passerelle qui expose un format API supporté fonctionne. Anthropic n'approuve pas, ne maintient pas et n'audite pas les produits de passerelle tiers. Déployez-les en suivant leur propre documentation, puis complétez le côté Claude Code du déploiement avec les étapes de déploiement.

Abonnements et passerelles

Tandis qu'une variable de credential de passerelle ou apiKeyHelper est active, l'abonnement claude.ai d'un développeur n'est pas utilisé : la credential remplace la connexion à l'abonnement pour cette session, et les limites d'utilisation de l'abonnement ne s'appliquent pas. Ce trafic est facturé par token à celui qui possède la credential que la passerelle transfère, tel que le compte Anthropic Console de votre organisation, ou votre compte Bedrock, Vertex ou Foundry quand la passerelle achemine là.

Définir uniquement ANTHROPIC_BASE_URL, sans credential de passerelle, ne remplace pas l'abonnement. Les requêtes acheminent toujours via la passerelle, mais une connexion claude.ai sauvegardée reste la credential active, donc ses limites d'utilisation et sa facturation s'appliquent. Les passerelles qui transmettent ce trafic à Anthropic doivent transférer la capacité OAuth dans anthropic-beta ; voir la référence des en-têtes de requête.

Configurer séparément de la passerelle

Une passerelle détermine où les requêtes API du modèle sont envoyées. La sélection du modèle, le reste du trafic réseau de Claude Code et les proxies d'entreprise sont configurés séparément :

• Sélection du modèle : l'URL de base décide où les requêtes vont, pas quel modèle les répond. Choisissez le modèle avec la commande /model ou les variables d'environnement du modèle ; voir comment définir votre modèle
• Trafic côté client : les vérifications de version et la télémétrie client optionnelle, tous deux désactivés avec CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC, et le trafic de connexion quand une connexion claude.ai ou Console est en cours d'utilisation, vont aux points de terminaison de mise à jour et d'authentification d'Anthropic plutôt qu'à la passerelle. Voir exigences d'accès réseau pour les domaines
• Proxies d'entreprise : un proxy défini avec HTTPS_PROXY se situe entre Claude Code et chaque serveur avec lequel il communique, y compris la passerelle. Si votre réseau nécessite un proxy, configurez les deux ; voir configuration du proxy

Pages connexes

• Connectez Claude Code à une passerelle LLM : définissez l'URL de base et la credential sur votre propre machine, avec la configuration par surface et un tableau de dépannage
• Déployez une passerelle LLM pour votre organisation : la liste de contrôle de l'administrateur pour déployer une passerelle, émettre des credentials de développeur et distribuer les paramètres gérés
• Référence du protocole de passerelle : ce que Claude Code envoie à une passerelle, pour les opérateurs en configurant une, couvrant les points de terminaison, les en-têtes à transférer et le passage des fonctionnalités
• Configurez Claude Code pour votre organisation : les décisions de déploiement plus larges dont une passerelle est une partie, y compris l'application des politiques et la visibilité de l'utilisation