SpyBara
Go Premium

llm-gateway.md 2026-10-22 22:58 UTC to 2026-10-23 22:59 UTC

This page contains 18 additions and 18 deletions.

2026
Thu 1 23:59 Tue 20 23:00 Thu 22 22:58 Fri 23 22:59

Andere LLM-Gateways

Leiten Sie Claude Code über ein LLM-Gateway weiter, das Ihre Organisation bereits betreibt. Behandelt die Verbindung von Claude Code mit einem Gateway, die Bereitstellung für Ihre Organisation und was Claude Code an ein Gateway sendet.

Dieser Abschnitt behandelt die Verwendung eines Gateway-Produkts, das Ihre Organisation bereits betreibt, anstelle von Claude Apps Gateway. Informationen dazu, was ein Gateway ist, wie es zwischen Claude Code und Ihrem Anbieter sitzt und wie Sie zwischen Claude Apps Gateway und einem anderen Produkt wählen, finden Sie in der Gateway-Übersicht.

[!NOTE]

Jedes Gateway, das ein unterstütztes API-Format bereitstellt, funktioniert. Anthropic befürwortet, wartet oder prüft keine Gateway-Produkte von Drittanbietern und unterstützt nicht das Routing von Claude Code zu Nicht-Claude-Modellen über ein Gateway. Stellen Sie das Gateway nach seiner eigenen Dokumentation bereit und schließen Sie dann die Claude Code-Seite mit den Bereitstellungsschritten unten ab.

Was ein Gateway bietet

Ein Gateway gibt Ihrer Organisation einen Ort zur Verwaltung von:

  • Anmeldedaten: Der Anbieter-Schlüssel bleibt serverseitig; Entwickler halten stattdessen Gateway-Anmeldedaten
  • Nutzungsverfolgung: Attributieren Sie die Nutzung nach Entwickler oder Team, unabhängig davon, welcher Anbieter die Anfrage bedient
  • Kostenkontrollen: Erzwingen Sie Budgets und Ratenlimits an einem Ort
  • Audit-Protokollierung: Protokollieren Sie jede Modellanfrage zur Compliance
  • Anbieter-Wechsel: Ändern Sie den Anbieter in der Gateway-Konfiguration, ohne Entwicklermaschinen zu berühren

Alle diese außer dem Anbieter-Wechsel gelten, ob der Upstream die API von Anthropic oder ein Cloud-Anbieter ist. Der Anbieter-Wechsel ohne Neukonfiguration von Entwicklermaschinen hängt auch davon ab, dass das Gateway einen einzelnen Anthropic-Format-Endpunkt unabhängig vom Upstream bereitstellt. Ein Gateway, das das eigene Format eines Anbieters bereitstellt, bindet die Client-Konfiguration an diesen Anbieter und ändert was Claude Code sendet und welche Standardwerte es anwendet.

Der Kompromiss besteht darin, dass das Gateway zu einer Infrastruktur wird, die Ihre Organisation betreibt. Claude Code fügt mit jeder Version Funktionen hinzu, und ein Gateway, das diese nicht weiterleitet, bricht die entsprechenden Funktionen, daher muss das Gateway-Produkt aktualisiert werden, wenn sich Claude Code entwickelt. Die Gateway-Kompatibilitätsleitfaden behandelt, was weitergeleitet werden soll.

Ein Gateway bereitstellen

Wenn Sie bereit sind, ein LLM-Gateway für Ihre Organisation bereitzustellen, ist die Abfolge gleich, welches Gateway-Produkt Sie auch wählen:

  1. Stellen Sie das Gateway bereit und geben Sie ihm Ihre Anbieter-Anmeldedaten, damit es die Anfragen authentifizieren kann, die es weiterleitet.
  2. Geben Sie jedem Entwickler ein Gateway-Anmeldedaten aus, damit die Nutzung dem Entwickler zugeordnet wird und das Offboarding ein Anmeldedaten widerruft.
  3. Verteilen Sie die Konfiguration über eine verwaltete Einstellungsdatei und Ihre Secrets-Tools, damit jede Maschine die Basis-URL und ein Anmeldedaten erhält. Wenn beide verteilt werden, konfigurieren Entwickler nichts. Wenn Sie keine Einstellungsverteilung haben, folgen Entwickler der Verbindungsseite, um die Variablen selbst zu setzen.
  4. Lassen Sie jeden Entwickler die Konfiguration in Claude Code überprüfen, damit Verteilungsprobleme auftauchen, bevor sie vom Gateway abhängig sind.

Ein LLM-Gateway für Ihre Organisation bereitstellen führt jeden Schritt durch und zeigt die Konfigurationsdateien, die bei jedem verteilt werden sollen. Das Gateway ist ein Teil der Organisationseinrichtung; für Richtliniendurchsetzung, Nutzungssichtbarkeit und Datenbehandlungsentscheidungen siehe Claude Code für Ihre Organisation einrichten.

Um ein Gateway, das über ANTHROPIC_BASE_URL erreichbar ist, zum einzigen Ziel zu machen, das eine verwaltete Maschine verwenden darf, setzen Sie allowedProviders auf ["customEndpoint"] in derselben verwalteten Einstellungsdatei und geben Sie die ANTHROPIC_BASE_URL des Gateways in den env-Block dieser Datei ein. Claude Code lehnt dann eine Sitzung ab, die auf etwas anderes verweist, einschließlich direkt auf Anthropic oder auf den eigenen Proxy eines Entwicklers, und akzeptiert ANTHROPIC_BASE_URL nur mit dem Wert, den Sie dort festgelegt haben. Für ein Gateway, das über eine anbieterspezifische Endpunkt-Variable wie ANTHROPIC_BEDROCK_BASE_URL erreichbar ist, gibt der allowedProviders-Eintrag an, welche Variable zu fixieren ist. Erfordert Claude Code v2.1.285 oder später.

Abonnements und Gateways

Während eine Gateway-Anmeldedaten-Variable oder apiKeyHelper aktiv ist, werden Anfragen mit dieser Anmeldedaten anstelle der claude.ai-Abonnement-Anmeldung eines Entwicklers übermittelt, und die Nutzungslimits des Abonnements gelten nicht für sie. Claude Code speichert eine claude.ai-Anmeldung auf dem Computer, sendet sie aber nicht mit diesen Anfragen. Dieser Datenverkehr wird pro Token dem Besitzer der Anmeldedaten, die das Gateway weiterleitet, wie Ihr Anthropic Console-Konto der Organisation oder Ihr Amazon Bedrock-, Google Cloud Agent Platform- oder Microsoft Foundry-Konto, wenn das Gateway dorthin leitet, in Rechnung gestellt.

ANTHROPIC_BASE_URL ist die Variable, die Claude Code auf das Gateway verweist. Das Setzen nur dieser Variable ohne Gateway-Anmeldedaten ersetzt das Abonnement nicht. Anfragen werden immer noch über das Gateway geleitet, aber eine gespeicherte claude.ai-Anmeldung bleibt das aktive Anmeldedaten, daher gelten seine Nutzungslimits und Abrechnung. Gateways, die diesen Verkehr an Anthropic weitergeben, müssen die OAuth-Fähigkeit in anthropic-beta weiterleiten; siehe die Request-Header-Referenz.

Verwandte Seiten