SpyBara
Go Premium

llm-gateway-protocol.md 2026-09-11 23:01 UTC to 2026-09-12 03:02 UTC

This page contains 12 additions and 3 deletions.

2026
Wed 9 22:58 Sat 12 03:02 Fri 18 23:58 Tue 22 23:59

Claude Code Gateway-Kompatibilitätsleitfaden

Halten Sie ein LLM-Gateway mit Claude Code kompatibel: die Endpunkte, die es aufruft, die Header und Body-Felder zum Weiterleiten, und was bricht, wenn sie entfernt werden.

Diese Seite dokumentiert die Anfragen, die Claude Code an ein Gateway sendet, einschließlich der Endpunkte, die es aufruft, der Header und Body-Felder, die das Gateway weiterleiten muss, und welche Funktionen nicht mehr funktionieren, wenn dies nicht der Fall ist. Sie ist für Operatoren geschrieben, die ein Gateway-Produkt für die Zusammenarbeit mit Claude Code konfigurieren.

Das Claude-Apps-Gateway, Anthropics selbstgehostetes Gateway, stellt seine eigene Endpunkt-Referenz unter GET /protocol bereit, die die Anmeldung, Inferenz, verwalteten Einstellungen, Modellermittlung und Telemetrie-Endpunkte dieses Gateways abdeckt. Es ist ein separates Dokument von diesem Leitfaden.

Diese Seite behandelt:

Diese Seite verwendet zwei Begriffe für das, was Ihr Gateway mit jedem Header und Body-Feld tut:

  • Unverändert weiterleiten: es Byte-für-Byte an das Upstream weitergeben
  • Verbrauchen: das Gateway kann es zum Routing, zur Zuordnung oder zum Tracing lesen und muss es nicht weiterleiten

Alles, das nicht als unverändert weiterleiten gekennzeichnet ist, können Sie verbrauchen oder ignorieren.

API-Formate

Ein Gateway muss mindestens eines der folgenden API-Formate für Claude Code-Clients bereitstellen. Ein Client wählt ein Format aus und verweist Claude Code auf Ihr Gateway mit den Variablen in der Spalte „Ausgewählt von" der folgenden Tabelle.

Google Cloud's Agent Platform ist Googles Claude-Endpunkt, ehemals Vertex AI; seine Variablennamen behalten die Schreibweise VERTEX.

Format Ausgewählt von Endpunkte Unverändert weiterleiten
Anthropic Messages ANTHROPIC_BASE_URL /v1/messages, /v1/messages/count_tokens (optional) anthropic-beta und anthropic-version Request-Header
Amazon Bedrock InvokeModel ANTHROPIC_BEDROCK_BASE_URL mit CLAUDE_CODE_USE_BEDROCK=1 /model/{model}/invoke, /model/{model}/invoke-with-response-stream, /model/{model}/count-tokens (optional) anthropic_beta und anthropic_version Request-Body-Felder
Google Cloud's Agent Platform rawPredict ANTHROPIC_VERTEX_BASE_URL mit CLAUDE_CODE_USE_VERTEX=1 :rawPredict, :streamRawPredict, count-tokens:rawPredict (optional) anthropic-beta und anthropic-version Request-Header sowie das anthropic_version Request-Body-Feld

Foundry und Claude Platform on AWS

Microsoft Foundry und die Claude Platform on AWS implementieren das Anthropic Messages-Format. Claude Code leitet sie über ihre eigenen Variablen weiter, ANTHROPIC_FOUNDRY_BASE_URL und ANTHROPIC_AWS_BASE_URL, aber ein Gateway, das eines von beiden frontet, implementiert die Anthropic Messages-Zeile oben. Ein Gateway, das die Claude Platform on AWS frontet, muss auch den anthropic-workspace-id-Header weiterleiten, den diese Plattform bei jeder Anfrage benötigt.

Optionale Endpunkte und Startup-Traffic

Token-Counting-Endpunkte sind die einzigen optionalen: Wenn sie fehlen, greift Claude Code auf eine zeichenbasierte Schätzung der Kontextnutzung zurück.

Gleichen Sie auf dem Pfad ab, nicht auf der vollständigen URL:

  • Inferenzanfragen werden an /v1/messages?beta=true gesendet
  • Die Google Cloud's Agent Platform-Methode hängt Suffixe an den Publisher-Modellpfad an, wie in /projects/{project}/locations/{location}/publishers/anthropic/models/{model}:streamRawPredict

Ein Gateway sieht auch Best-Effort-Startup-Traffic, den es ablehnen kann, ohne etwas zu unterbrechen. Ein Anthropic Messages-Format-Gateway empfängt eine HEAD /api/hello Verbindungs-Aufwärm-Sonde, die Claude Code überspringt, wenn ein HTTP-Proxy oder Client-Zertifikat konfiguriert ist. Ein Amazon Bedrock-Format-Gateway empfängt eine GET /inference-profiles?type=SYSTEM_DEFINED Anfrage und, wenn das konfigurierte Modell ein Inferenzprofil ist, GET /inference-profiles/{profile} Lookups.

Die Fast-Mode Verfügbarkeitsprüfung erscheint niemals in Gateway-Protokollen: Sie ruft api.anthropic.com direkt auf, anstatt ANTHROPIC_BASE_URL zu folgen, daher kann auf einem Netzwerk, das direkten Ausgang zu api.anthropic.com blockiert, Fast Mode einen Konnektivitätsfehler melden, während Inferenz durch das Gateway weiterhin funktioniert. Die WebFetch-Domänensicherheitsprüfung ruft auch api.anthropic.com direkt auf. Verwenden Sie Fast Mode hinter Proxys und LLM-Gateways behandelt die Variablen, die es wiederherstellen.

Streaming

Streamen Sie Inferenzantworten. Claude Code liest den Stream, während er ankommt, daher stellt ein Gateway, das vollständige Antworten puffert, bevor es sie weiterleitet, Claude Code still.

Wenn der Client das Amazon Bedrock-Format spricht, leiten Sie den InvokeModelWithResponseStream Response-Body und seinen Content-Type: application/vnd.amazon.eventstream Header unverändert weiter, und konvertieren Sie den Stream nicht in Server-Sent Events. Siehe Streaming-Fehler hinter einem Gateway oder Proxy.

Leiten Sie auch Keep-Alive-Pings weiter. Bei Verbindungen über ANTHROPIC_BASE_URL oder ANTHROPIC_AWS_BASE_URL zählt Claude Code jedes Byte, das Ihr Gateway weiterleitet, einschließlich SSE ping Events und Kommentarzeilen, und bricht einen Stream ab, der standardmäßig 300 Sekunden lang stumm ist. Die Pings des Upstream sind der einzige Traffic während langer Denkpausen, daher bricht Claude Code den Stream ab, wenn Ihr Gateway sie entfernt oder puffert, während dieser Pausen; Automatische Wiederholungen behandelt, was ein abgebrochener Stream basierend darauf meldet, wie weit die Antwort fortgeschritten war. Ein Upstream, der überhaupt keine Pings sendet, wie Amazon Bedrock's binärer Event-Stream, hinterlässt diese Pausen ohne etwas zum Weiterleiten. Beim Übersetzen von einem solchen Upstream geben Sie Ihre eigenen ping Events während stiller Lücken aus. Gateways, die über ANTHROPIC_BEDROCK_BASE_URL, ANTHROPIC_VERTEX_BASE_URL oder ANTHROPIC_FOUNDRY_BASE_URL erreichbar sind, werden nicht von diesem Byte-Level-Watchdog umhüllt, auch wenn sie das Anthropic Messages-Format weiterleiten; dort bricht ein 5-Minuten-Idle-Timeout einen stummen Stream statt ab, und bei ANTHROPIC_BEDROCK_BASE_URL Verbindungen können Sie den Byte-Watchdog mit CLAUDE_ENABLE_BYTE_WATCHDOG_BEDROCK hinzufügen.

Format-Mismatch mit dem Upstream

Welches Format der Client spricht, bestimmt, was Ihr Gateway empfängt. Der häufige Fehlermodus ist ein Mismatch zwischen dem Format, das der Client an Ihr Gateway sendet, und dem Format, das der Upstream-Provider dahinter akzeptiert.

  • Wenn der Client das Amazon Bedrock- oder Google Cloud's Agent Platform-Format spricht, sendet Claude Code nur die Teilmenge seiner vollständigen Funktionsmenge, die diese Provider akzeptieren
  • Wenn der Client das Anthropic Messages-Format spricht, sendet Claude Code die vollständige Menge, auch wenn Ihr Gateway an ein Amazon Bedrock- oder Google Cloud's Agent Platform-Upstream weiterleitet

Diese Differenz zu überbrücken ist die Aufgabe Ihres Gateways. Funktionsdurchleitung beschreibt, was bricht, wenn dies nicht der Fall ist.

Request-Header

Claude Code enthält diese Header bei API-Anfragen. Header-Namen sind auf dem Draht case-insensitiv. Leiten Sie anthropic-version und anthropic-beta unverändert weiter, plus anthropic-workspace-id, wenn das Upstream die Claude Platform on AWS ist; der Rest kann vom Gateway zum Routing, zur Zuordnung und zum Tracing verbraucht werden und muss nicht weitergeleitet werden.

Header Beschreibung
Authorization, x-api-key Die Gateway-Anmeldedaten des Entwicklers, in einem oder beiden Headern, je nachdem, welche Anmeldedaten-Variable sie setzen
anthropic-version API-Version, derzeit 2023-06-01. Amazon Bedrock- und Google Cloud Agent Platform-Format-Anfragen enthalten auch das anthropic_version Body-Feld, dessen Wert die Provider-Dialekt-Zeichenkette ist, nicht der Wert dieses Headers
anthropic-beta Komma-getrennte Funktionswerte für die Anfrage. Leiten Sie den Header wörtlich weiter; erstellen Sie keine Allowlist einzelner Werte, da sich die Menge mit Claude Code-Versionen ändert. Wenn sich der Entwickler mit einer claude.ai-Anmeldung authentifiziert, was möglich ist, wenn ANTHROPIC_BASE_URL ohne eine Gateway-Anmeldedaten-Variable gesetzt ist, trägt dieser Header auch eine OAuth-Funktion, die das Upstream benötigt, und das Löschen führt zu 401 Fehlern bei diesen Anfragen
x-claude-code-session-id Ein eindeutiger Bezeichner für die aktuelle Claude Code-Sitzung. Verwenden Sie ihn, um alle Anfragen aus einer Sitzung zu aggregieren, ohne Request-Bodies zu analysieren
x-claude-code-agent-id Bezeichner des Subagenten, der die Anfrage gestellt hat, vorhanden nur bei Anfragen von einem Agenten, den Claude Code in der Sitzung spawnt. Verwenden Sie ihn mit der Sitzungs-ID, um Kosten parallelen Agenten zuzuordnen
x-claude-code-parent-agent-id Bezeichner des Agenten, der den anfragenden Agenten spawnt, vorhanden nur für verschachtelte Agenten

Subagenten-IDs werden bei jedem Spawn neu generiert. Teamkollegen-Agenten, die benannten Mitglieder eines Agenten-Teams, verwenden eine stabile namensbasierte ID über Wiederverbindungen hinweg. In beiden Fällen identifiziert die ID einen Agenten, keine Person oder ein Gerät, daher behandeln Sie den Agenten-ID-Header nicht als Benutzerkennung.

Wenn Ihre Entwickler ANTHROPIC_CUSTOM_HEADERS setzen, erscheinen diese Header auch bei Anfragen.

Weiterleitung als offene Listen

Behandeln Sie die Header und Body-Felder als offene Listen, nicht als geschlossene. Claude Code gewinnt Funktionen über Versionen hinweg, und sie kommen als neue anthropic-beta Werte, neue Request-Body-Felder und gelegentlich neue anthropic-* oder x-claude-code-* Header an.

Beim Weiterleiten an ein Anthropic-Format-Upstream leiten Sie anthropic-* Request-Header und Request-Body-Felder unverändert durch, anstatt die heute beobachteten zu allowlisten. Ein Gateway, das an eine beobachtete Liste gepinnt ist, löscht den Header oder das Feld der nächsten Funktion und bricht es bei der Veröffentlichung, die es einführt.

Die Ausnahme ist ein Nicht-Anthropic-Upstream wie Amazon Bedrock oder Google Cloud Agent Platform, wo die Überbrückung der Schemadifferenz die Aufgabe des Gateways ist; siehe Funktionsdurchleitung.

System-Prompt-Attributionsblock

Claude Code stellt einen kurzen Attributionsblock dem System-Prompt voran, der die Client-Version und einen Fingerabdruck aus dem Gespräch enthält. Der api.anthropic.com Endpunkt löscht den Block vor der Verarbeitung, wenn er unverändert als erster System-Block ankommt, daher beeinflusst er nicht das First-Party-Prompt-Caching. Jedes andere Upstream empfängt ihn als Teil des Prompts.

Das Löschen ist positionsbezogen, daher funktioniert es nur, wenn das Gateway das system Array unverändert weiterleitet. Um den Block aus dem Prompt zu halten, ohne andere System-Inhalte zu verlieren:

  • Leiten Sie das system Array genau wie empfangen weiter, wobei Sie den Block an erster Stelle halten: Das Voranstellen eines weiteren System-Blocks, das Neuordnen des Arrays oder das Konvertieren in einen einzelnen String besiegt das Löschen, und der Block erreicht dann das Modell und den Prompt-Cache-Schlüssel.
  • Halten Sie den Block in seinem eigenen Array-Eintrag: Der Endpunkt behandelt einen zusammengeführten Block, der mit dem Attributions-Header beginnt, als Attribution in ihrer Gesamtheit und löscht alles, das darin zusammengeführt wurde, einschließlich des restlichen System-Prompts.
  • Wenn Ihr Gateway System-Inhalte umgestalten muss, setzen Sie CLAUDE_CODE_ATTRIBUTION_HEADER=0, damit Claude Code den Block auslässt. Anthropic und die Claude-Endpunkte der Cloud-Provider lesen den Block zur Zuordnung, daher lassen Sie ihn auf der Client-Seite aus, anstatt ihn im Gateway zu löschen oder zu verschieben.

Die Variable existiert für Gateway- und Third-Party-Caching-Kompatibilität, nicht als Datenschutzkontrolle: Bei einer direkten Verbindung geht die vollständige Anfrage ohnehin an die Anthropic API. Wenn beide dieser Bedingungen erfüllt sind, behält Claude Code den Block bei Auto-Modus Klassifizierungsanfragen bei, auch wenn Sie die Variable auf 0 setzen:

  • Die Anfragen gehen an api.anthropic.com, wobei ANTHROPIC_BASE_URL nicht gesetzt ist oder diesen Host benennt und kein Third-Party-Provider ausgewählt ist.
  • Die aktive Anmeldedaten sind keine Anthropic-Profile oder Verbundsanmeldedaten.

Klassifizierungsanfragen überspringen den Rest des System-Prompts von Claude Code, daher ist der Block bei diesen Anfragen der einzige Marker im Request-Body, der sie als Claude Code Traffic identifiziert. Wenn eine der Bedingungen fehlschlägt, über ein LLM-Gateway, bei einem Third-Party-Provider oder mit aktiven Profile- oder Verbundsanmeldedaten, entfernt das Setzen von 0 den Block auch aus Klassifizierungsanfragen. Vor v2.1.229 existierte diese Ausnahme nicht: Das Setzen von 0 entfernte den Block aus diesen Klassifizierungsanfragen, und wenn die API die nicht identifizierten Anfragen ablehnte, schlug der Auto-Modus bei jeder Aktion fehl, die er an den Klassifizierer sendete.

Ab Claude Code v2.1.181 ist der Block für die Lebensdauer eines Gesprächs stabil, wenn Anfragen durch eine benutzerdefinierte Basis-URL geleitet werden, daher funktioniert ein Gateway-seitiger Prompt-Cache, der auf dem vollständigen Request-Body basiert, ohne ihn zu deaktivieren, und jeder Provider, an den Ihr Gateway Anfragen weiterleitet, empfängt ein stabiles Prompt-Präfix. Vor v2.1.181 enthielt der Block ein Pro-Request-Token, das den Anfang des System-Prompts bei jeder Anfrage änderte. Bei diesen Versionen setzen Sie CLAUDE_CODE_ATTRIBUTION_HEADER=0, wenn Ihr Gateway eines der folgenden Dinge tut:

  • Implementiert einen Prompt-Cache, der auf dem Request-Body basiert.
  • Leitet Anfragen an einen Third-Party-Provider wie Amazon Bedrock, Microsoft Foundry oder Google Cloud's Agent Platform weiter, im Anthropic Messages Format oder im eigenen Format des Providers, wobei das sich ändernde Präfix die Prompt-Cache-Wiederverwendung bei diesem Provider reduziert.

Funktionsdurchleitung

Claude Code behandelt ein ANTHROPIC_BASE_URL Gateway als einen Anthropic-Format-Endpunkt und sendet ihm die Beta-Header und Request-Body-Felder, die es an api.anthropic.com sendet, außer einer kleinen Menge von Diagnosen und Standardwerten, die für direkte Verbindungen reserviert sind, wie z. B. der unten behandelte Fine-Grained-Tool-Streaming-Standard. Diese Menge variiert je nach Version, daher verlassen Sie sich nicht auf ihren Inhalt.

Funktionen, die Body-Felder hinzufügen, paaren sie mit einem Beta-Header, und das Paar reist zusammen. Ein Gateway, das den Header löscht, während es den Body durchleitet, oder ein Anthropic-Format-Body an ein Upstream mit einem anderen Schema weiterleitet, erzeugt harte 400 Fehler; nur wenn beide Hälften zusammen fehlen, schaltet sich die Funktion stillschweigend aus. Ein Gateway, das Request-Bodies zur Inhaltsüberprüfung umschreibt oder redigiert, bricht die Paarung auf die gleiche Weise wie das Löschen, daher überprüfen Sie ohne Änderung. Die Tabelle vermerkt, wo eine Funktion von der Paarung abweicht.

Fine-Grained Tool Streaming ist einer der Direct-Connection-Standardwerte: Es ist standardmäßig aus, wenn Anfragen durch eine benutzerdefinierte Basis-URL geleitet werden, und ein Gateway empfängt es, wenn Entwickler CLAUDE_CODE_ENABLE_FINE_GRAINED_TOOL_STREAMING=1 setzen.

Funktion Header und Body-Paar Symptom bei Fehler Abhilfe
Adaptive Reasoning Kein Beta-Header. Claude Code sendet thinking: {"type": "adaptive"} für Claude 4.6 und später und behandelt Modellnamen, die es nicht erkennt, wie Gateway-Aliase, als aktuelle Modelle, die das Feld erhalten 400 mit Nennung des thinking Feldes oder des adaptive Tags, wenn der Upstream-Modell-Build es nicht akzeptiert Aktualisieren Sie das Upstream. Auf Opus 4.6 und Sonnet 4.6 können Entwickler stattdessen CLAUDE_CODE_DISABLE_ADAPTIVE_THINKING=1 setzen
Kontextverwaltung Kontextverwaltungs-Beta-Header paart sich mit dem context_management Body-Feld 400 mit Extra inputs are not permitted. Häufig, wenn ein Gateway Anthropic-Format-Anfragen akzeptiert, aber an Amazon Bedrock weiterleitet Leiten Sie beide weiter, oder CLAUDE_CODE_DISABLE_EXPERIMENTAL_BETAS=1
Erweiterter Kontext und verschachteltes Denken Nur Beta-Header, kein Body-Feld Stillschweigend nicht verfügbar, wenn der Header gelöscht wird; das Upstream sieht die Funktionsanfrage nie Leiten Sie anthropic-beta wörtlich weiter
Beta Tool-Felder Tool-bezogene Beta-Header paaren sich mit Tool-Schema-Feldern wie strict und defer_loading 400 mit Nennung des nicht erkannten Tool-Schema-Feldes, wenn der Body ohne seinen Header durchgeht Leiten Sie beide weiter, oder CLAUDE_CODE_DISABLE_EXPERIMENTAL_BETAS=1
Aufwand und strukturierte Ausgaben Das output_config Body-Feld trägt Aufwand, strukturierte Ausgabeformat und Task-Budget-Einstellungen; jedes paart sich mit seinem eigenen Beta-Header 400 mit Nennung von output_config, oft Extra inputs are not permitted, auf Bedrock- und Agent-Platform-Upstreams Leiten Sie das Feld und seine Header zusammen weiter
Prompt Caching Keine Beta-Paarung. Claude Code fügt cache_control Marker an system Blöcke und an messages Einträge an, einschließlich role: "system" Einträge, die mid-conversation angehängt werden Kein Fehler: das Gespräch wird bei jedem Turn als unkacherter Input abgerechnet, sichtbar als hohe input_tokens mit wenig oder keiner Cache-Aktivität in usage Leiten Sie cache_control unverändert weiter, wo immer es erscheint, und konvertieren Sie nicht Block-Form system oder Message-Inhalte in einfache Strings
Token Counting Keine Beta-Paarung; verwendet den count_tokens Endpunkt Kein Fehler: Claude Code fällt auf eine zeichenbasierte Schätzung zurück, daher zeigt /context ungefähre Zählungen Stellen Sie den Endpunkt für genaue Token-Zählungen bereit

Die ANTHROPIC_DEFAULT_*_MODEL_SUPPORTED_CAPABILITIES Variablen deklarieren Modellkapazitäten nur in den Provider-Konfigurationen: CLAUDE_CODE_USE_BEDROCK, CLAUDE_CODE_USE_VERTEX, CLAUDE_CODE_USE_FOUNDRY und CLAUDE_CODE_USE_MANTLE. Sie haben keine Auswirkung hinter einem ANTHROPIC_BASE_URL Gateway.

Automatische Wiederholung und Fehlerweiterleitung

Was Claude Code nach einer Upstream-Ablehnung tut, hängt davon ab, was abgelehnt wurde:

  • Wenn das Upstream das thinking Feld, eine Mid-Conversation-Systemnachricht oder den cache_control Marker auf einer solchen Nachricht ablehnt, versucht Claude Code die Anfrage erneut und deaktiviert die abgelehnte Funktion für den Rest des Gesprächs
  • Wenn das Upstream eine Thinking-Signatur ablehnt, versucht Claude Code die Anfrage ohne die früheren Thinking-Blöcke des Gesprächs erneut und hält sie aus jeder späteren Anfrage heraus. Neue Antworten enthalten immer noch Thinking
  • Claude Code versucht Ablehnungen von Kontextverwaltungs- oder Tool-Schema-Feldern nicht erneut, daher erreichen diese 400 Fehler den Entwickler

Die Wiederholungslogik gleicht die Fehlerformulierung des Upstreams ab, daher leiten Sie Fehler-Response-Bodies unverändert weiter. Ein Gateway, das Upstream-Fehler in seine eigene Hülle einwickelt, bricht den Wiederherstellungspfad, auch wenn es den Statuscode beibehält, es sei denn, die Nachricht der Hülle trägt ein stabiles capability_rejected: Token. Claude Apps Gateway ersetzt diese Tokens für Cloud-Provider-Fehlerformulierungen, zum Beispiel capability_rejected: prompt_too_long.

Deaktivieren Sie Pre-Release-Funktionen

CLAUDE_CODE_DISABLE_EXPERIMENTAL_BETAS=1 stoppt Claude Code vom Senden von Pre-Release-Funktionen und ihren Body-Feldern auf jedem Provider, einschließlich Kontextverwaltung und der Beta-Tool-Felder. Die Variable beeinflusst nicht adaptive Reasoning, das nach Modell ausgewählt wird, nicht nach Beta. Sie unterdrückt nie die OAuth-Funktion, die die Abonnement-Authentifizierung benötigt.

Auf Claude Code v2.1.227 oder später kann Ihre Organisation MCP Tool-Suche unter dieser Variable durch verwaltete Einstellungen aktiviert halten. Was Claude Code mit dieser Außerkraftsetzung sendet, hängt davon ab, wie Sie sich verbinden:

  • Bei einer direkten Verbindung oder durch ein Gateway mit ANTHROPIC_BASE_URL sendet Claude Code weiterhin den Tool-Search-Beta-Header, defer_loading Tool-Felder und tool_reference Blöcke und entfernt den Rest
  • Bei einem Cloud-Provider oder angemeldet durch ein Claude Apps Gateway, hat die Außerkraftsetzung keine Auswirkung

Die Menge der Funktionen, die Claude Code sendet, wächst über Versionen. Für aktuelle Beta-Header-Zeichenketten siehe die Beta-Headers-Referenz; testen Sie Ihr Gateway gegen neue Claude Code-Versionen, anstatt an eine beobachtete Liste zu pinnen.

Modellermittlung

Wenn ANTHROPIC_BASE_URL auf ein Gateway verweist, das das Anthropic Messages-Format bereitstellt, kann Claude Code beim Startup den /v1/models Endpunkt des Gateways abfragen und die zurückgegebenen Modelle zur /model Auswahl hinzufügen. Wenn Sie oder Ihr Administrator replaceBuiltInOptions in einer modelPicker Konfiguration setzen, blendet Claude Code die ermittelten Modelle aus der Auswahl aus.

Entwickler aktivieren dies durch Setzen von CLAUDE_CODE_ENABLE_GATEWAY_MODEL_DISCOVERY=1, in ihrer eigenen Umgebung oder durch verwaltete Einstellungen. Die Ermittlung ist standardmäßig aus, damit Gateways, die von einem gemeinsamen API-Schlüssel unterstützt werden, nicht jedes Modell, auf das der Schlüssel zugreifen kann, jedem Benutzer anzeigen.

Wenn die Ermittlung läuft

Die Ermittlung gilt nur für das Anthropic Messages-Format. Sie läuft nicht, wenn:

  • Eine beliebige CLAUDE_CODE_USE_* Provider-Variable gesetzt ist, auch wenn ANTHROPIC_BASE_URL auch gesetzt ist
  • ANTHROPIC_BASE_URL nicht gesetzt ist oder auf api.anthropic.com verweist

Die Ermittlung läuft weiterhin, wenn nicht wesentlicher Traffic deaktiviert ist, da die Anfrage nur an Ihr Gateway geht. Vor v2.1.257 lief die Ermittlung nicht, während nicht wesentlicher Traffic deaktiviert war.

Request und Response

Die Anfrage ist GET /v1/models?limit=1000 mit einem 3-Sekunden-Timeout, und jede Umleitung wird als Fehler behandelt, daher können die Anmeldedaten nicht an ein Umleitungsziel durchsickern. Ein Gateway, das langsam antwortet oder /v1/models umleitet, auch http zu https, schlägt die Ermittlung stillschweigend fehl; stellen Sie den Endpunkt direkt unter der konfigurierten Basis-URL bereit.

Claude Code sendet die Ermittlungsanfrage mit beiden Anmeldedaten-Headern unten und lässt einen Header weg, dessen Wert sich nicht auflöst. Das Senden beider Header erfordert Claude Code v2.1.248 oder später. Frühere Versionen senden nur Authorization, wenn ANTHROPIC_AUTH_TOKEN gesetzt ist, und nur x-api-key andernfalls.

  • Authorization: ANTHROPIC_AUTH_TOKEN als Bearer-Token, andernfalls der apiKeyHelper Wert als Bearer-Token. In diesem Fall wartet Claude Code, bis der Helper zurückkommt, bevor die Anfrage gesendet wird.
  • x-api-key: der API-Schlüssel, den Claude Code aufgelöst hat, wie ANTHROPIC_API_KEY. Wenn ein Helper-Wert die einzige Anmeldedaten ist, trägt dieser Header ihn auch, daher kommt der Wert in beiden Headern an.

Claude Code sendet auch alle Header von ANTHROPIC_CUSTOM_HEADERS. Wenn ein benutzerdefinierter Header einen nicht leeren Wert hat, sendet Claude Code ihn anstelle eines eingebauten Headers mit demselben Namen, wobei die Namen Groß- und Kleinschreibung ignoriert werden.

Wenn sich der Wert keines Anmeldedaten-Headers auflöst, überspringt Claude Code die Ermittlung und schreibt eine [gatewayDiscovery] skipped Zeile in das Debug-Protokoll einer claude --debug Sitzung. Wenn Sie eine Anmeldedaten nur über ANTHROPIC_CUSTOM_HEADERS bereitstellen, überspringt Claude Code weiterhin die Ermittlung.

Claude Code liest id, den optionalen display_name und die optionale description aus jedem Eintrag im data Array der Response:

{
  "data": [
    {
      "id": "claude-sonnet-4-6",
      "display_name": "Claude Sonnet 4.6",
      "description": "Default model for everyday coding tasks"
    },
    { "id": "claude-opus-4-8" }
  ]
}

Claude Code behält einen Eintrag, wenn sein id claude oder anthropic irgendwo in der Zeichenkette enthält, wobei Groß- und Kleinschreibung ignoriert wird, und ignoriert den Rest. Provider-Präfix-IDs wie vertex_ai/claude-sonnet-4-6 oder bedrock/anthropic.claude-sonnet-4-5 bestehen den Filter; eine ID, die keine der beiden Teilzeichenketten enthält, nicht. Vor v2.1.223 behielt Claude Code einen Eintrag nur, wenn sein id mit claude oder anthropic begann, was Provider-Präfix-IDs verbarg.

Auswahl-Einträge und Caching

Die Auswahl ist die interaktive Modelliste, die sich öffnet, wenn ein Entwickler /model in Claude Code ausführt. Jeder ermittelte Eintrag verwendet display_name als seinen Namen, wenn das Gateway einen sendet, der sich vom id unterscheidet. Andernfalls zeigt der Eintrag den Namen des Modells, wenn Claude Code die id erkennt, und die id, wenn nicht. Zum Beispiel erscheint ein Eintrag mit der id my-gateway-claude-sonnet-4-6 und ohne display_name als Sonnet 4.6.

Die Ermittlung fügt nur Modelle hinzu, die die availableModels verwaltete Einstellung erlaubt.

Jeder Eintrag zeigt auch die description des Modells, auf eine Zeile zusammengefasst. Ein Eintrag ohne description liest stattdessen „From gateway". Vor v2.1.257 las jeder ermittelte Eintrag „From gateway".

Eine ermittelte ID erhält keine eigene Zeile, wenn sie einer Zeile in der Auswahl bereits entspricht:

  • Gleiche ID: die ermittelte ID entspricht genau der ID einer vorhandenen Zeile, oder die beiden IDs sind Schreibweisen derselben Fable Version.
  • Gleiches Modell wie ein eingebauter Alias: wenn eine ermittelte explizite ID das Modell benennt, zu dem ein eingebauter Alias derzeit aufgelöst wird, zeigt die Auswahl nur die Alias-Zeile. Zum Beispiel, während sonnet zu claude-sonnet-5 aufgelöst wird, wird eine ermittelte claude-sonnet-5 in die sonnet Zeile zusammengefasst, und eine ermittelte claude-sonnet-4-6 erhält immer noch ihre eigene Zeile. Vor v2.1.197 faltete Claude Code diese IDs nicht in eingebaute Zeilen, daher erhielt claude-sonnet-5 auch ihre eigene „From gateway" Zeile.

Ergebnisse werden in ~/.claude/cache/gateway-models.json oder %USERPROFILE%\.claude\cache\gateway-models.json unter Windows zwischengespeichert und bei jedem Startup aktualisiert. Wenn Sie CLAUDE_CONFIG_DIR setzen, lebt der Cache stattdessen unter diesem Verzeichnis. Wenn die Anfrage fehlschlägt oder das Gateway /v1/models nicht implementiert, fällt die Auswahl auf die zwischengespeicherte Liste aus dem vorherigen Startup oder auf die eingebaute Modelliste zurück. Wenn Ihr Gateway Claude-Modelle unter Aliasen bereitstellt, die nicht dem Ermittlungsfilter entsprechen, können Entwickler diese Aliase manuell mit den Modellkonfigurationsvariablen hinzufügen.

Für den Rest der Gateway-Dokumentationsserie und die zugrunde liegenden API-Referenzen: