SpyBara
Go Premium

llm-gateway.md 2026-10-22 22:58 UTC to 2026-10-23 22:59 UTC

This page contains 18 additions and 18 deletions.

2026
Thu 1 23:59 Tue 20 23:00 Thu 22 22:58 Fri 23 22:59

Другие LLM gateways

Маршрутизируйте Claude Code через LLM gateway, который уже запускает ваша организация. Охватывает подключение Claude Code к шлюзу, развертывание шлюза для вашей организации и то, что Claude Code отправляет на шлюз.

В этом разделе рассматривается использование продукта шлюза, который уже запускает ваша организация, а не Claude apps gateway. Для получения информации о том, что такое шлюз, как он находится между Claude Code и вашим поставщиком, и как выбрать между Claude apps gateway и другим продуктом, см. обзор шлюза.

[!NOTE]

Любой шлюз, который предоставляет поддерживаемый формат API, работает. Anthropic не одобряет, не поддерживает и не проверяет продукты шлюзов третьих сторон, и не поддерживает маршрутизацию Claude Code на модели, отличные от Claude, через какой-либо шлюз. Разверните шлюз, следуя его собственной документации, затем завершите сторону Claude Code с помощью этапов развертывания ниже.

Что предоставляет шлюз

Шлюз дает вашей организации одно место для управления:

  • Учетные данные: ключ поставщика остается на стороне сервера; разработчики вместо этого используют учетные данные шлюза
  • Отслеживание использования: атрибутируйте использование по разработчику или команде, независимо от того, какой поставщик обслуживает запрос
  • Контроль затрат: применяйте бюджеты и ограничения скорости в одном месте
  • Логирование аудита: логируйте каждый запрос модели для соответствия требованиям
  • Переключение поставщика: измените поставщика в конфигурации шлюза, не трогая машины разработчиков

Все эти функции, кроме переключения поставщика, применяются независимо от того, является ли upstream API Anthropic или облачный поставщик. Переключение поставщика без переконфигурации машин разработчиков также зависит от того, предоставляет ли шлюз одну конечную точку в формате Anthropic независимо от upstream. Шлюз, который предоставляет собственный формат поставщика, привязывает конфигурацию клиента к этому поставщику и изменяет то, что отправляет Claude Code и какие значения по умолчанию он применяет.

Компромисс заключается в том, что шлюз становится инфраструктурой, которую управляет ваша организация. Claude Code добавляет возможности с каждым выпуском, и шлюз, который не перенаправляет их, нарушает соответствующие функции, поэтому продукт шлюза должен быть обновлен по мере развития Claude Code. Справочник протокола шлюза охватывает то, что нужно перенаправлять.

Развертывание шлюза

Когда вы готовы развернуть LLM gateway для вашей организации, последовательность одинакова независимо от того, какой продукт шлюза вы выберете:

  1. Разверните шлюз и дайте ему учетные данные вашего поставщика, чтобы он мог аутентифицировать запросы, которые он перенаправляет.
  2. Выдайте каждому разработчику учетные данные шлюза, чтобы использование было отнесено разработчику и отключение отзывает одно учетное данные.
  3. Распределите конфигурацию через управляемый файл параметров и ваши инструменты управления секретами, чтобы каждая машина получила базовый URL и учетные данные. Когда оба распределены, разработчики ничего не настраивают. Если у вас нет распределения параметров, разработчики следуют странице подключения для установки переменных самостоятельно.
  4. Попросите каждого разработчика проверить конфигурацию в Claude Code, чтобы проблемы распределения выявились до того, как они будут зависеть от шлюза.

Развертывание LLM gateway для вашей организации проходит каждый шаг и показывает файлы конфигурации для распределения на каждом. Шлюз — это одна часть организационной настройки; для применения политики, видимости использования и решений по обработке данных см. Настройка Claude Code для вашей организации.

Чтобы сделать шлюз, доступный через ANTHROPIC_BASE_URL, единственным пунктом назначения, который может использовать управляемая машина, установите allowedProviders на ["customEndpoint"] в том же управляемом файле параметров и поместите ANTHROPIC_BASE_URL шлюза в блок env этого файла. Claude Code затем отказывает в сеансе, направленном куда-либо еще, включая непосредственно в Anthropic или на собственный прокси разработчика, и принимает ANTHROPIC_BASE_URL только со значением, которое вы там установили. Для шлюза, доступного через переменную конечной точки, специфичную для поставщика, такую как ANTHROPIC_BEDROCK_BASE_URL, запись allowedProviders указывает, какую переменную закрепить. Требуется Claude Code v2.1.285 или более поздняя версия.

Подписки и шлюзы

Пока активна переменная учетных данных шлюза или apiKeyHelper, запросы несут эти учетные данные вместо входа подписки claude.ai разработчика, и ограничения использования подписки не применяются к ним. Claude Code сохраняет вход claude.ai на машине, но не отправляет его с этими запросами. Этот трафик выставляется счетом за токен тому, кто владеет учетными данными, которые перенаправляет шлюз, например вашей учетной записи Anthropic Console организации, или вашей учетной записи Amazon Bedrock, Google Cloud's Agent Platform или Microsoft Foundry, когда шлюз маршрутизирует туда.

ANTHROPIC_BASE_URL — это переменная, которая указывает Claude Code на шлюз. Установка только этой переменной без учетных данных шлюза не заменяет подписку. Запросы по-прежнему маршрутизируются через шлюз, но сохраненный вход claude.ai остается активным учетным данным, поэтому применяются его ограничения использования и выставление счетов. Шлюзы, которые передают этот трафик на Anthropic, должны перенаправлять возможность OAuth в anthropic-beta; см. справочник заголовков запроса.

Связанные страницы

  • Обзор шлюза: как работает шлюз и как выбрать между Claude apps gateway и другим продуктом
  • Claude apps gateway: самостоятельно размещаемый шлюз Anthropic с входом SSO и телеметрией OTLP
  • Подключение Claude Code к LLM gateway: установите базовый URL и учетные данные на вашей собственной машине, с конфигурацией для каждой поверхности и таблицей устранения неполадок
  • Развертывание LLM gateway для вашей организации: контрольный список администратора для развертывания шлюза, выдачи учетных данных разработчика и распределения управляемых параметров
  • Справочник протокола шлюза: что Claude Code отправляет на шлюз, для операторов, настраивающих его, охватывающий конечные точки, заголовки для перенаправления и передачу функций