llm-gateway.md +0 −96 deleted
File Deleted View Diff
1> ## Documentation Index
2> Fetch the complete documentation index at: https://code.claude.com/docs/llms.txt
3> Use this file to discover all available pages before exploring further.
4
5# LLM gateway
6
7> Arahkan Claude Code melalui LLM gateway untuk autentikasi terpusat, pelacakan penggunaan, dan kontrol biaya. Mencakup menghubungkan Claude Code ke gateway, meluncurkannya untuk organisasi Anda, apa yang Claude Code kirimkan ke gateway, dan bagaimana gateway berinteraksi dengan langganan claude.ai.
8
9LLM gateway adalah proxy yang dijalankan organisasi Anda antara Claude Code dan penyedia model. Claude Code mengirimkan lalu lintas API ke gateway, dan gateway meneruskannya ke penyedia menggunakan kredensial yang dikendalikan organisasi Anda.
10
11<Note>
12 * Jika Anda adalah pengembang yang terhubung ke gateway yang ada: [hubungkan Claude Code ke gateway Anda](/id/llm-gateway-connect)
13 * Jika Anda adalah admin yang meluncurkan gateway untuk organisasi Anda: [terapkan dan distribusikan gateway](/id/llm-gateway-rollout)
14 * Jika Anda mengonfigurasi produk gateway: [referensi protokol gateway](/id/llm-gateway-protocol)
15</Note>
16
17<h2 id="what-a-gateway-provides">
18 Apa yang disediakan gateway
19</h2>
20
21Gateway memberikan organisasi Anda satu tempat untuk mengelola:
22
23* **Kredensial**: kunci penyedia tetap di sisi server; pengembang memegang kredensial gateway sebagai gantinya
24* **Pelacakan penggunaan**: atribusikan penggunaan berdasarkan pengembang atau tim, terlepas dari penyedia mana yang melayani permintaan
25* **Kontrol biaya**: terapkan anggaran dan batas laju di satu tempat
26* **Pencatatan audit**: catat setiap permintaan model untuk kepatuhan
27* **Peralihan penyedia**: ubah penyedia dalam konfigurasi gateway, tanpa menyentuh mesin pengembang
28
29Semua ini kecuali peralihan penyedia berlaku apakah upstream adalah API Anthropic atau [penyedia cloud](/id/third-party-integrations).
30
31Pertukaran adalah bahwa gateway menjadi infrastruktur yang dioperasikan organisasi Anda. Claude Code menambahkan kemampuan dengan setiap rilis, dan gateway yang tidak meneruskannya merusak fitur yang sesuai, jadi produk gateway perlu tetap diperbarui seiring Claude Code berkembang. [Referensi protokol gateway](/id/llm-gateway-protocol) mencakup apa yang harus diteruskan.
32
33<h2 id="how-a-gateway-works">
34 Bagaimana gateway bekerja
35</h2>
36
37Secara default, Claude Code mengirimkan permintaan langsung ke API Anthropic di `api.anthropic.com`. Untuk merutekan melalui gateway, atur `ANTHROPIC_BASE_URL` ke alamat gateway; Claude Code mengirimkan permintaan yang sama ke sana sebagai gantinya. Gateway mengautentikasi pengembang, melampirkan kredensial penyedia organisasi Anda, dan meneruskan setiap permintaan ke penyedia mana pun yang dikonfigurasinya.
38
39`ANTHROPIC_BASE_URL` adalah variabel alamat untuk sebagian besar gateway. Gateway yang menghadap penyedia cloud tertentu, seperti Bedrock, Vertex, Foundry, atau Claude Platform di AWS, menggunakan variabel URL dasar penyedia itu sebagai gantinya; [Format API](/id/llm-gateway-protocol#api-formats) mencantumkan variabel mana yang cocok dengan setiap konfigurasi.
40
41<Frame>
42 <img src="https://mintcdn.com/claude-code/-uq-4JE0W_JO5Er5/images/llm-gateway-flow.svg?fit=max&auto=format&n=-uq-4JE0W_JO5Er5&q=85&s=1c1a8dcc0cfcc3a58652cc8e28cd3e20" alt="Diagram menunjukkan Claude Code merutekan melalui LLM gateway. Di zona mesin pengembang, CLI Claude Code, ekstensi VS Code, dan klien SDK CI atau Agent mengirimkan permintaan ke gateway, dengan variabel URL dasar untuk format API gateway menunjuk ke sana dan setiap pengembang memegang kredensial per-pengembang, dan aplikasi desktop mencapai gateway yang sama melalui konfigurasi yang didistribusikan organisasi. Di zona berlabel infrastruktur Anda, LLM gateway menangani autentikasi, pelacakan penggunaan, anggaran, dan perutean, dan meneruskan permintaan dengan kredensial organisasi Anda. Di zona penyedia model, panah solid mengarah ke penyedia yang Anda konfigurasi, ditampilkan sebagai API Anthropic, dan panah putus-putus mengarah ke opsi penyedia lain, diilustrasikan dengan Amazon Bedrock, Google Vertex AI, dan Microsoft Foundry sebagai contoh." width="780" height="322" data-path="images/llm-gateway-flow.svg" />
43</Frame>
44
45Dua jenis kredensial terlibat:
46
47* **Kredensial pengembang**: setiap pengembang memegang miliknya sendiri, dikeluarkan oleh gateway. Ini mengautentikasi mereka ke gateway dan mengidentifikasi mereka dalam pelacakan penggunaan
48* **Kredensial penyedia**: gateway memegang satu kredensial untuk akun penyedia Anda, dibagikan oleh semua lalu lintas yang diteruskan. Anda tidak menyediakan kunci penyedia per pengembang
49
50Gateway meneruskan setiap permintaan ke penyedia yang Anda konfigurasi, seperti API Anthropic, [Amazon Bedrock](/id/amazon-bedrock), [Google Vertex AI](/id/google-vertex-ai), [Microsoft Foundry](/id/microsoft-foundry), atau [Claude Platform di AWS](/id/claude-platform-on-aws). Karena Claude Code hanya berbicara dengan gateway, pilihan penyedia adalah konfigurasi gateway, bukan klien.
51
52<h2 id="roll-out-a-gateway">
53 Luncurkan gateway
54</h2>
55
56Ketika Anda siap meluncurkan LLM gateway ke organisasi Anda, urutannya sama terlepas dari produk gateway mana yang Anda pilih:
57
581. Terapkan gateway dan berikan kredensial penyedia Anda, sehingga dapat mengautentikasi permintaan yang diteruskannya.
592. Keluarkan setiap pengembang kredensial gateway, sehingga penggunaan dikaitkan dengan pengembang dan offboarding mencabut satu kredensial.
603. Distribusikan konfigurasi melalui [file pengaturan terkelola](/id/settings#settings-files) dan alat rahasia Anda, sehingga setiap mesin menerima URL dasar dan kredensial. Ketika keduanya didistribusikan, pengembang tidak mengonfigurasi apa pun. Jika Anda tidak memiliki distribusi pengaturan, pengembang mengikuti [halaman koneksi](/id/llm-gateway-connect) untuk menetapkan variabel sendiri.
614. Minta setiap pengembang [memeriksa konfigurasi di Claude Code](/id/llm-gateway-connect#check-for-an-existing-configuration), sehingga masalah distribusi muncul sebelum mereka bergantung pada gateway.
62
63[Luncurkan LLM gateway untuk organisasi Anda](/id/llm-gateway-rollout) menjelaskan setiap langkah dan menunjukkan file konfigurasi untuk didistribusikan di setiap langkah. Gateway adalah satu bagian dari pengaturan organisasi; untuk penegakan kebijakan, visibilitas penggunaan, dan keputusan penanganan data, lihat [Siapkan Claude Code untuk organisasi Anda](/id/admin-setup).
64
65<h2 id="third-party-gateways">
66 Gateway pihak ketiga
67</h2>
68
69Setiap gateway yang mengekspos [format API yang didukung](/id/llm-gateway-protocol#api-formats) berfungsi. Anthropic tidak mendukung, memelihara, atau mengaudit produk gateway pihak ketiga. Terapkan mengikuti dokumentasi mereka sendiri, kemudian selesaikan sisi Claude Code dari peluncuran dengan [langkah-langkah peluncuran](/id/llm-gateway-rollout).
70
71<h2 id="subscriptions-and-gateways">
72 Langganan dan gateway
73</h2>
74
75Sementara [variabel kredensial gateway](/id/llm-gateway-connect#set-the-credential-variable) atau `apiKeyHelper` aktif, langganan claude.ai pengembang tidak digunakan: kredensial menggantikan login langganan untuk sesi itu, dan batas penggunaan langganan tidak berlaku. Lalu lintas itu ditagih per token kepada siapa pun yang memiliki kredensial yang diteruskan gateway, seperti akun Anthropic Console organisasi Anda, atau akun Bedrock, Vertex, atau Foundry Anda ketika gateway merutekan ke sana.
76
77Menetapkan hanya `ANTHROPIC_BASE_URL`, tanpa kredensial gateway, tidak menggantikan langganan. Permintaan masih merutekan melalui gateway, tetapi login claude.ai yang disimpan tetap menjadi kredensial aktif, sehingga batas penggunaan dan penagihan berlaku. Gateway yang meneruskan lalu lintas ini ke Anthropic harus meneruskan kemampuan OAuth di `anthropic-beta`; lihat [referensi header permintaan](/id/llm-gateway-protocol#request-headers).
78
79<h2 id="configure-separately-from-the-gateway">
80 Konfigurasi secara terpisah dari gateway
81</h2>
82
83Gateway menentukan di mana permintaan API model dikirim. Pemilihan model, sisa lalu lintas jaringan Claude Code, dan proxy korporat dikonfigurasi secara terpisah:
84
85* **Pemilihan model**: URL dasar menentukan di mana permintaan pergi, bukan model mana yang menjawabnya. Pilih model dengan perintah `/model` atau variabel lingkungan model; lihat [cara mengatur model Anda](/id/model-config#setting-your-model)
86* **Lalu lintas sisi klien**: pemeriksaan versi dan telemetri klien opsional, keduanya dinonaktifkan dengan [`CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC`](/id/env-vars), dan lalu lintas login ketika login claude.ai atau Console digunakan, pergi ke endpoint pembaruan dan autentikasi Anthropic daripada gateway. Lihat [persyaratan akses jaringan](/id/network-config#network-access-requirements) untuk domain
87* **Proxy korporat**: proxy yang ditetapkan dengan `HTTPS_PROXY` duduk di antara Claude Code dan setiap server yang dibicarakannya, termasuk gateway. Jika jaringan Anda memerlukan proxy, konfigurasi keduanya; lihat [konfigurasi proxy](/id/network-config#proxy-configuration)
88
89<h2 id="related-pages">
90 Halaman terkait
91</h2>
92
93* [Hubungkan Claude Code ke LLM gateway](/id/llm-gateway-connect): atur URL dasar dan kredensial di mesin Anda sendiri, dengan konfigurasi per-permukaan dan tabel pemecahan masalah
94* [Luncurkan LLM gateway untuk organisasi Anda](/id/llm-gateway-rollout): daftar periksa admin untuk menerapkan gateway, mengeluarkan kredensial pengembang, dan mendistribusikan pengaturan terkelola
95* [Referensi protokol gateway](/id/llm-gateway-protocol): apa yang Claude Code kirimkan ke gateway, untuk operator yang mengonfigurasi satu, mencakup endpoint, header untuk diteruskan, dan pass-through fitur
96* [Siapkan Claude Code untuk organisasi Anda](/id/admin-setup): keputusan peluncuran yang lebih luas yang merupakan bagian dari gateway, termasuk penegakan kebijakan dan visibilitas penggunaan