Matriks kompatibilitas
Kompatibilitas alat dan SDK
Temukan konfigurasi TokenLab untuk alat pemrograman, aplikasi chat, SDK, dan framework
Sebagian besar alat dapat terhubung ke TokenLab dengan mengganti kunci API dan URL dasar. Konfigurasi tepatnya bergantung pada format API yang dapat digunakan alat tersebut.
| Format API | URL dasar | Klien umum |
|---|---|---|
| Chat Completions (Kompatibel dengan OpenAI) | https://api.tokenlab.sh/v1 | SDK OpenAI, berbagai aplikasi chat dan framework |
| OpenAI Responses | https://api.tokenlab.sh/v1 | Klien Responses dan alat yang menggunakan event Responses |
| Anthropic Messages | https://api.tokenlab.sh | SDK Anthropic dan alat untuk Claude |
| Gemini | https://api.tokenlab.sh | Klien REST dan SDK Gemini yang mengizinkan host khusus |
Model yang dipilih harus mencantumkan format yang sama di accepted_request_formats. Streaming dan pemanggilan alat juga bergantung pada kemampuan model serta dukungan klien. Lihat contoh di Format API.
Label kompatibilitas
| Label | Arti |
|---|---|
| Kompatibel | Konfigurasi TokenLab pada halaman yang ditautkan menggunakan opsi konfigurasi yang didokumentasikan oleh klien |
| Kompatibel dengan batasan | Konfigurasi berlaku untuk fitur atau metode autentikasi tertentu; layanan vendor lainnya tetap memiliki persyaratan tersendiri |
Label ini menjelaskan konfigurasi pada halaman yang ditautkan. Ketersediaan fitur juga bergantung pada model yang dipilih dan versi klien.
Alat pemrograman
| Alat | Status | Format API | Catatan |
|---|---|---|---|
| Claude Code | Kompatibel | Anthropic Messages | Menggunakan ANTHROPIC_BASE_URL dan kunci API TokenLab |
| Codex CLI | Kompatibel dengan batasan | Responses | Menggunakan Responses; fitur yang tersedia bergantung pada model yang dipilih |
| Cursor | Kompatibel dengan batasan | Kompatibel dengan OpenAI | Berlaku untuk fitur Cursor yang menerima kunci API dan URL khusus |
| Cline | Kompatibel | Kompatibel dengan OpenAI | Pilih OpenAI Compatible, lalu masukkan URL dasar dan ID model |
| Kilo Code | Kompatibel | Kompatibel dengan OpenAI | Menggunakan penyedia khusus dan ID model |
| OpenCode | Kompatibel | Kompatibel dengan OpenAI | Muat konfigurasi penyedia terpisah dengan OPENCODE_CONFIG |
| OpenHands | Kompatibel | Kompatibel dengan OpenAI | Antarmuka berbasis LiteLLM: Advanced → Custom Model (awalan openai/) dan Base URL |
| Gemini CLI | Kompatibel dengan batasan | Gemini | Gunakan GOOGLE_GEMINI_BASE_URL dengan autentikasi kunci API; GEMINI_CLI_HOME terpisah mempertahankan konfigurasi yang ada |
Aplikasi chat
| Aplikasi | Status | Catatan |
|---|---|---|
| Chatbox | Kompatibel | Tambahkan penyedia OpenAI API Compatible |
| Cherry Studio | Kompatibel | Tambahkan penyedia dan selesaikan Verify and Enable |
| DeepChat | Kompatibel | Pilih OpenAI Completions untuk Chat Completions |
| Jan | Kompatibel | Tambahkan layanan yang kompatibel dengan OpenAI |
| LibreChat | Kompatibel | Konfigurasikan endpoint khusus yang kompatibel dengan OpenAI |
| Open WebUI | Kompatibel | Tambahkan koneksi yang kompatibel dengan OpenAI dengan API Type Chat |
SDK dan framework
| Klien | Status | Konfigurasi |
|---|---|---|
| OpenAI SDK | Kompatibel | Atur base_url / baseURL ke https://api.tokenlab.sh/v1 |
| Anthropic SDK | Kompatibel | Atur URL dasar ke https://api.tokenlab.sh |
| Vercel AI SDK | Kompatibel | Buat penyedia khusus yang kompatibel dengan OpenAI |
| LangChain | Kompatibel | Konfigurasikan ChatOpenAI atau OpenAIEmbeddings dengan URL TokenLab |
| LlamaIndex | Kompatibel | Gunakan opsi klien yang kompatibel dengan OpenAI |
| OpenAI Agents SDK | Kompatibel dengan batasan | Panduan menggunakan OpenAIChatCompletionsModel; periksa dukungan fitur model dan SDK sebelum menggunakan Responses |
| AutoGen | Kompatibel | Gunakan klien model yang kompatibel dengan OpenAI |
| CrewAI | Kompatibel | Konfigurasikan klien LLM yang kompatibel dengan OpenAI |
| PydanticAI | Kompatibel | Berikan penyedia yang kompatibel dengan OpenAI |
Framework, alat observabilitas, gateway, dan produk evaluasi lainnya tersedia di navigasi Integrations.
Penggunaan dalam respons streaming
Aliran Chat Completions menerima stream_options: { include_usage: true }, yang menambahkan potongan penggunaan terakhir sebelum aliran berakhir. API Responses tidak menyediakan include_usage; alirannya menyampaikan penggunaan pada event terakhir.
Hal yang tidak digantikan oleh kunci API khusus
Sebagian produk menggabungkan panggilan model dengan fitur yang dihosting vendor. Kunci TokenLab dapat digunakan untuk permintaan model yang tersedia melalui pengaturan BYOK, tetapi tidak menggantikan langganan lain, layanan pelengkapan otomatis, fitur akun, atau ekstensi milik vendor.
Jika pembaruan alat mengubah konfigurasinya, ikuti halaman integrasi terkini alih-alih menyalin contoh variabel lingkungan lama.
Sebelum mengandalkan suatu fitur
- Pastikan alat mengizinkan URL dasar khusus untuk format yang diperlukan.
- Pastikan model mencantumkan format tersebut di
accepted_request_formats. - Coba streaming dan pemanggilan alat jika alur kerja Anda membutuhkannya.
- Simpan kunci API di perangkat atau server tepercaya.
- Catat ID permintaan saat melaporkan kegagalan.