Matriks kompatibilitas
Kompatibilitas alat dan SDK
Temukan pengaturan TokenLab yang tepat untuk alat coding, aplikasi chat, SDK, dan framework
Kebanyakan alat terhubung ke TokenLab dengan mengubah API key dan base URL. Pengaturan yang tepat bergantung pada format API mana yang dapat digunakan oleh alat tersebut.
| Format API | Base URL | Klien umum |
|---|---|---|
| Chat Completions (kompatibel dengan OpenAI) | https://api.tokenlab.sh/v1 | SDK OpenAI, banyak aplikasi chat dan framework |
| OpenAI Responses | https://api.tokenlab.sh/v1 | Klien Responses dan alat yang dibangun di sekitar event Responses |
| Anthropic Messages | https://api.tokenlab.sh | SDK Anthropic dan alat yang berorientasi pada Claude |
| Gemini | https://api.tokenlab.sh | Klien REST dan SDK Gemini yang mengizinkan host kustom |
Model yang dipilih harus mencantumkan format yang sama di accepted_request_formats. Streaming dan pemanggilan tool (tool calling) juga bergantung pada kapabilitas model dan klien. Lihat Format API untuk contohnya.
Label kompatibilitas
| Label | Arti |
|---|---|
| Works | Pengaturan TokenLab yang ditautkan menggunakan opsi konfigurasi yang didokumentasikan oleh klien |
| Works with limits | Konfigurasi berlaku untuk fitur atau mode autentikasi tertentu; layanan vendor lain tetap mempertahankan persyaratannya sendiri |
Label ini menjelaskan konfigurasi pada halaman yang ditautkan. Ketersediaan fitur juga bergantung pada model yang dipilih dan versi klien.
Alat coding
| Alat | Status | Format API | Catatan |
|---|---|---|---|
| Claude Code | Works | Anthropic Messages | Menggunakan ANTHROPIC_BASE_URL dan API key TokenLab |
| Codex CLI | Works with limits | Responses | Menggunakan Responses; fitur yang tersedia bergantung pada model yang dipilih |
| Cursor | Works with limits | OpenAI-compatible | Berlaku untuk fitur Cursor yang menerima API key dan URL kustom |
| Cline | Works | OpenAI-compatible | Pilih OpenAI Compatible dan masukkan base URL serta model ID |
| Kilo Code | Works | OpenAI-compatible | Menggunakan provider kustom dan model ID |
| OpenCode | Works | OpenAI-compatible | Muat konfigurasi provider terpisah dengan OPENCODE_CONFIG |
| OpenHands | Works | OpenAI-compatible | UI berbasis LiteLLM: Advanced → Custom Model (awalan openai/) dan Base URL |
| Gemini CLI | Works with limits | Gemini | Gunakan GOOGLE_GEMINI_BASE_URL dengan autentikasi API-key; GEMINI_CLI_HOME terpisah mempertahankan pengaturan yang ada |
| Visual Studio Code | Works with limits | OpenAI-compatible | Chat melalui Custom Endpoint (Chat Completions); tidak perlu paket Copilot untuk chat. Saran inline dan pencarian semantik masih memerlukan GitHub |
Aplikasi chat
| Aplikasi | Status | Catatan |
|---|---|---|
| Chatbox | Works | Tambahkan provider OpenAI API Compatible |
| Cherry Studio | Works | Tambahkan provider dan selesaikan Verify and Enable |
| DeepChat | Works | Pilih OpenAI Completions untuk Chat Completions |
| Jan | Works | Tambahkan layanan yang kompatibel dengan OpenAI |
| LibreChat | Works | Konfigurasikan endpoint kustom yang kompatibel dengan OpenAI |
| Open WebUI | Works | Tambahkan koneksi yang kompatibel dengan OpenAI dengan API Type Chat |
SDK dan framework
| Klien | Status | Pengaturan |
|---|---|---|
| OpenAI SDK | Works | Atur base_url / baseURL ke https://api.tokenlab.sh/v1 |
| Anthropic SDK | Works | Atur base URL ke https://api.tokenlab.sh |
| Vercel AI SDK | Works | Buat provider kustom yang kompatibel dengan OpenAI |
| LangChain | Works | Konfigurasikan ChatOpenAI atau OpenAIEmbeddings dengan URL TokenLab |
| LlamaIndex | Works | Gunakan opsi klien yang kompatibel dengan OpenAI |
| OpenAI Agents SDK | Works with limits | Panduan ini menggunakan OpenAIChatCompletionsModel; periksa dukungan fitur model dan SDK sebelum menggunakan Responses |
| AutoGen | Works | Gunakan klien model yang kompatibel dengan OpenAI |
| CrewAI | Works | Konfigurasikan klien LLM yang kompatibel dengan OpenAI |
| PydanticAI | Works | Sediakan provider yang kompatibel dengan OpenAI |
Framework, alat observabilitas, gateway, dan produk evaluasi lainnya tercantum dalam navigasi Integrations.
Penggunaan dalam respons streaming
Stream Chat Completions menerima stream_options: { include_usage: true }, yang menambahkan potongan penggunaan (usage chunk) terakhir sebelum stream ditutup. API Responses tidak mengekspos include_usage; stream Responses melaporkan penggunaan pada event terminalnya sebagai gantinya.
Apa yang tidak digantikan oleh API key kustom
Beberapa produk mencampur panggilan model dengan fitur yang dihosting oleh vendor produk tersebut. API key TokenLab dapat mendukung permintaan model yang diekspos melalui pengaturan BYOK, tetapi tidak menggantikan langganan yang tidak terkait, layanan pelengkapan otomatis (autocomplete), fitur akun, atau ekstensi berpemilik.
Ketika pembaruan alat mengubah konfigurasinya, gunakan halaman integrasi saat ini daripada menyalin cuplikan variabel lingkungan lama dari tempat lain.
Sebelum bergantung pada suatu fitur
- Pastikan alat tersebut mengizinkan base URL kustom untuk format yang Anda perlukan.
- Pastikan model mencantumkan format tersebut di
accepted_request_formats. - Uji streaming dan pemanggilan tool jika alur kerja Anda memerlukannya.
- Simpan API key di mesin atau server yang tepercaya.
- Catat Request ID saat melaporkan kegagalan.