相容性矩陣
工具與 SDK 相容性
找到程式開發工具、聊天應用程式、SDK 和框架對應的 TokenLab 設定
多數工具只需更換 API 金鑰和位址就能連接 TokenLab。具體設定取決於工具使用哪種 API 格式。
| API 格式 | Base URL | 常見用戶端 |
|---|---|---|
| Chat Completions (OpenAI 相容) | https://api.tokenlab.sh/v1 | OpenAI SDK、多種聊天應用程式和框架 |
| OpenAI Responses | https://api.tokenlab.sh/v1 | Responses 用戶端和依賴 Responses 事件的工具 |
| Anthropic Messages | https://api.tokenlab.sh | Anthropic SDK 和 Claude 工具 |
| Gemini | https://api.tokenlab.sh | 允許自訂位址的 Gemini REST 或 SDK 用戶端 |
所選模型的 accepted_request_formats 必須包含相同格式。串流輸出和工具呼叫還取決於模型能力與用戶端支援。設定範例請見選擇 API 格式。
狀態說明
| 狀態 | 含義 |
|---|---|
| 可用 | 連結頁面中的 TokenLab 設定使用用戶端公開支援的設定選項 |
| 有部分限制 | 設定適用於特定功能或驗證方式;廠商其他服務仍有各自的使用要求 |
這些狀態描述連結頁面中的設定方式。具體功能是否可用,還取決於所選模型和用戶端版本。
程式開發工具
| 工具 | 狀態 | API 格式 | 說明 |
|---|---|---|---|
| Claude Code | 可用 | Anthropic Messages | 使用 ANTHROPIC_BASE_URL 和 TokenLab API 金鑰 |
| Codex CLI | 有部分限制 | Responses | 使用 Responses;可用功能取決於所選模型 |
| Cursor | 有部分限制 | OpenAI 相容 | 適用於 Cursor 中允許自訂 API 金鑰和位址的功能 |
| Cline | 可用 | OpenAI 相容 | 選擇 OpenAI Compatible,填入 Base URL 和模型 ID |
| Kilo Code | 可用 | OpenAI 相容 | 設定自訂服務和模型 ID |
| OpenCode | 可用 | OpenAI 相容 | 透過 OPENCODE_CONFIG 載入獨立的服務設定 |
| OpenHands | 可用 | OpenAI 相容 | LiteLLM 版介面:Advanced → Custom Model(openai/ 前綴)和 Base URL |
| Gemini CLI | 有部分限制 | Gemini | 以 API 金鑰驗證使用 GOOGLE_GEMINI_BASE_URL;獨立的 GEMINI_CLI_HOME 保留原有設定 |
聊天應用程式
| 應用程式 | 狀態 | 說明 |
|---|---|---|
| Chatbox | 可用 | 新增 OpenAI API Compatible 服務 |
| Cherry Studio | 可用 | 新增服務並完成 Verify and Enable |
| DeepChat | 可用 | 選擇 OpenAI Completions 以使用 Chat Completions |
| Jan | 可用 | 新增 OpenAI 相容服務 |
| LibreChat | 可用 | 設定自訂 OpenAI 相容位址 |
| Open WebUI | 可用 | 新增 OpenAI 相容連線,API Type 選擇 Chat |
SDK 與框架
| 用戶端 | 狀態 | 設定 |
|---|---|---|
| OpenAI SDK | 可用 | 將 base_url / baseURL 設為 https://api.tokenlab.sh/v1 |
| Anthropic SDK | 可用 | 將 Base URL 設為 https://api.tokenlab.sh |
| Vercel AI SDK | 可用 | 建立自訂 OpenAI 相容服務 |
| LangChain | 可用 | 為 ChatOpenAI 或 OpenAIEmbeddings 設定 TokenLab 位址 |
| LlamaIndex | 可用 | 使用 OpenAI 相容用戶端選項 |
| OpenAI Agents SDK | 有部分限制 | 指南使用 OpenAIChatCompletionsModel;使用 Responses 前確認模型與 SDK 的功能支援 |
| AutoGen | 可用 | 使用 OpenAI 相容模型用戶端 |
| CrewAI | 可用 | 設定 OpenAI 相容 LLM 用戶端 |
| PydanticAI | 可用 | 提供 OpenAI 相容服務設定 |
其他框架、監控工具、閘道和評測產品可在 Integrations 導覽中找到。
串流回應中的用量
Chat Completions 串流接受 stream_options: { include_usage: true },會在串流結束前追加一個用量區塊。Responses API 不提供 include_usage;Responses 串流在終止事件中回傳用量。
自訂 API 金鑰無法取代的服務
有些產品既呼叫模型,也提供自己的線上功能。TokenLab API 金鑰可用於 BYOK 設定開放的模型請求,但無法取代第三方產品的訂閱、自動補全服務、帳戶功能或專有擴充功能。
工具升級後若設定方式改變,請以目前的整合頁面為準,不要繼續複製舊的環境變數片段。
使用前確認
- 工具允許為所需格式填入自訂 Base URL。
- 模型的
accepted_request_formats包含該格式。 - 功能依賴串流輸出或工具呼叫時,使用實際請求驗證。
- API 金鑰僅儲存在可信任裝置或伺服器端。
- 回報問題時保留請求 ID。