相容性矩陣
工具與 SDK 相容性
為程式開發工具、聊天應用程式、SDK 和框架找到合適的 TokenLab 設定
大多數工具透過更改 API 金鑰和基礎 URL (Base URL) 來連接到 TokenLab。具體的設定方式取決於該工具所能使用的 API 格式。
| API 格式 | 基礎 URL | 常見客戶端 |
|---|---|---|
| Chat Completions (OpenAI 相容) | https://api.tokenlab.sh/v1 | OpenAI SDK、許多聊天應用程式與框架 |
| OpenAI Responses | https://api.tokenlab.sh/v1 | Responses 客戶端以及圍繞 Responses 事件構建的工具 |
| Anthropic Messages | https://api.tokenlab.sh | Anthropic SDK 與以 Claude 為導向的工具 |
| Gemini | https://api.tokenlab.sh | 允許自訂主機的 Gemini REST 與 SDK 客戶端 |
所選模型必須在 accepted_request_formats 中列出相同的格式。串流 (Streaming) 與工具呼叫 (Tool calling) 也取決於模型的功能與客戶端。請參閱 API 格式 以獲取範例。
相容性標籤
| 標籤 | 含義 |
|---|---|
| Works | 連結的 TokenLab 設定使用客戶端文件中記載的配置選項 |
| Works with limits | 該配置適用於特定功能或驗證模式;其他供應商服務保留其各自的要求 |
這些標籤描述了連結頁面上的配置。功能可用性亦取決於所選模型與客戶端版本。
程式開發工具
| 工具 | 狀態 | API 格式 | 備註 |
|---|---|---|---|
| Claude Code | Works | Anthropic Messages | 使用 ANTHROPIC_BASE_URL 與 TokenLab API 金鑰 |
| Codex CLI | Works with limits | Responses | 使用 Responses;可用功能取決於所選模型 |
| Cursor | Works with limits | OpenAI-compatible | 適用於接受自訂 API 金鑰與 URL 的 Cursor 功能 |
| Cline | Works | OpenAI-compatible | 選擇 OpenAI Compatible 並輸入基礎 URL 與模型 ID |
| Kilo Code | Works | OpenAI-compatible | 使用自訂提供者與模型 ID |
| OpenCode | Works | OpenAI-compatible | 使用 OPENCODE_CONFIG 載入獨立的提供者配置 |
| OpenHands | Works | OpenAI-compatible | LiteLLM 支援的 UI:Advanced → Custom Model (openai/ 前綴) 與 Base URL |
| Gemini CLI | Works with limits | Gemini | 使用 GOOGLE_GEMINI_BASE_URL 進行 API 金鑰驗證;獨立的 GEMINI_CLI_HOME 可保留現有設定 |
| Visual Studio Code | Works with limits | OpenAI-compatible | 透過自訂端點進行聊天 (Chat Completions);聊天無需 Copilot 方案。行內建議與語意搜尋仍需 GitHub |
聊天應用程式
| 應用程式 | 狀態 | 備註 |
|---|---|---|
| Chatbox | Works | 新增一個 OpenAI API Compatible 提供者 |
| Cherry Studio | Works | 新增提供者並完成 Verify and Enable |
| DeepChat | Works | 選擇 OpenAI Completions 進行 Chat Completions |
| Jan | Works | 新增一個 OpenAI 相容服務 |
| LibreChat | Works | 配置自訂的 OpenAI 相容端點 |
| Open WebUI | Works | 新增一個 API 類型為 Chat 的 OpenAI 相容連線 |
SDK 與框架
| 客戶端 | 狀態 | 設定 |
|---|---|---|
| OpenAI SDK | Works | 將 base_url / baseURL 設定為 https://api.tokenlab.sh/v1 |
| Anthropic SDK | Works | 將基礎 URL 設定為 https://api.tokenlab.sh |
| Vercel AI SDK | Works | 建立自訂的 OpenAI 相容提供者 |
| LangChain | Works | 使用 TokenLab URL 配置 ChatOpenAI 或 OpenAIEmbeddings |
| LlamaIndex | Works | 使用其 OpenAI 相容的客戶端選項 |
| OpenAI Agents SDK | Works with limits | 本指南使用 OpenAIChatCompletionsModel;在使用 Responses 前請檢查模型與 SDK 的功能支援 |
| AutoGen | Works | 使用 OpenAI 相容的模型客戶端 |
| CrewAI | Works | 配置其 OpenAI 相容的 LLM 客戶端 |
| PydanticAI | Works | 提供 OpenAI 相容的提供者 |
更多框架、可觀測性工具、閘道與評估產品列於「整合」(Integrations) 導覽中。
串流回應中的使用量
Chat Completions 串流接受 stream_options: { include_usage: true },這會在串流關閉前附加一個最終的使用量區塊。Responses API 不公開 include_usage;Responses 串流會在終止事件中報告使用量。
自訂 API 金鑰無法取代的項目
某些產品會將模型呼叫與產品供應商託管的功能混合使用。TokenLab 金鑰可以驅動透過 BYOK 設定公開的模型請求,但它無法取代無關的訂閱、自動完成服務、帳戶功能或專有擴充功能。
當工具更新導致配置變更時,請使用目前的整合頁面,而不是從其他地方複製舊的環境變數片段。
在依賴某項功能之前
- 確認該工具允許針對您需要的格式使用自訂基礎 URL。
- 確認模型在
accepted_request_formats中列出了該格式。 - 如果您的工作流程需要,請測試串流與工具呼叫。
- 將 API 金鑰保存在受信任的機器或伺服器上。
- 在報告失敗時記錄請求 ID (Request ID)。