TokenLab

相容性矩陣

工具與 SDK 相容性

找到程式開發工具、聊天應用程式、SDK 和框架對應的 TokenLab 設定

多數工具只需更換 API 金鑰和位址就能連接 TokenLab。具體設定取決於工具使用哪種 API 格式。

API 格式Base URL常見用戶端
Chat Completions (OpenAI 相容)https://api.tokenlab.sh/v1OpenAI SDK、多種聊天應用程式和框架
OpenAI Responseshttps://api.tokenlab.sh/v1Responses 用戶端和依賴 Responses 事件的工具
Anthropic Messageshttps://api.tokenlab.shAnthropic SDK 和 Claude 工具
Geminihttps://api.tokenlab.sh允許自訂位址的 Gemini REST 或 SDK 用戶端

所選模型的 accepted_request_formats 必須包含相同格式。串流輸出和工具呼叫還取決於模型能力與用戶端支援。設定範例請見選擇 API 格式。

狀態說明

狀態含義
可用連結頁面中的 TokenLab 設定使用用戶端公開支援的設定選項
有部分限制設定適用於特定功能或驗證方式;廠商其他服務仍有各自的使用要求

這些狀態描述連結頁面中的設定方式。具體功能是否可用,還取決於所選模型和用戶端版本。

程式開發工具

工具狀態API 格式說明
Claude Code可用Anthropic Messages使用 ANTHROPIC_BASE_URL 和 TokenLab API 金鑰
Codex CLI有部分限制Responses使用 Responses;可用功能取決於所選模型
Cursor有部分限制OpenAI 相容適用於 Cursor 中允許自訂 API 金鑰和位址的功能
Cline可用OpenAI 相容選擇 OpenAI Compatible,填入 Base URL 和模型 ID
Kilo Code可用OpenAI 相容設定自訂服務和模型 ID
OpenCode可用OpenAI 相容透過 OPENCODE_CONFIG 載入獨立的服務設定
OpenHands可用OpenAI 相容LiteLLM 版介面:Advanced → Custom Model(openai/ 前綴)和 Base URL
Gemini CLI有部分限制Gemini以 API 金鑰驗證使用 GOOGLE_GEMINI_BASE_URL;獨立的 GEMINI_CLI_HOME 保留原有設定

聊天應用程式

應用程式狀態說明
Chatbox可用新增 OpenAI API Compatible 服務
Cherry Studio可用新增服務並完成 Verify and Enable
DeepChat可用選擇 OpenAI Completions 以使用 Chat Completions
Jan可用新增 OpenAI 相容服務
LibreChat可用設定自訂 OpenAI 相容位址
Open WebUI可用新增 OpenAI 相容連線,API Type 選擇 Chat

SDK 與框架

用戶端狀態設定
OpenAI SDK可用將 base_url / baseURL 設為 https://api.tokenlab.sh/v1
Anthropic SDK可用將 Base URL 設為 https://api.tokenlab.sh
Vercel AI SDK可用建立自訂 OpenAI 相容服務
LangChain可用為 ChatOpenAI 或 OpenAIEmbeddings 設定 TokenLab 位址
LlamaIndex可用使用 OpenAI 相容用戶端選項
OpenAI Agents SDK有部分限制指南使用 OpenAIChatCompletionsModel;使用 Responses 前確認模型與 SDK 的功能支援
AutoGen可用使用 OpenAI 相容模型用戶端
CrewAI可用設定 OpenAI 相容 LLM 用戶端
PydanticAI可用提供 OpenAI 相容服務設定

其他框架、監控工具、閘道和評測產品可在 Integrations 導覽中找到。

串流回應中的用量

Chat Completions 串流接受 stream_options: { include_usage: true },會在串流結束前追加一個用量區塊。Responses API 不提供 include_usage;Responses 串流在終止事件中回傳用量。

自訂 API 金鑰無法取代的服務

有些產品既呼叫模型,也提供自己的線上功能。TokenLab API 金鑰可用於 BYOK 設定開放的模型請求,但無法取代第三方產品的訂閱、自動補全服務、帳戶功能或專有擴充功能。

工具升級後若設定方式改變,請以目前的整合頁面為準,不要繼續複製舊的環境變數片段。

使用前確認

  • 工具允許為所需格式填入自訂 Base URL。
  • 模型的 accepted_request_formats 包含該格式。
  • 功能依賴串流輸出或工具呼叫時,使用實際請求驗證。
  • API 金鑰僅儲存在可信任裝置或伺服器端。
  • 回報問題時保留請求 ID。

本頁內容