TokenLab

相容性矩陣

工具與 SDK 相容性

為程式開發工具、聊天應用程式、SDK 和框架找到合適的 TokenLab 設定

大多數工具透過更改 API 金鑰和基礎 URL (Base URL) 來連接到 TokenLab。具體的設定方式取決於該工具所能使用的 API 格式。

API 格式基礎 URL常見客戶端
Chat Completions (OpenAI 相容)https://api.tokenlab.sh/v1OpenAI SDK、許多聊天應用程式與框架
OpenAI Responseshttps://api.tokenlab.sh/v1Responses 客戶端以及圍繞 Responses 事件構建的工具
Anthropic Messageshttps://api.tokenlab.shAnthropic SDK 與以 Claude 為導向的工具
Geminihttps://api.tokenlab.sh允許自訂主機的 Gemini REST 與 SDK 客戶端

所選模型必須在 accepted_request_formats 中列出相同的格式。串流 (Streaming) 與工具呼叫 (Tool calling) 也取決於模型的功能與客戶端。請參閱 API 格式 以獲取範例。

相容性標籤

標籤含義
Works連結的 TokenLab 設定使用客戶端文件中記載的配置選項
Works with limits該配置適用於特定功能或驗證模式;其他供應商服務保留其各自的要求

這些標籤描述了連結頁面上的配置。功能可用性亦取決於所選模型與客戶端版本。

程式開發工具

工具狀態API 格式備註
Claude CodeWorksAnthropic Messages使用 ANTHROPIC_BASE_URL 與 TokenLab API 金鑰
Codex CLIWorks with limitsResponses使用 Responses;可用功能取決於所選模型
CursorWorks with limitsOpenAI-compatible適用於接受自訂 API 金鑰與 URL 的 Cursor 功能
ClineWorksOpenAI-compatible選擇 OpenAI Compatible 並輸入基礎 URL 與模型 ID
Kilo CodeWorksOpenAI-compatible使用自訂提供者與模型 ID
OpenCodeWorksOpenAI-compatible使用 OPENCODE_CONFIG 載入獨立的提供者配置
OpenHandsWorksOpenAI-compatibleLiteLLM 支援的 UI:Advanced → Custom Model (openai/ 前綴) 與 Base URL
Gemini CLIWorks with limitsGemini使用 GOOGLE_GEMINI_BASE_URL 進行 API 金鑰驗證;獨立的 GEMINI_CLI_HOME 可保留現有設定
Visual Studio CodeWorks with limitsOpenAI-compatible透過自訂端點進行聊天 (Chat Completions);聊天無需 Copilot 方案。行內建議與語意搜尋仍需 GitHub

聊天應用程式

應用程式狀態備註
ChatboxWorks新增一個 OpenAI API Compatible 提供者
Cherry StudioWorks新增提供者並完成 Verify and Enable
DeepChatWorks選擇 OpenAI Completions 進行 Chat Completions
JanWorks新增一個 OpenAI 相容服務
LibreChatWorks配置自訂的 OpenAI 相容端點
Open WebUIWorks新增一個 API 類型為 Chat 的 OpenAI 相容連線

SDK 與框架

客戶端狀態設定
OpenAI SDKWorks將 base_url / baseURL 設定為 https://api.tokenlab.sh/v1
Anthropic SDKWorks將基礎 URL 設定為 https://api.tokenlab.sh
Vercel AI SDKWorks建立自訂的 OpenAI 相容提供者
LangChainWorks使用 TokenLab URL 配置 ChatOpenAI 或 OpenAIEmbeddings
LlamaIndexWorks使用其 OpenAI 相容的客戶端選項
OpenAI Agents SDKWorks with limits本指南使用 OpenAIChatCompletionsModel;在使用 Responses 前請檢查模型與 SDK 的功能支援
AutoGenWorks使用 OpenAI 相容的模型客戶端
CrewAIWorks配置其 OpenAI 相容的 LLM 客戶端
PydanticAIWorks提供 OpenAI 相容的提供者

更多框架、可觀測性工具、閘道與評估產品列於「整合」(Integrations) 導覽中。

串流回應中的使用量

Chat Completions 串流接受 stream_options: { include_usage: true },這會在串流關閉前附加一個最終的使用量區塊。Responses API 不公開 include_usage;Responses 串流會在終止事件中報告使用量。

自訂 API 金鑰無法取代的項目

某些產品會將模型呼叫與產品供應商託管的功能混合使用。TokenLab 金鑰可以驅動透過 BYOK 設定公開的模型請求,但它無法取代無關的訂閱、自動完成服務、帳戶功能或專有擴充功能。

當工具更新導致配置變更時,請使用目前的整合頁面,而不是從其他地方複製舊的環境變數片段。

在依賴某項功能之前

  • 確認該工具允許針對您需要的格式使用自訂基礎 URL。
  • 確認模型在 accepted_request_formats 中列出了該格式。
  • 如果您的工作流程需要,請測試串流與工具呼叫。
  • 將 API 金鑰保存在受信任的機器或伺服器上。
  • 在報告失敗時記錄請求 ID (Request ID)。

本頁內容