兼容性矩阵
工具与 SDK 兼容性
找到编程工具、聊天应用、SDK 和框架对应的 TokenLab 配置
大多数工具只需更换 API 密钥和地址就能连接 TokenLab。具体配置取决于工具使用哪种 API 格式。
| API 格式 | Base URL | 常见客户端 |
|---|---|---|
| Chat Completions (OpenAI 兼容) | https://api.tokenlab.sh/v1 | OpenAI SDK、许多聊天应用和框架 |
| OpenAI Responses | https://api.tokenlab.sh/v1 | Responses 客户端和依赖 Responses 事件的工具 |
| Anthropic Messages | https://api.tokenlab.sh | Anthropic SDK 和 Claude 工具 |
| Gemini | https://api.tokenlab.sh | 允许自定义地址的 Gemini REST 或 SDK 客户端 |
所选模型的 accepted_request_formats 必须包含同一种格式。流式输出和工具调用还取决于模型能力与客户端支持。配置示例见选择 API 格式。
状态说明
| 状态 | 含义 |
|---|---|
| 可用 | 链接页面中的 TokenLab 配置使用客户端公开支持的设置选项 |
| 有部分限制 | 配置适用于特定功能或认证方式;厂商其他服务仍有各自的使用要求 |
这些状态描述链接页面中的配置方式。具体功能是否可用,还取决于所选模型和客户端版本。
编程工具
| 工具 | 状态 | API 格式 | 说明 |
|---|---|---|---|
| Claude Code | 可用 | Anthropic Messages | 使用 ANTHROPIC_BASE_URL 和 TokenLab API 密钥 |
| Codex CLI | 有部分限制 | Responses | 使用 Responses;可用功能取决于所选模型 |
| Cursor | 有部分限制 | OpenAI 兼容 | 适用于 Cursor 中允许自定义 API 密钥和地址的功能 |
| Cline | 可用 | OpenAI 兼容 | 选择 OpenAI Compatible,填写 Base URL 和模型 ID |
| Kilo Code | 可用 | OpenAI 兼容 | 配置自定义服务和模型 ID |
| OpenCode | 可用 | OpenAI 兼容 | 通过 OPENCODE_CONFIG 加载独立的服务配置 |
| OpenHands | 可用 | OpenAI 兼容 | LiteLLM 版界面:Advanced → Custom Model(openai/ 前缀)和 Base URL |
| Gemini CLI | 有部分限制 | Gemini | 以 API 密钥认证使用 GOOGLE_GEMINI_BASE_URL;独立的 GEMINI_CLI_HOME 保留原有配置 |
聊天应用
| 应用 | 状态 | 说明 |
|---|---|---|
| Chatbox | 可用 | 添加 OpenAI API Compatible 服务 |
| Cherry Studio | 可用 | 添加服务并完成 Verify and Enable |
| DeepChat | 可用 | 选择 OpenAI Completions 以使用 Chat Completions |
| Jan | 可用 | 添加 OpenAI 兼容服务 |
| LibreChat | 可用 | 配置自定义 OpenAI 兼容地址 |
| Open WebUI | 可用 | 添加 OpenAI 兼容连接,API Type 选择 Chat |
SDK 与框架
| 客户端 | 状态 | 配置 |
|---|---|---|
| OpenAI SDK | 可用 | 把 base_url / baseURL 设为 https://api.tokenlab.sh/v1 |
| Anthropic SDK | 可用 | 把 Base URL 设为 https://api.tokenlab.sh |
| Vercel AI SDK | 可用 | 创建自定义 OpenAI 兼容服务 |
| LangChain | 可用 | 为 ChatOpenAI 或 OpenAIEmbeddings 配置 TokenLab 地址 |
| LlamaIndex | 可用 | 使用 OpenAI 兼容客户端选项 |
| OpenAI Agents SDK | 有部分限制 | 指南使用 OpenAIChatCompletionsModel;使用 Responses 前确认模型与 SDK 的功能支持 |
| AutoGen | 可用 | 使用 OpenAI 兼容模型客户端 |
| CrewAI | 可用 | 配置 OpenAI 兼容 LLM 客户端 |
| PydanticAI | 可用 | 提供 OpenAI 兼容服务配置 |
其他框架、监控工具、网关和评测产品可在 Integrations 导航中找到。
流式响应中的用量
Chat Completions 流接受 stream_options: { include_usage: true },会在流结束前追加一个用量块。Responses API 不公开 include_usage;Responses 流在终止事件中返回用量。
自定义 API 密钥不能替代什么
有些产品既调用模型,也提供自己的在线功能。TokenLab API 密钥可以用于 BYOK 设置开放的模型请求,但不能替代第三方产品的订阅、补全服务、账户功能或专有扩展。
工具升级后如果配置方式变化,请以当前集成页面为准,不要继续复制旧的环境变量片段。
使用前确认
- 工具允许为所需格式填写自定义 Base URL。
- 模型的
accepted_request_formats包含该格式。 - 功能依赖流式输出或工具调用时,使用真实请求验证。
- API 密钥只保存在可信设备或服务端。
- 报告问题时保留请求 ID。