框架与平台
Dify
使用 OpenAI-API-compatible 提供商和自定义 base URL 将 TokenLab 集成到 Dify
概述
使用模型提供商插件 OpenAI-API-compatible 将 Dify 连接到 TokenLab。将模型类型设为 LLM、Completion mode 设为 Chat、API Type 设为 Chat Completions API。本指南使用 Chat Completions。
前置要求
- 拥有 API 访问权限的 TokenLab 账户
- Dify Cloud 或自托管 Dify
配置步骤
第 1 步:获取你的 API 密钥
- 登录 TokenLab Console
- 打开 API 密钥
- 创建或复制一个以
sk-开头的 API 密钥
第 2 步:配置提供商
打开模型提供商
在 Dify 中,前往 设置 (Settings) → 模型提供商 (Model Providers)
选择 OpenAI-API-compatible
打开 OpenAI-API-compatible。如果没有显示,请先从 Dify Marketplace 安装该模型提供商插件。选择 Add model,输入 TokenLab 设置。
输入 TokenLab 设置
使用以下值:
| 字段 | 值 |
|---|---|
| API 密钥 | sk-your-tokenlab-key |
| Model type | LLM |
| Completion mode | Chat |
| API Type | Chat Completions API |
| API Base URL | https://api.tokenlab.sh/v1 |
添加模型
添加你想要使用的模型,例如:
gpt-5.4gpt-5.4-miniclaude-sonnet-5claude-opus-4-8gemini-3.5-flashgemini-3.1-flash-litedeepseek-v4-flash
第 3 步:测试连接
- 选择已添加的模型,例如
gpt-5.4-mini。 - 发送一条测试提示词 (prompt)
- 确认 Dify 收到了有效的响应
用于知识库的 Embeddings
对于 RAG 和知识库索引,请添加一个 embedding 模型,例如:
text-embedding-3-smalltext-embedding-3-large
然后将其设置为相关知识库或应用程序设置中的默认 embedding 模型。
选择模型
请从模型页复制当前聊天和 Embeddings 模型 ID。Dify 需要分别配置聊天与 Embeddings,而且每个模型都必须支持对应组件使用的 API。