框架與平台
Dify
使用 OpenAI-API-compatible 提供者與自訂 Base URL 將 TokenLab 整合至 Dify
概覽
使用模型提供者外掛 OpenAI-API-compatible 將 Dify 連接至 TokenLab。將模型類型設為 LLM、Completion mode 設為 Chat、API Type 設為 Chat Completions API。本指南使用 Chat Completions。
類型: 框架或平台
主要路徑: OpenAI 相容的 chat 路徑
支援信心: 在範圍限制內支援
先決條件
- 擁有 API 存取權限的 TokenLab 帳號
- Dify Cloud 或自行託管的 Dify
設定步驟
步驟 1：取得您的 API Key
- 登入 TokenLab Dashboard
- 開啟 API Keys
- 建立或複製一個以
sk-開頭的 API key
步驟 2：設定提供者
開啟模型提供者
在 Dify 中，前往 Settings → Model Providers
選擇 OpenAI-API-compatible
開啟 OpenAI-API-compatible。若未顯示，請先從 Dify Marketplace 安裝此模型提供者外掛。選擇 Add model，輸入 TokenLab 設定。
輸入 TokenLab 設定
使用以下數值：
| 欄位 | 數值 |
|---|---|
| API Key | sk-your-tokenlab-key |
| Model type | LLM |
| Completion mode | Chat |
| API Type | Chat Completions API |
| API Base URL | https://api.tokenlab.sh/v1 |
新增模型
新增您想要使用的模型，例如：
gpt-5.4gpt-5.4-miniclaude-sonnet-5claude-opus-4-8gemini-3.5-flashgemini-3.1-flash-litedeepseek-v4-flash
步驟 3：測試連線
- 選擇已新增的模型，例如
gpt-5.4-mini。 - 發送測試提示詞 (prompt)
- 確認 Dify 收到有效的回應
用於知識庫的 Embeddings
若要進行 RAG 與知識庫索引，請新增一個 embedding 模型，例如：
text-embedding-3-smalltext-embedding-3-large
然後在相關的知識庫或應用程式設定中，將其設為預設的 embedding 模型。
建議模型角色
| 使用案例 | 建議模型 |
|---|---|
| 預設聊天 | gpt-5.4-mini, gpt-5.4, claude-sonnet-5 |
| 深度推理 | gpt-5.5, gpt-5.4, claude-opus-4-8, deepseek-v4-pro |
| 快速/經濟 | gpt-5.4-mini, gemini-3.5-flash, deepseek-v4-flash |
| Embeddings | text-embedding-3-small, text-embedding-3-large |