Framework và nền tảng
Dify
Tích hợp TokenLab với Dify sử dụng nhà cung cấp OpenAI-API-compatible và một base URL tùy chỉnh
Tổng quan
Dùng plugin nhà cung cấp mô hình OpenAI-API-compatible để kết nối Dify với TokenLab. Đặt loại mô hình là LLM, Completion mode là Chat và API Type là Chat Completions API. Hướng dẫn này sử dụng Chat Completions.
Loại: Framework hoặc Nền tảng
Lộ trình chính: Lộ trình chat tương thích với OpenAI
Độ tin cậy hỗ trợ: Được hỗ trợ với các giới hạn phạm vi
Điều kiện tiên quyết
- Tài khoản TokenLab có quyền truy cập API
- Dify Cloud hoặc Dify tự lưu trữ (self-hosted)
Các bước cấu hình
Bước 1: Lấy API Key của bạn
- Đăng nhập vào TokenLab Dashboard
- Mở API Keys
- Tạo hoặc sao chép một API key bắt đầu bằng
sk-
Bước 2: Cấu hình nhà cung cấp
Mở Model Providers
Trong Dify, đi tới Settings → Model Providers
Chọn OpenAI-API-compatible
Mở OpenAI-API-compatible. Nếu chưa có, hãy cài plugin nhà cung cấp mô hình này từ Dify Marketplace. Chọn Add model để nhập cài đặt TokenLab.
Nhập cài đặt TokenLab
Sử dụng các giá trị sau:
| Trường | Giá trị |
|---|---|
| API Key | sk-your-tokenlab-key |
| Model type | LLM |
| Completion mode | Chat |
| API Type | Chat Completions API |
| API Base URL | https://api.tokenlab.sh/v1 |
Thêm các mô hình
Thêm các mô hình bạn muốn sử dụng, ví dụ:
gpt-5.4gpt-5.4-miniclaude-sonnet-5claude-opus-4-8gemini-3.5-flashgemini-3.1-flash-litedeepseek-v4-flash
Bước 3: Kiểm tra kết nối
- Chọn một mô hình đã thêm, chẳng hạn
gpt-5.4-mini. - Gửi một prompt kiểm tra
- Xác nhận Dify nhận được phản hồi hợp lệ
Embeddings cho Cơ sở tri thức (Knowledge Bases)
Đối với RAG và lập chỉ mục cơ sở tri thức, hãy thêm một mô hình embedding như:
text-embedding-3-smalltext-embedding-3-large
Sau đó, đặt nó làm mô hình embedding mặc định trong cơ sở tri thức hoặc cài đặt ứng dụng có liên quan.
Các vai trò mô hình được đề xuất
| Trường hợp sử dụng | Các mô hình gợi ý |
|---|---|
| Chat mặc định | gpt-5.4-mini, gpt-5.4, claude-sonnet-5 |
| Suy luận chuyên sâu | gpt-5.5, gpt-5.4, claude-opus-4-8, deepseek-v4-pro |
| Nhanh/Rẻ | gpt-5.4-mini, gemini-3.5-flash, deepseek-v4-flash |
| Embeddings | text-embedding-3-small, text-embedding-3-large |