TokenLab

Framework và nền tảng

Dify

Tích hợp TokenLab với Dify bằng cách sử dụng provider tương thích với OpenAI-API và URL cơ sở tùy chỉnh

Tổng quan

Sử dụng plugin provider mô hình tương thích với OpenAI-API để kết nối Dify với TokenLab. Thiết lập loại mô hình là LLM, Chế độ hoàn thiện (Completion mode) là Chat, và Loại API (API Type) là Chat Completions API. Hướng dẫn này sử dụng Chat Completions.

Điều kiện tiên quyết

  • Tài khoản TokenLab có quyền truy cập API
  • Dify Cloud hoặc Dify tự lưu trữ (self-hosted)

Các bước cấu hình

Bước 1: Lấy API Key của bạn

  1. Đăng nhập vào Bảng điều khiển TokenLab
  2. Mở API Keys
  3. Tạo hoặc sao chép một API key bắt đầu bằng sk-

Bước 2: Cấu hình Provider

Mở các Model Provider

Trong Dify, truy cập Cài đặt → Model Providers

Chọn OpenAI-API-compatible

Mở OpenAI-API-compatible. Nếu không thấy, hãy cài đặt plugin model-provider đó từ Dify Marketplace. Chọn Thêm mô hình (Add model) để nhập các cài đặt TokenLab.

Nhập cài đặt TokenLab

Sử dụng các giá trị sau:

TrườngGiá trị
API Keysk-your-tokenlab-key
Loại mô hìnhLLM
Chế độ hoàn thiệnChat
Loại APIChat Completions API
URL cơ sở APIhttps://api.tokenlab.sh/v1

Thêm mô hình

Thêm các mô hình bạn muốn sử dụng, ví dụ:

  • gpt-5.4
  • gpt-5.4-mini
  • claude-sonnet-5
  • claude-opus-4-8
  • gemini-3.8-flash
  • gemini-3.1-flash-lite
  • deepseek-v4.1-flash

Bước 3: Kiểm tra kết nối

  1. Chọn một mô hình bạn đã thêm, ví dụ gpt-5.4-mini.
  2. Gửi một prompt kiểm tra
  3. Xác nhận Dify nhận được phản hồi hợp lệ

Embeddings cho Cơ sở tri thức (Knowledge Bases)

Đối với RAG và lập chỉ mục cơ sở tri thức, hãy thêm mô hình embedding như:

  • text-embedding-3-small
  • text-embedding-3-large

Sau đó đặt nó làm mô hình embedding mặc định trong cơ sở tri thức hoặc cài đặt ứng dụng liên quan.

Chọn mô hình

Sao chép ID của các mô hình chat và embedding hiện tại từ trang Models. Dify phải cấu hình chat và embedding riêng biệt, và mỗi mô hình phải hỗ trợ API được thành phần Dify đó sử dụng.

Các thực tiễn tốt nhất

Khắc phục sự cố

Trên trang này