Framework và nền tảng
Portkey Gateway
Sử dụng TokenLab làm nhà cung cấp upstream trong Portkey Gateway
Tổng quan
Cấu hình TokenLab trong Portkey dưới dạng host tùy chỉnh tương thích với OpenAI. Chỉ dùng Responses khi phiên bản Portkey của bạn hỗ trợ endpoint Responses tùy chỉnh.
Loại: AI Gateway
Các đường dẫn chính: Chat completions tương thích với OpenAI và Responses
Độ tin cậy hỗ trợ: Đường dẫn được hỗ trợ
Các giá trị nhà cung cấp
| Trường | Giá trị |
|---|---|
| Provider | openai |
| Custom Host | https://api.tokenlab.sh/v1 |
| API key | sk-your-tokenlab-key |
| Mô hình | ID mô hình TokenLab hiện có |
Chat Completions
Sử dụng TokenLab cho các yêu cầu chat tương thích với OpenAI:
Ví dụ này yêu cầu Portkey Gateway tự lưu trữ đang chạy. Thay URL gateway bằng URL triển khai của bạn. Với Portkey Cloud, hãy gửi thêm khóa API Portkey qua x-portkey-api-key. Xem hướng dẫn cấu hình Portkey.
curl https://your-portkey-gateway.example/v1/chat/completions \
-H "Content-Type: application/json" \
-H "x-portkey-provider: openai" \
-H "x-portkey-custom-host: https://api.tokenlab.sh/v1" \
-H "Authorization: Bearer sk-your-tokenlab-key" \
-d '{
"model": "gpt-5.6-luna",
"messages": [{"role": "user", "content": "Say hello from TokenLab."}]
}'Responses
Nếu phiên bản Portkey của bạn hỗ trợ URL Responses tùy chỉnh, hãy chọn mô hình hiện có hỗ trợ Responses trên trang mô hình và dùng /v1/responses.
Lưu ý về Native Endpoint
Chỉ có thể dùng Anthropic Messages và Gemini qua Portkey nếu phiên bản Portkey của bạn hỗ trợ URL tùy chỉnh cho các định dạng đó.