Framework và nền tảng
Vercel AI SDK
Sử dụng các mô hình TokenLab với Vercel AI SDK
Tổng quan
Sử dụng provider tương thích OpenAI cho Chat Completions. Nếu mô hình được chọn và ứng dụng của bạn cần Responses, hãy sử dụng OpenAI provider với cùng TokenLab Base URL.
Gói Provider của TokenLab
TokenLab cũng cung cấp một wrapper nhỏ cho Vercel AI SDK:
npm install ai @tokenlabai/ai-sdk-providerimport { generateText } from 'ai';
import { tokenlab } from '@tokenlabai/ai-sdk-provider';
const { text } = await generateText({
model: tokenlab.chatModel('gpt-5.6-terra'),
prompt: 'Explain TokenLab in one sentence.',
});
console.log(text);Mặc định được khuyến nghị: Provider tương thích OpenAI
npm install ai @ai-sdk/openai-compatible zodimport { createOpenAICompatible } from '@ai-sdk/openai-compatible';
export const tokenlab = createOpenAICompatible({
name: 'tokenlab',
apiKey: process.env.TOKENLAB_API_KEY,
baseURL: 'https://api.tokenlab.sh/v1',
});Tạo văn bản
import { generateText } from 'ai';
import { tokenlab } from './tokenlab';
const { text } = await generateText({
model: tokenlab.chatModel('gpt-5.6-terra'),
prompt: 'Explain TokenLab in one sentence.',
});
console.log(text);Stream văn bản
import { streamText } from 'ai';
import { tokenlab } from './tokenlab';
const result = await streamText({
model: tokenlab.chatModel('gpt-5.6-terra'),
prompt: 'Write a short poem about coding.',
});
for await (const textPart of result.textStream) {
process.stdout.write(textPart);
}Gọi công cụ
import { generateText, stepCountIs, tool } from 'ai';
import { z } from 'zod';
import { tokenlab } from './tokenlab';
const result = await generateText({
model: tokenlab.chatModel('gpt-5.6-terra'),
prompt: 'What is the weather in San Francisco?',
stopWhen: stepCountIs(2),
tools: {
weather: tool({
description: 'Get weather in a location',
inputSchema: z.object({
location: z.string(),
}),
execute: async ({ location }) => ({
location,
temperature: 72,
condition: 'sunny',
}),
}),
},
});
console.log(result.text);Đầu ra có cấu trúc
import { generateText, Output } from 'ai';
import { z } from 'zod';
import { tokenlab } from './tokenlab';
const { output } = await generateText({
model: tokenlab.chatModel('gpt-5.6-terra'),
output: Output.object({
schema: z.object({
name: z.string(),
role: z.string(),
}),
}),
prompt: 'Generate a fake developer profile.',
});
console.log(output);Nếu bạn cần hành vi native của Responses một cách rõ ràng
npm install ai @ai-sdk/openaiimport { createOpenAI } from '@ai-sdk/openai';
export const tokenlabResponses = createOpenAI({
apiKey: process.env.TOKENLAB_API_KEY,
baseURL: 'https://api.tokenlab.sh/v1',
});import { generateText } from 'ai';
import { tokenlabResponses } from './tokenlab-responses';
const { text } = await generateText({
model: tokenlabResponses('gpt-5.6-terra'),
prompt: 'Explain TokenLab in one sentence.',
});Sử dụng @ai-sdk/openai-compatible làm mặc định an toàn cho các tích hợp theo kiểu proxy. Chỉ chuyển sang @ai-sdk/openai khi bạn muốn sử dụng một đường dẫn provider được xây dựng trực tiếp trên /v1/responses một cách rõ ràng.
Biến môi trường
# .env.local
TOKENLAB_API_KEY=sk-your-tokenlab-key