TokenLab

Framework và nền tảng

Vercel AI SDK

Sử dụng các mô hình TokenLab với Vercel AI SDK

Tổng quan

Sử dụng provider tương thích OpenAI cho Chat Completions. Nếu mô hình được chọn và ứng dụng của bạn cần Responses, hãy sử dụng OpenAI provider với cùng TokenLab Base URL.

Gói Provider của TokenLab

TokenLab cũng cung cấp một wrapper nhỏ cho Vercel AI SDK:

npm install ai @tokenlabai/ai-sdk-provider
import { generateText } from 'ai';
import { tokenlab } from '@tokenlabai/ai-sdk-provider';

const { text } = await generateText({
  model: tokenlab.chatModel('gpt-5.6-terra'),
  prompt: 'Explain TokenLab in one sentence.',
});

console.log(text);

Mặc định được khuyến nghị: Provider tương thích OpenAI

npm install ai @ai-sdk/openai-compatible zod
import { createOpenAICompatible } from '@ai-sdk/openai-compatible';

export const tokenlab = createOpenAICompatible({
  name: 'tokenlab',
  apiKey: process.env.TOKENLAB_API_KEY,
  baseURL: 'https://api.tokenlab.sh/v1',
});

Tạo văn bản

import { generateText } from 'ai';
import { tokenlab } from './tokenlab';

const { text } = await generateText({
  model: tokenlab.chatModel('gpt-5.6-terra'),
  prompt: 'Explain TokenLab in one sentence.',
});

console.log(text);

Stream văn bản

import { streamText } from 'ai';
import { tokenlab } from './tokenlab';

const result = await streamText({
  model: tokenlab.chatModel('gpt-5.6-terra'),
  prompt: 'Write a short poem about coding.',
});

for await (const textPart of result.textStream) {
  process.stdout.write(textPart);
}

Gọi công cụ

import { generateText, stepCountIs, tool } from 'ai';
import { z } from 'zod';
import { tokenlab } from './tokenlab';

const result = await generateText({
  model: tokenlab.chatModel('gpt-5.6-terra'),
  prompt: 'What is the weather in San Francisco?',
  stopWhen: stepCountIs(2),
  tools: {
    weather: tool({
      description: 'Get weather in a location',
      inputSchema: z.object({
        location: z.string(),
      }),
      execute: async ({ location }) => ({
        location,
        temperature: 72,
        condition: 'sunny',
      }),
    }),
  },
});

console.log(result.text);

Đầu ra có cấu trúc

import { generateText, Output } from 'ai';
import { z } from 'zod';
import { tokenlab } from './tokenlab';

const { output } = await generateText({
  model: tokenlab.chatModel('gpt-5.6-terra'),
  output: Output.object({
    schema: z.object({
      name: z.string(),
      role: z.string(),
    }),
  }),
  prompt: 'Generate a fake developer profile.',
});

console.log(output);

Nếu bạn cần hành vi native của Responses một cách rõ ràng

npm install ai @ai-sdk/openai
import { createOpenAI } from '@ai-sdk/openai';

export const tokenlabResponses = createOpenAI({
  apiKey: process.env.TOKENLAB_API_KEY,
  baseURL: 'https://api.tokenlab.sh/v1',
});
import { generateText } from 'ai';
import { tokenlabResponses } from './tokenlab-responses';

const { text } = await generateText({
  model: tokenlabResponses('gpt-5.6-terra'),
  prompt: 'Explain TokenLab in one sentence.',
});

Sử dụng @ai-sdk/openai-compatible làm mặc định an toàn cho các tích hợp theo kiểu proxy. Chỉ chuyển sang @ai-sdk/openai khi bạn muốn sử dụng một đường dẫn provider được xây dựng trực tiếp trên /v1/responses một cách rõ ràng.

Biến môi trường

# .env.local
TOKENLAB_API_KEY=sk-your-tokenlab-key

Thực hành tốt nhất

Trên trang này