TokenLab

框架與平台

Vercel AI SDK

在 Vercel AI SDK 中使用 TokenLab 模型

概觀

使用 OpenAI-compatible provider 進行 Chat Completions。若選取的模型與您的應用程式需要 Responses,請使用具有相同 TokenLab Base URL 的 OpenAI provider。

TokenLab Provider 套件

TokenLab 亦提供輕量級的 Vercel AI SDK 包裝套件:

npm install ai @tokenlabai/ai-sdk-provider
import { generateText } from 'ai';
import { tokenlab } from '@tokenlabai/ai-sdk-provider';

const { text } = await generateText({
  model: tokenlab.chatModel('gpt-5.6-terra'),
  prompt: 'Explain TokenLab in one sentence.',
});

console.log(text);

建議預設:OpenAI-Compatible Provider

npm install ai @ai-sdk/openai-compatible zod
import { createOpenAICompatible } from '@ai-sdk/openai-compatible';

export const tokenlab = createOpenAICompatible({
  name: 'tokenlab',
  apiKey: process.env.TOKENLAB_API_KEY,
  baseURL: 'https://api.tokenlab.sh/v1',
});

生成文字

import { generateText } from 'ai';
import { tokenlab } from './tokenlab';

const { text } = await generateText({
  model: tokenlab.chatModel('gpt-5.6-terra'),
  prompt: 'Explain TokenLab in one sentence.',
});

console.log(text);

串流文字

import { streamText } from 'ai';
import { tokenlab } from './tokenlab';

const result = await streamText({
  model: tokenlab.chatModel('gpt-5.6-terra'),
  prompt: 'Write a short poem about coding.',
});

for await (const textPart of result.textStream) {
  process.stdout.write(textPart);
}

工具呼叫

import { generateText, stepCountIs, tool } from 'ai';
import { z } from 'zod';
import { tokenlab } from './tokenlab';

const result = await generateText({
  model: tokenlab.chatModel('gpt-5.6-terra'),
  prompt: 'What is the weather in San Francisco?',
  stopWhen: stepCountIs(2),
  tools: {
    weather: tool({
      description: 'Get weather in a location',
      inputSchema: z.object({
        location: z.string(),
      }),
      execute: async ({ location }) => ({
        location,
        temperature: 72,
        condition: 'sunny',
      }),
    }),
  },
});

console.log(result.text);

結構化輸出

import { generateText, Output } from 'ai';
import { z } from 'zod';
import { tokenlab } from './tokenlab';

const { output } = await generateText({
  model: tokenlab.chatModel('gpt-5.6-terra'),
  output: Output.object({
    schema: z.object({
      name: z.string(),
      role: z.string(),
    }),
  }),
  prompt: 'Generate a fake developer profile.',
});

console.log(output);

若明確需要 Responses 原生行為

npm install ai @ai-sdk/openai
import { createOpenAI } from '@ai-sdk/openai';

export const tokenlabResponses = createOpenAI({
  apiKey: process.env.TOKENLAB_API_KEY,
  baseURL: 'https://api.tokenlab.sh/v1',
});
import { generateText } from 'ai';
import { tokenlabResponses } from './tokenlab-responses';

const { text } = await generateText({
  model: tokenlabResponses('gpt-5.6-terra'),
  prompt: 'Explain TokenLab in one sentence.',
});

將 @ai-sdk/openai-compatible 作為代理整合的安全預設選項。僅在明確需要基於 /v1/responses 構建的 provider 路徑時,才切換至 @ai-sdk/openai。

環境變數

# .env.local
TOKENLAB_API_KEY=sk-your-tokenlab-key

最佳實踐

本頁內容