Frameworks & Plattformen

Vercel AI SDK

TokenLab-Modelle mit dem Vercel AI SDK verwenden

Übersicht

Verwenden Sie den OpenAI-kompatiblen Provider für Chat Completions. Wenn das ausgewählte Modell und Ihre Anwendung Responses benötigen, verwenden Sie den OpenAI-Provider mit derselben TokenLab Base-URL.

TokenLab-Provider-Paket

TokenLab bietet auch einen schlanken Vercel AI SDK-Wrapper:

npm install ai @tokenlabai/ai-sdk-provider
import { generateText } from 'ai';
import { tokenlab } from '@tokenlabai/ai-sdk-provider';

const { text } = await generateText({
  model: tokenlab.chatModel('gpt-5.6-terra'),
  prompt: 'Explain TokenLab in one sentence.',
});

console.log(text);

Empfohlener Standard: OpenAI-kompatibler Provider

npm install ai @ai-sdk/openai-compatible zod
import { createOpenAICompatible } from '@ai-sdk/openai-compatible';

export const tokenlab = createOpenAICompatible({
  name: 'tokenlab',
  apiKey: process.env.TOKENLAB_API_KEY,
  baseURL: 'https://api.tokenlab.sh/v1',
});

Text generieren

import { generateText } from 'ai';
import { tokenlab } from './tokenlab';

const { text } = await generateText({
  model: tokenlab.chatModel('gpt-5.6-terra'),
  prompt: 'Explain TokenLab in one sentence.',
});

console.log(text);

Text streamen

import { streamText } from 'ai';
import { tokenlab } from './tokenlab';

const result = await streamText({
  model: tokenlab.chatModel('gpt-5.6-terra'),
  prompt: 'Write a short poem about coding.',
});

for await (const textPart of result.textStream) {
  process.stdout.write(textPart);
}

Tool Calling

import { generateText, stepCountIs, tool } from 'ai';
import { z } from 'zod';
import { tokenlab } from './tokenlab';

const result = await generateText({
  model: tokenlab.chatModel('gpt-5.6-terra'),
  prompt: 'What is the weather in San Francisco?',
  stopWhen: stepCountIs(2),
  tools: {
    weather: tool({
      description: 'Get weather in a location',
      inputSchema: z.object({
        location: z.string(),
      }),
      execute: async ({ location }) => ({
        location,
        temperature: 72,
        condition: 'sunny',
      }),
    }),
  },
});

console.log(result.text);

Strukturierte Ausgabe

import { generateText, Output } from 'ai';
import { z } from 'zod';
import { tokenlab } from './tokenlab';

const { output } = await generateText({
  model: tokenlab.chatModel('gpt-5.6-terra'),
  output: Output.object({
    schema: z.object({
      name: z.string(),
      role: z.string(),
    }),
  }),
  prompt: 'Generate a fake developer profile.',
});

console.log(output);

Wenn Sie explizit natives Responses-Verhalten benötigen

npm install ai @ai-sdk/openai
import { createOpenAI } from '@ai-sdk/openai';

export const tokenlabResponses = createOpenAI({
  apiKey: process.env.TOKENLAB_API_KEY,
  baseURL: 'https://api.tokenlab.sh/v1',
});
import { generateText } from 'ai';
import { tokenlabResponses } from './tokenlab-responses';

const { text } = await generateText({
  model: tokenlabResponses('gpt-5.6-terra'),
  prompt: 'Explain TokenLab in one sentence.',
});

Verwenden Sie @ai-sdk/openai-compatible als sicheren Standard für Proxy-basierte Integrationen. Wechseln Sie nur zu @ai-sdk/openai, wenn Sie explizit einen Provider-Pfad wünschen, der auf /v1/responses aufbaut.

Umgebungsvariablen

# .env.local
TOKENLAB_API_KEY=sk-your-tokenlab-key

Empfehlungen

Auf dieser Seite