TokenLab

Frameworks et plateformes

Vercel AI SDK

Utiliser les modèles TokenLab avec Vercel AI SDK

Présentation

Utilisez le provider compatible OpenAI pour les Chat Completions. Si le modèle sélectionné et votre application ont besoin de Responses, utilisez le provider OpenAI avec la même Base URL TokenLab.

Package provider TokenLab

TokenLab fournit également un léger wrapper pour Vercel AI SDK :

npm install ai @tokenlabai/ai-sdk-provider
import { generateText } from 'ai';
import { tokenlab } from '@tokenlabai/ai-sdk-provider';

const { text } = await generateText({
  model: tokenlab.chatModel('gpt-5.6-terra'),
  prompt: 'Explain TokenLab in one sentence.',
});

console.log(text);

Option par défaut recommandée : Provider compatible OpenAI

npm install ai @ai-sdk/openai-compatible zod
import { createOpenAICompatible } from '@ai-sdk/openai-compatible';

export const tokenlab = createOpenAICompatible({
  name: 'tokenlab',
  apiKey: process.env.TOKENLAB_API_KEY,
  baseURL: 'https://api.tokenlab.sh/v1',
});

Générer du texte

import { generateText } from 'ai';
import { tokenlab } from './tokenlab';

const { text } = await generateText({
  model: tokenlab.chatModel('gpt-5.6-terra'),
  prompt: 'Explain TokenLab in one sentence.',
});

console.log(text);

Streaming de texte

import { streamText } from 'ai';
import { tokenlab } from './tokenlab';

const result = await streamText({
  model: tokenlab.chatModel('gpt-5.6-terra'),
  prompt: 'Write a short poem about coding.',
});

for await (const textPart of result.textStream) {
  process.stdout.write(textPart);
}

Appel d'outils

import { generateText, stepCountIs, tool } from 'ai';
import { z } from 'zod';
import { tokenlab } from './tokenlab';

const result = await generateText({
  model: tokenlab.chatModel('gpt-5.6-terra'),
  prompt: 'What is the weather in San Francisco?',
  stopWhen: stepCountIs(2),
  tools: {
    weather: tool({
      description: 'Get weather in a location',
      inputSchema: z.object({
        location: z.string(),
      }),
      execute: async ({ location }) => ({
        location,
        temperature: 72,
        condition: 'sunny',
      }),
    }),
  },
});

console.log(result.text);

Sortie structurée

import { generateText, Output } from 'ai';
import { z } from 'zod';
import { tokenlab } from './tokenlab';

const { output } = await generateText({
  model: tokenlab.chatModel('gpt-5.6-terra'),
  output: Output.object({
    schema: z.object({
      name: z.string(),
      role: z.string(),
    }),
  }),
  prompt: 'Generate a fake developer profile.',
});

console.log(output);

Si vous avez explicitement besoin du comportement natif de Responses

npm install ai @ai-sdk/openai
import { createOpenAI } from '@ai-sdk/openai';

export const tokenlabResponses = createOpenAI({
  apiKey: process.env.TOKENLAB_API_KEY,
  baseURL: 'https://api.tokenlab.sh/v1',
});
import { generateText } from 'ai';
import { tokenlabResponses } from './tokenlab-responses';

const { text } = await generateText({
  model: tokenlabResponses('gpt-5.6-terra'),
  prompt: 'Explain TokenLab in one sentence.',
});

Utilisez @ai-sdk/openai-compatible comme valeur par défaut sûre pour les intégrations de type proxy. Ne basculez vers @ai-sdk/openai que si vous souhaitez explicitement utiliser un chemin de provider basé sur /v1/responses.

Variables d'environnement

# .env.local
TOKENLAB_API_KEY=sk-your-tokenlab-key

Bonnes pratiques

Sur cette page