Frameworks et plateformes
Vercel AI SDK
Utiliser les modèles TokenLab avec Vercel AI SDK
Présentation
Utilisez le provider compatible OpenAI pour les Chat Completions. Si le modèle sélectionné et votre application ont besoin de Responses, utilisez le provider OpenAI avec la même Base URL TokenLab.
Package provider TokenLab
TokenLab fournit également un léger wrapper pour Vercel AI SDK :
npm install ai @tokenlabai/ai-sdk-providerimport { generateText } from 'ai';
import { tokenlab } from '@tokenlabai/ai-sdk-provider';
const { text } = await generateText({
model: tokenlab.chatModel('gpt-5.6-terra'),
prompt: 'Explain TokenLab in one sentence.',
});
console.log(text);Option par défaut recommandée : Provider compatible OpenAI
npm install ai @ai-sdk/openai-compatible zodimport { createOpenAICompatible } from '@ai-sdk/openai-compatible';
export const tokenlab = createOpenAICompatible({
name: 'tokenlab',
apiKey: process.env.TOKENLAB_API_KEY,
baseURL: 'https://api.tokenlab.sh/v1',
});Générer du texte
import { generateText } from 'ai';
import { tokenlab } from './tokenlab';
const { text } = await generateText({
model: tokenlab.chatModel('gpt-5.6-terra'),
prompt: 'Explain TokenLab in one sentence.',
});
console.log(text);Streaming de texte
import { streamText } from 'ai';
import { tokenlab } from './tokenlab';
const result = await streamText({
model: tokenlab.chatModel('gpt-5.6-terra'),
prompt: 'Write a short poem about coding.',
});
for await (const textPart of result.textStream) {
process.stdout.write(textPart);
}Appel d'outils
import { generateText, stepCountIs, tool } from 'ai';
import { z } from 'zod';
import { tokenlab } from './tokenlab';
const result = await generateText({
model: tokenlab.chatModel('gpt-5.6-terra'),
prompt: 'What is the weather in San Francisco?',
stopWhen: stepCountIs(2),
tools: {
weather: tool({
description: 'Get weather in a location',
inputSchema: z.object({
location: z.string(),
}),
execute: async ({ location }) => ({
location,
temperature: 72,
condition: 'sunny',
}),
}),
},
});
console.log(result.text);Sortie structurée
import { generateText, Output } from 'ai';
import { z } from 'zod';
import { tokenlab } from './tokenlab';
const { output } = await generateText({
model: tokenlab.chatModel('gpt-5.6-terra'),
output: Output.object({
schema: z.object({
name: z.string(),
role: z.string(),
}),
}),
prompt: 'Generate a fake developer profile.',
});
console.log(output);Si vous avez explicitement besoin du comportement natif de Responses
npm install ai @ai-sdk/openaiimport { createOpenAI } from '@ai-sdk/openai';
export const tokenlabResponses = createOpenAI({
apiKey: process.env.TOKENLAB_API_KEY,
baseURL: 'https://api.tokenlab.sh/v1',
});import { generateText } from 'ai';
import { tokenlabResponses } from './tokenlab-responses';
const { text } = await generateText({
model: tokenlabResponses('gpt-5.6-terra'),
prompt: 'Explain TokenLab in one sentence.',
});Utilisez @ai-sdk/openai-compatible comme valeur par défaut sûre pour les intégrations de type proxy. Ne basculez vers @ai-sdk/openai que si vous souhaitez explicitement utiliser un chemin de provider basé sur /v1/responses.
Variables d'environnement
# .env.local
TOKENLAB_API_KEY=sk-your-tokenlab-key