TokenLab

프레임워크 및 플랫폼

Vercel AI SDK

Vercel AI SDK와 함께 TokenLab 모델 사용하기

개요

Chat Completions에는 OpenAI 호환 provider를 사용하세요. 선택한 모델과 애플리케이션에 Responses가 필요한 경우, 동일한 TokenLab Base URL과 함께 OpenAI provider를 사용하세요.

TokenLab Provider 패키지

TokenLab은 가벼운 Vercel AI SDK 래퍼도 제공합니다:

npm install ai @tokenlabai/ai-sdk-provider
import { generateText } from 'ai';
import { tokenlab } from '@tokenlabai/ai-sdk-provider';

const { text } = await generateText({
  model: tokenlab.chatModel('gpt-5.6-terra'),
  prompt: 'Explain TokenLab in one sentence.',
});

console.log(text);

권장 기본 설정: OpenAI 호환 Provider

npm install ai @ai-sdk/openai-compatible zod
import { createOpenAICompatible } from '@ai-sdk/openai-compatible';

export const tokenlab = createOpenAICompatible({
  name: 'tokenlab',
  apiKey: process.env.TOKENLAB_API_KEY,
  baseURL: 'https://api.tokenlab.sh/v1',
});

텍스트 생성

import { generateText } from 'ai';
import { tokenlab } from './tokenlab';

const { text } = await generateText({
  model: tokenlab.chatModel('gpt-5.6-terra'),
  prompt: 'Explain TokenLab in one sentence.',
});

console.log(text);

텍스트 스트리밍

import { streamText } from 'ai';
import { tokenlab } from './tokenlab';

const result = await streamText({
  model: tokenlab.chatModel('gpt-5.6-terra'),
  prompt: 'Write a short poem about coding.',
});

for await (const textPart of result.textStream) {
  process.stdout.write(textPart);
}

Tool Calling

import { generateText, stepCountIs, tool } from 'ai';
import { z } from 'zod';
import { tokenlab } from './tokenlab';

const result = await generateText({
  model: tokenlab.chatModel('gpt-5.6-terra'),
  prompt: 'What is the weather in San Francisco?',
  stopWhen: stepCountIs(2),
  tools: {
    weather: tool({
      description: 'Get weather in a location',
      inputSchema: z.object({
        location: z.string(),
      }),
      execute: async ({ location }) => ({
        location,
        temperature: 72,
        condition: 'sunny',
      }),
    }),
  },
});

console.log(result.text);

구조화된 출력

import { generateText, Output } from 'ai';
import { z } from 'zod';
import { tokenlab } from './tokenlab';

const { output } = await generateText({
  model: tokenlab.chatModel('gpt-5.6-terra'),
  output: Output.object({
    schema: z.object({
      name: z.string(),
      role: z.string(),
    }),
  }),
  prompt: 'Generate a fake developer profile.',
});

console.log(output);

Responses 네이티브 동작이 명시적으로 필요한 경우

npm install ai @ai-sdk/openai
import { createOpenAI } from '@ai-sdk/openai';

export const tokenlabResponses = createOpenAI({
  apiKey: process.env.TOKENLAB_API_KEY,
  baseURL: 'https://api.tokenlab.sh/v1',
});
import { generateText } from 'ai';
import { tokenlabResponses } from './tokenlab-responses';

const { text } = await generateText({
  model: tokenlabResponses('gpt-5.6-terra'),
  prompt: 'Explain TokenLab in one sentence.',
});

프록시 스타일 연동에는 안전한 기본값으로 @ai-sdk/openai-compatible을 사용하세요. /v1/responses 기반으로 빌드된 provider 경로가 명시적으로 필요한 경우에만 @ai-sdk/openai로 전환하세요.

환경 변수

# .env.local
TOKENLAB_API_KEY=sk-your-tokenlab-key

모범 사례

이 페이지의 내용