Panduan inti

Format API

Pilih Chat Completions, Responses, Messages, atau Gemini

Satu kunci API TokenLab dapat digunakan dengan empat format API umum. Gunakan format yang sudah dipakai oleh aplikasi Anda kecuali jika Anda memerlukan fitur khusus model tertentu.

FormatEndpointPilih jika
Chat Completions/v1/chat/completionsAnda menggunakan klien chat yang kompatibel dengan OpenAI atau menginginkan kompatibilitas model yang luas
Responses/v1/responsesAplikasi Anda menggunakan event Responses, respons latar belakang, atau tool Responses
Anthropic Messages/v1/messagesAnda memerlukan field Claude Messages seperti thinking atau penggunaan tool Claude
Gemini/v1beta/models/:model:generateContentAnda sudah menggunakan contents, parts, files, cache, atau tool Gemini

Periksa tokenlab.accepted_request_formats pada halaman model atau di GET /v1/models/{model}. Sebuah model tidak selalu menerima keempat format tersebut.

Chat Completions

Chat Completions adalah pilihan termudah untuk klien yang kompatibel dengan OpenAI yang sudah ada dan fitur chat portabel.

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

response = client.chat.completions.create(
    model="gpt-5.6-luna",
    messages=[{"role": "user", "content": "Hello!"}],
)

print(response.choices[0].message.content)

Gunakan format ini untuk:

  • integrasi chat yang kompatibel dengan OpenAI yang sudah ada
  • riwayat pesan standar dan streaming
  • pemanggilan fungsi (function calling) yang didukung oleh model yang dipilih

Field yang unik untuk format API lain tidak dijamin berfungsi di sini.

Responses

Gunakan Responses hanya jika model yang dipilih mencantumkan openai_responses di dalam accepted_request_formats.

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

response = client.responses.create(
    model="gpt-5.6-terra",
    input="Explain why the sky is blue in two sentences.",
)

print(response.output_text)

API Responses mendukung create, retrieve, compact, delete, streaming, pembuatan dan kelanjutan WebSocket, serta respons latar belakang jika didukung oleh model yang dipilih. Delete akan menghapus respons yang tersimpan; ini tidak membatalkan respons yang sedang aktif.

Anthropic Messages

Gunakan SDK Anthropic dengan host TokenLab, tanpa menambahkan /v1 ke base URL.

import os
from anthropic import Anthropic

client = Anthropic(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh",
)

message = client.messages.create(
    model="claude-sonnet-5",
    max_tokens=512,
    messages=[{"role": "user", "content": "Hello!"}],
)

print(message.content[0].text)

Pilih Messages untuk field permintaan dan respons khusus Claude. Gunakan format ini untuk pemanggilan tool Claude, blok thinking, dan field prompt-cache.

Gemini

Permintaan Gemini menggunakan host TokenLab dan path REST Gemini.

curl "https://api.tokenlab.sh/v1beta/models/gemini-3.6-flash:generateContent" \
  -H "Authorization: Bearer $TOKENLAB_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "contents": [{"parts": [{"text": "Hello!"}]}]
  }'

Pilih Gemini jika aplikasi Anda sudah menggunakan content parts, deklarasi fungsi, files, konten cache, atau field Gemini lainnya. Baik nama ProtoJSON lowerCamelCase maupun nama proto snake_case asli dapat diterima; hindari mengirimkan kedua penulisan field yang sama dalam satu permintaan.

Jangan mencampur format dalam satu percakapan

Messages, Responses, Chat Completions, dan Gemini merepresentasikan status percakapan dan pemanggilan tool dengan cara yang berbeda. Gunakan satu format untuk satu percakapan. Jika Anda harus memigrasikan riwayat yang tersimpan, konversi dan validasi riwayat tersebut di aplikasi Anda sebelum mengirimkan permintaan berikutnya.

Field yang tidak dikenal

TokenLab mungkin meneruskan field yang tidak dikenali oleh sistem, namun bukan berarti setiap model menerimanya. Sebuah fitur aman untuk diandalkan hanya jika model yang dipilih mendokumentasikannya dan aplikasi Anda menangani error field yang tidak didukung.

Referensi terkait

Di halaman ini