Panduan inti
Format API
Pilih Chat Completions, Responses, Messages, atau Gemini
Satu kunci API TokenLab dapat digunakan dengan empat format API umum. Gunakan format yang sudah dipakai oleh aplikasi Anda kecuali jika Anda memerlukan fitur khusus model tertentu.
| Format | Endpoint | Pilih jika |
|---|---|---|
| Chat Completions | /v1/chat/completions | Anda menggunakan klien chat yang kompatibel dengan OpenAI atau menginginkan kompatibilitas model yang luas |
| Responses | /v1/responses | Aplikasi Anda menggunakan event Responses, respons latar belakang, atau tool Responses |
| Anthropic Messages | /v1/messages | Anda memerlukan field Claude Messages seperti thinking atau penggunaan tool Claude |
| Gemini | /v1beta/models/:model:generateContent | Anda sudah menggunakan contents, parts, files, cache, atau tool Gemini |
Periksa tokenlab.accepted_request_formats pada halaman model atau di GET /v1/models/{model}. Sebuah model tidak selalu menerima keempat format tersebut.
Chat Completions
Chat Completions adalah pilihan termudah untuk klien yang kompatibel dengan OpenAI yang sudah ada dan fitur chat portabel.
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
response = client.chat.completions.create(
model="gpt-5.6-luna",
messages=[{"role": "user", "content": "Hello!"}],
)
print(response.choices[0].message.content)Gunakan format ini untuk:
- integrasi chat yang kompatibel dengan OpenAI yang sudah ada
- riwayat pesan standar dan streaming
- pemanggilan fungsi (function calling) yang didukung oleh model yang dipilih
Field yang unik untuk format API lain tidak dijamin berfungsi di sini.
Responses
Gunakan Responses hanya jika model yang dipilih mencantumkan openai_responses di dalam accepted_request_formats.
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
response = client.responses.create(
model="gpt-5.6-terra",
input="Explain why the sky is blue in two sentences.",
)
print(response.output_text)API Responses mendukung create, retrieve, compact, delete, streaming, pembuatan dan kelanjutan WebSocket, serta respons latar belakang jika didukung oleh model yang dipilih. Delete akan menghapus respons yang tersimpan; ini tidak membatalkan respons yang sedang aktif.
Anthropic Messages
Gunakan SDK Anthropic dengan host TokenLab, tanpa menambahkan /v1 ke base URL.
import os
from anthropic import Anthropic
client = Anthropic(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh",
)
message = client.messages.create(
model="claude-sonnet-5",
max_tokens=512,
messages=[{"role": "user", "content": "Hello!"}],
)
print(message.content[0].text)Pilih Messages untuk field permintaan dan respons khusus Claude. Gunakan format ini untuk pemanggilan tool Claude, blok thinking, dan field prompt-cache.
Gemini
Permintaan Gemini menggunakan host TokenLab dan path REST Gemini.
curl "https://api.tokenlab.sh/v1beta/models/gemini-3.6-flash:generateContent" \
-H "Authorization: Bearer $TOKENLAB_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"contents": [{"parts": [{"text": "Hello!"}]}]
}'Pilih Gemini jika aplikasi Anda sudah menggunakan content parts, deklarasi fungsi, files, konten cache, atau field Gemini lainnya. Baik nama ProtoJSON lowerCamelCase maupun nama proto snake_case asli dapat diterima; hindari mengirimkan kedua penulisan field yang sama dalam satu permintaan.
Jangan mencampur format dalam satu percakapan
Messages, Responses, Chat Completions, dan Gemini merepresentasikan status percakapan dan pemanggilan tool dengan cara yang berbeda. Gunakan satu format untuk satu percakapan. Jika Anda harus memigrasikan riwayat yang tersimpan, konversi dan validasi riwayat tersebut di aplikasi Anda sebelum mengirimkan permintaan berikutnya.
Field yang tidak dikenal
TokenLab mungkin meneruskan field yang tidak dikenali oleh sistem, namun bukan berarti setiap model menerimanya. Sebuah fitur aman untuk diandalkan hanya jika model yang dipilih mendokumentasikannya dan aplikasi Anda menangani error field yang tidak didukung.