Pilih Auto, TokenLab Verified, atau Official untuk setiap permintaan, dengan harga yang ditampilkan di awal. Lihat yang baru

Blog TokenLab

Panduan, model, dan pembaruan produk

Responses API vs Chat Completions untuk Agen: Memilih Kontrak
Wawasan

Responses API vs Chat Completions untuk Agen: Memilih Kontrak

Perbedaan antara Responses API dan Chat Completions terletak pada siapa yang memegang kendali atas status percakapan, dan panduan ini menyandingkan tabel keputusan dengan permintaan yang sesuai, perbedaan tool dan streaming, pemeriksaan format per-model, serta daftar periksa migrasi.

19 September
Latensi vs Throughput LLM: Cara Pembeli API Mengukur Kecepatan
Wawasan

Latensi vs Throughput LLM: Cara Pembeli API Mengukur Kecepatan

Sampel streaming empat model yang sudah lama dari TokenLab menunjukkan mengapa *first visible token*, waktu total, dan *tokens per second* harus diukur secara terpisah, dengan *harness*, *header* untuk mencatat log, serta perhitungan *rate-limit*.

19 September