各リクエストに対して Auto、TokenLab Verified、または Official を選択でき、価格は事前に表示されます。 新機能を見る

TokenLab ブログ

使い方ガイド・モデル情報・製品アップデート

エージェントのためのResponses APIとChat Completionsの比較:コントラクトの選択
インサイト

エージェントのためのResponses APIとChat Completionsの比較:コントラクトの選択

Responses APIとChat Completionsのどちらを選択するかは、会話の状態を誰が管理するかに依存します。本ガイドでは、意思決定テーブルと、それに対応するリクエスト、ツールおよびストリーミングの違い、モデルごとのフォーマットチェック、そして移行チェックリストをまとめています。

9月19日
LLMのLatencyとThroughput:API購入者がスピードを測定する方法
インサイト

LLMのLatencyとThroughput:API購入者がスピードを測定する方法

TokenLabによる4つのモデルを用いた古いストリーミングのサンプルは、最初のトークンが表示されるまでの時間(first visible token)、合計時間、および1秒あたりのトークン数(tokens per second)を、ハーネス、ログ記録用のヘッダー、そしてレート制限の計算を用いて個別に測定しなければならない理由を示しています。

9月19日
AIモデルの非推奨化とバージョニング:API統合を安定させる方法
インサイト

AIモデルの非推奨化とバージョニング:API統合を安定させる方法

TokenLabにおけるAIモデルの廃止(deprecation)とバージョニングに関する実践ガイド:ライフサイクルフィールドの定義、CIチェック用スクリプト、モデルが存在しない場合に返される値、およびフォールバックパターンについて解説します。

9月19日