建立聊天補全

要使用的模型 ID。可用選項請參閱 Models。

組成對話的一系列訊息。

每個訊息物件包含：

• role (string): system, developer, user, assistant, tool, function
• content (string | array | null): 訊息內容

包含 tool_calls 的 assistant 訊息可以省略 content，或將其設為 null。

當 content 為陣列時，TokenLab 支援相容模型的結構化多模態區塊：

• text: { "type": "text", "text": "..." }
• 圖片: { "type": "image_url", "image_url": { "url": "https://..." } }
• 影片: { "type": "video_url", "video_url": { "url": "https://..." } }
• 音訊: { "type": "audio_url", "audio_url": { "url": "https://..." } }

多模態輸入請使用可公開存取的 https URL。支援的媒體類型取決於所選模型。

取樣溫度。是否支援、允許的取值與預設值取決於所選模型；省略此欄位即可使用模型預設值。

要生成的最大 token 數量。

若為 true，部分訊息差異將會以 SSE 事件發送。

串流選項。設定 include_usage: true 以在串流分片中接收 token 使用資訊。

Nucleus 取樣參數。建議調整此參數或 temperature，而非兩者同時調整。

數值介於 -2.0 到 2.0。正值會懲罰重複出現的 token。

數值介於 -2.0 到 2.0。正值會懲罰已出現在文字中的 token。

停止序列或序列清單。是否支援及序列數量限制取決於所選模型。

模型可能會呼叫的一組工具（函式呼叫）。

控制模型如何使用工具。選項：auto、none、required，或指定的工具物件。

在所選模型支援時，允許助理在同一輪中發出多個工具呼叫。

補全的最大 token 數量。為 max_tokens 的替代方案，對於較新的具推理能力的模型族群較有用。

支援推理的模型使用的推理強度，允許的取值取決於所選模型。

供支援此功能的模型使用的取樣種子，不保證產生完全相同的輸出。

要生成的補全數量（1-128）。

是否回傳對數機率（log probabilities）。

要回傳的前 N 個對數機率（0-20）。需要 logprobs: true。

供支援此功能的模型使用的 Top-K 取樣參數。

回應格式。JSON 模式使用 {"type": "json_object"}，JSON Schema 使用 {"type": "json_schema", "json_schema": {...}}。支援情況取決於所選模型。

修改指定 token 出現機率的偏好。將 token ID（以字串）對映到 -100 到 100 的偏差值。

代表終端使用者的唯一識別碼，用於濫用監控。

此補全的唯一識別碼。

永遠為 chat.completion。

補全建立的 Unix 時間戳記。

用於補全的模型。

補全選項清單。

每個選項包含：

• index (integer): 選項的索引
• message (object): 生成的訊息
• finish_reason (string): 模型停止的原因，例如 stop、length 或 tool_calls

token 使用統計。

• prompt_tokens (integer): prompt 中的 token 數
• completion_tokens (integer): 補全中的 token 數
• total_tokens (integer): 使用的總 token 數