Crear una completación de chat

ID del modelo a usar. Consulte Models para las opciones disponibles.

Una lista de mensajes que componen la conversación.

Cada objeto de mensaje contiene:

• role (string): system, developer, user, assistant, tool, function
• content (string | array | null): El contenido del mensaje

En un mensaje assistant que contenga tool_calls, se puede omitir content o establecerlo en null.

Cuando content es un array, TokenLab admite bloques multimodales estructurados para modelos compatibles:

• text: { "type": "text", "text": "..." }
• imagen: { "type": "image_url", "image_url": { "url": "https://..." } }
• video: { "type": "video_url", "video_url": { "url": "https://..." } }
• audio: { "type": "audio_url", "audio_url": { "url": "https://..." } }

Para entradas multimodales, use URL https de acceso público. Los tipos de medios compatibles dependen del modelo seleccionado.

Temperatura de muestreo. La compatibilidad, los valores permitidos y el valor predeterminado dependen del modelo seleccionado. Omita este campo para usar su valor predeterminado.

Número máximo de tokens a generar.

Si es true, se enviarán deltas parciales del mensaje como eventos SSE.

Opciones para streaming. Establezca include_usage: true para recibir el uso de tokens en fragmentos de la transmisión.

Parámetro de muestreo Nucleus. Recomendamos alterar esto o la temperatura, no ambos.

Número entre -2.0 y 2.0. Los valores positivos penalizan tokens repetidos.

Número entre -2.0 y 2.0. Los valores positivos penalizan tokens que ya están en el texto.

Secuencia de parada o lista de secuencias. La compatibilidad y el límite de secuencias dependen del modelo seleccionado.

Una lista de herramientas que el modelo puede invocar (llamado de funciones).

Controla cómo el modelo usa las herramientas. Opciones: auto, none, required, o un objeto de herramienta específico.

Permite varias llamadas a herramientas en un mismo turno del asistente, si el modelo seleccionado lo admite.

Tokens máximos para la completación. Alternativa a max_tokens, útil para familias de modelos más nuevas con capacidad de razonamiento.

Esfuerzo de razonamiento para modelos compatibles. Los valores permitidos dependen del modelo seleccionado.

Semilla de muestreo para modelos compatibles. No se garantiza una salida idéntica.

Número de completaciones a generar (1-128).

Si se deben retornar las probabilidades logarítmicas.

Número de probabilidades logarítmicas superiores a retornar (0-20). Requiere logprobs: true.

Muestreo Top-K para modelos compatibles.

Formato de respuesta. Use {"type": "json_object"} para el modo JSON o {"type": "json_schema", "json_schema": {...}} para un esquema JSON. La compatibilidad depende del modelo seleccionado.

Modifica la probabilidad de aparición de tokens especificados. Mapee IDs de tokens (como strings) a valores de sesgo de -100 a 100.

Un identificador único que representa a su usuario final para la monitorización de abuso.

Identificador único para la completación.

Siempre chat.completion.

Marca de tiempo Unix de cuando se creó la completación.

El modelo usado para la completación.

Lista de opciones de completación.

Cada opción contiene:

• index (integer): Índice de la opción
• message (object): El mensaje generado
• finish_reason (string): Motivo por el que se detuvo el modelo, por ejemplo stop, length o tool_calls

Estadísticas de uso de tokens.

• prompt_tokens (integer): Tokens en el prompt
• completion_tokens (integer): Tokens en la completación
• total_tokens (integer): Tokens totales utilizados