Tạo Tin nhắn

Tổng quanCopy Anchor Link

Endpoint này cung cấp khả năng tương thích gốc với Anthropic Messages API. Hãy sử dụng endpoint này cho các model Claude với các tính năng như extended thinking.

Endpoint này giữ nguyên hợp đồng native của Anthropic. messages phải là mảng tin nhắn user / assistant, system nằm ở field cấp cao nhất system, và max_tokens là bắt buộc. Nếu payload dùng role kiểu OpenAI như system, developer, hoặc tool bên trong messages, hãy gửi sang /v1/chat/completions.

Header của RequestCopy Anchor Link

Body của RequestCopy Anchor Link

Phản hồiCopy Anchor Link

curl -X POST "https://api.tokenlab.sh/v1/messages" \
  -H "x-api-key: sk-your-api-key" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-sonnet-5",
    "max_tokens": 1024,
    "system": "You are a helpful assistant.",
    "messages": [
      {"role": "user", "content": "Hello, Claude!"}
    ]
  }'

{
  "id": "msg_abc123",
  "type": "message",
  "role": "assistant",
  "content": [
    {
      "type": "text",
      "text": "Hello! How can I help you today?"
    }
  ],
  "model": "claude-sonnet-5",
  "stop_reason": "end_turn",
  "usage": {
    "input_tokens": 15,
    "output_tokens": 10
  }
}

Ví dụ đầu vào thị giácCopy Anchor Link

Với các mô hình Claude có hỗ trợ thị giác, hãy đặt hình ảnh bên trong messages[].content dưới dạng các khối ảnh có cấu trúc.

{
  "model": "claude-sonnet-5",
  "max_tokens": 1024,
  "messages": [
    {
      "role": "user",
      "content": [
        {
          "type": "text",
          "text": "Please describe this image."
        },
        {
          "type": "image",
          "source": {
            "type": "url",
            "url": "https://example.com/demo.jpg"
          }
        }
      ]
    }
  ]
}

{
  "model": "claude-sonnet-5",
  "max_tokens": 1024,
  "messages": [
    {
      "role": "user",
      "content": [
        {
          "type": "text",
          "text": "Please describe this image."
        },
        {
          "type": "image",
          "source": {
            "type": "base64",
            "media_type": "image/jpeg",
            "data": "/9j/4AAQSkZJRgABAQ..."
          }
        }
      ]
    }
  ]
}

Ví dụ về Extended ThinkingCopy Anchor Link

Đặt TOKENLAB_THINKING_MODEL thành mô hình hỗ trợ thinking thủ công với type: "enabled" và budget_tokens. Điều chỉnh cả hai ngân sách token theo giới hạn của mô hình đó. Mô hình khác có thể cần cấu hình thinking khác.

import os
from anthropic import Anthropic

client = Anthropic(
    api_key="sk-your-api-key",
    base_url="https://api.tokenlab.sh"
)

message = client.messages.create(
    model=os.environ["TOKENLAB_THINKING_MODEL"],
    max_tokens=16000,
    thinking={
        "type": "enabled",
        "budget_tokens": 10000
    },
    messages=[{"role": "user", "content": "Solve this math problem..."}]
)

for block in message.content:
    if block.type == "thinking":
        print(f"Thinking: {block.thinking}")
    elif block.type == "text":
        print(f"Response: {block.text}")

Các lô tin nhắn AnthropicCopy Anchor Link

TokenLab hiện cũng cung cấp luồng Anthropic Message Batches gốc bên cạnh /v1/messages.

Các route khả dụng:

• POST /v1/messages/batches
• GET /v1/messages/batches
• GET /v1/messages/batches/:message_batch_id
• GET /v1/messages/batches/:message_batch_id/results
• POST /v1/messages/batches/:message_batch_id/cancel
• DELETE /v1/messages/batches/:message_batch_id

Ghi chú vận hành:

• Sử dụng cùng một TokenLab API key với các header Anthropic gốc.
• Nếu batch item tham chiếu file_id, hãy thêm cả anthropic-beta: files-api-2025-04-14.
• Batch job vẫn giữ nguyên hình dạng request/response gốc của Anthropic, trong khi TokenLab theo dõi vòng đời quyết toán nội bộ của chúng.