Nachricht erstellen

ÜberblickCopy Anchor Link

Dieser Endpoint bietet native Kompatibilität mit der Anthropic Messages API. Verwenden Sie ihn für Claude-Modelle mit Funktionen wie Extended Thinking.

Dieser Endpunkt behält den nativen Anthropic-Vertrag bei. messages muss ein Array aus user- / assistant-Nachrichten sein, system gehört in das Top-Level-Feld system, und max_tokens ist erforderlich. Wenn dein Payload OpenAI-Rollen wie system, developer oder tool innerhalb von messages verwendet, sende ihn stattdessen an /v1/chat/completions.

Request-HeaderCopy Anchor Link

Request-BodyCopy Anchor Link

AntwortCopy Anchor Link

curl -X POST "https://api.tokenlab.sh/v1/messages" \
  -H "x-api-key: sk-your-api-key" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-sonnet-5",
    "max_tokens": 1024,
    "system": "You are a helpful assistant.",
    "messages": [
      {"role": "user", "content": "Hello, Claude!"}
    ]
  }'

{
  "id": "msg_abc123",
  "type": "message",
  "role": "assistant",
  "content": [
    {
      "type": "text",
      "text": "Hello! How can I help you today?"
    }
  ],
  "model": "claude-sonnet-5",
  "stop_reason": "end_turn",
  "usage": {
    "input_tokens": 15,
    "output_tokens": 10
  }
}

Vision-EingabebeispielCopy Anchor Link

Bei Claude-Modellen mit Vision-Unterstützung platzieren Sie Bilder in messages[].content als strukturierte Bildblöcke.

{
  "model": "claude-sonnet-5",
  "max_tokens": 1024,
  "messages": [
    {
      "role": "user",
      "content": [
        {
          "type": "text",
          "text": "Please describe this image."
        },
        {
          "type": "image",
          "source": {
            "type": "url",
            "url": "https://example.com/demo.jpg"
          }
        }
      ]
    }
  ]
}

{
  "model": "claude-sonnet-5",
  "max_tokens": 1024,
  "messages": [
    {
      "role": "user",
      "content": [
        {
          "type": "text",
          "text": "Please describe this image."
        },
        {
          "type": "image",
          "source": {
            "type": "base64",
            "media_type": "image/jpeg",
            "data": "/9j/4AAQSkZJRgABAQ..."
          }
        }
      ]
    }
  ]
}

Beispiel für Extended ThinkingCopy Anchor Link

Setzen Sie TOKENLAB_THINKING_MODEL auf ein Modell, das manuelles Thinking mit type: "enabled" und budget_tokens unterstützt. Passen Sie beide Token-Budgets an die Modellgrenzen an. Andere Modelle können eine andere Thinking-Konfiguration benötigen.

import os
from anthropic import Anthropic

client = Anthropic(
    api_key="sk-your-api-key",
    base_url="https://api.tokenlab.sh"
)

message = client.messages.create(
    model=os.environ["TOKENLAB_THINKING_MODEL"],
    max_tokens=16000,
    thinking={
        "type": "enabled",
        "budget_tokens": 10000
    },
    messages=[{"role": "user", "content": "Solve this math problem..."}]
)

for block in message.content:
    if block.type == "thinking":
        print(f"Thinking: {block.thinking}")
    elif block.type == "text":
        print(f"Response: {block.text}")

Anthropic Message-BatchesCopy Anchor Link

TokenLab stellt jetzt zusätzlich zu /v1/messages auch den nativen Anthropic-Message-Batches-Flow bereit.

Verfügbare Routen:

• POST /v1/messages/batches
• GET /v1/messages/batches
• GET /v1/messages/batches/:message_batch_id
• GET /v1/messages/batches/:message_batch_id/results
• POST /v1/messages/batches/:message_batch_id/cancel
• DELETE /v1/messages/batches/:message_batch_id

Hinweise für den Betrieb:

• Verwende denselben TokenLab-API-Key zusammen mit den nativen Anthropic-Headern.
• Wenn Batch-Items auf file_id verweisen, füge zusätzlich anthropic-beta: files-api-2025-04-14 hinzu.
• Batch-Jobs behalten die nativen Anthropic-Request/Response-Formate bei, während TokenLab den internen Abrechnungs-Lifecycle nachverfolgt.