TokenLab zuverlässig integrieren

Modelle und KostenCopy Anchor Link

Prüfen Sie aktuelle Fähigkeiten und Preise in der Modell-API oder auf der Modellseite. Vergleichen Sie gleiche Aufgaben und nennen Sie das Modell in jeder Anfrage. Wechseln Sie es nicht stillschweigend: Preis, Qualität, Tools und Kontext können sich ändern.

Begrenzen Sie die Ausgabe passend zu API-Format und Modell und vermeiden Sie doppelten Kontext. Medienkosten können von Anzahl, Dauer oder Auflösung abhängen; zeigen Sie eine verfügbare Schätzung vor teuren Generierungen an.

Streaming und WiederholungenCopy Anchor Link

Streaming zeigt Text früher, senkt aber nicht die Tokenkosten. Bewahren Sie nützliche Teilausgaben nach einem Abbruch auf, ohne sie als vollständige Antwort zu kennzeichnen.

Warten Sie bei 429 gemäß Retry-After oder retry_after; nutzen Sie kurzen Backoff bei vorübergehenden 5xx. Authentifizierung, Berechtigungen, Guthaben, Validierung und Kontextfehler erfordern Korrekturen. Begrenzen Sie Versuche und Gesamtdauer, ohne SDK-Wiederholungen zu verdoppeln.

• Streaming
• 429 / Retry-After

Schlüssel und AufzeichnungenCopy Anchor Link

Speichern Sie Schlüssel auf dem Server oder im Secret-Manager, niemals im Browser, App-Bundle, öffentlichen Repository oder Log. Trennen Sie Entwicklung, Produktion und Anwendungen, begrenzen Sie Modelle und Ausgaben und widerrufen Sie offengelegte Schlüssel.

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
    timeout=30.0,
    max_retries=0,
)

Speichern Sie request_id, task_id, die zurückgegebene billing_transaction_id, Modell, Endpunkt und eigene Job-ID. Protokollieren Sie keine Zugangsdaten, vollständigen privaten Prompts, Medien oder signierten URLs. Der endgültige Betrag steht in Usage oder der Management-API.

Asynchrone AufgabenCopy Anchor Link

Speichern Sie bei asynchroner Erstellung ID und poll_url und fragen Sie bis completed oder failed ab. Ein Abfragefehler bedeutet keinen Generierungsfehler. Setzen Sie nach Timeout oder Neuladen die gespeicherte Aufgabe fort; verwenden Sie Idempotenzschlüssel, sofern unterstützt.

Asynchrone Jobs & Abfragen

Vor dem StartCopy Anchor Link

Prüfen Sie vor dem Start das konkrete Modell und Format, Erfolge und übliche Fehler, aktuelle Preise sowie Neuladen und wiederholte Klicks.