Frameworks & Plattformen

CrewAI

Verwenden Sie TokenLab-Modelle in CrewAI-Agenten über OpenAI-kompatible LLM-Einstellungen

Überblick

CrewAI unterstützt OpenAI-kompatible LLMs, indem das Modell, der API-Key und die Base-URL in Umgebungsvariablen oder in der LLM-Klasse festgelegt werden.

Umgebungsvariablen

import os

os.environ["OPENAI_API_KEY"] = "sk-your-tokenlab-key"
os.environ["OPENAI_API_BASE"] = "https://api.tokenlab.sh/v1"
os.environ["OPENAI_MODEL_NAME"] = "openai/claude-sonnet-5"

LLM-Klasse

from crewai import Agent, LLM

llm = LLM(
    model="claude-sonnet-5",
    custom_openai=True,
    base_url="https://api.tokenlab.sh/v1",
    api_key="sk-your-tokenlab-key",
)

agent = Agent(
    role="Research analyst",
    goal="Summarize technical tradeoffs clearly",
    backstory="You produce concise implementation notes.",
    llm=llm,
)

Modell-IDs ändern sich im Laufe der Zeit. Wählen Sie ein aktuelles Modell auf der Modell-Seite aus und vergleichen Sie anschließend Qualität, Geschwindigkeit und Kosten bei Ihren eigenen CrewAI-Aufgaben.

Hinweise zu Endpunkten

Dieses Setup verwendet Chat Completions. Um Responses, Anthropic Messages oder Gemini zu verwenden, stellen Sie sicher, dass Ihre CrewAI-Komponente dieses API-Format unterstützt.

Auf dieser Seite