Frameworks & Plattformen
CrewAI
Verwenden Sie TokenLab-Modelle in CrewAI-Agenten über OpenAI-kompatible LLM-Einstellungen
Überblick
CrewAI unterstützt OpenAI-kompatible LLMs, indem das Modell, der API-Key und die Base-URL in Umgebungsvariablen oder in der LLM-Klasse festgelegt werden.
Umgebungsvariablen
import os
os.environ["OPENAI_API_KEY"] = "sk-your-tokenlab-key"
os.environ["OPENAI_API_BASE"] = "https://api.tokenlab.sh/v1"
os.environ["OPENAI_MODEL_NAME"] = "openai/claude-sonnet-5"LLM-Klasse
from crewai import Agent, LLM
llm = LLM(
model="claude-sonnet-5",
custom_openai=True,
base_url="https://api.tokenlab.sh/v1",
api_key="sk-your-tokenlab-key",
)
agent = Agent(
role="Research analyst",
goal="Summarize technical tradeoffs clearly",
backstory="You produce concise implementation notes.",
llm=llm,
)Modell-IDs ändern sich im Laufe der Zeit. Wählen Sie ein aktuelles Modell auf der Modell-Seite aus und vergleichen Sie anschließend Qualität, Geschwindigkeit und Kosten bei Ihren eigenen CrewAI-Aufgaben.
Hinweise zu Endpunkten
Dieses Setup verwendet Chat Completions. Um Responses, Anthropic Messages oder Gemini zu verwenden, stellen Sie sicher, dass Ihre CrewAI-Komponente dieses API-Format unterstützt.