框架與平台
CrewAI
透過 OpenAI 相容的 LLM 設定,在 CrewAI agent 中使用 TokenLab 模型
概覽
CrewAI 支援透過設定環境變數或 LLM 類別來使用 OpenAI 相容的 LLM,包括模型名稱、API 金鑰以及基礎 URL。
環境變數
import os
os.environ["OPENAI_API_KEY"] = "sk-your-tokenlab-key"
os.environ["OPENAI_API_BASE"] = "https://api.tokenlab.sh/v1"
os.environ["OPENAI_MODEL_NAME"] = "openai/claude-sonnet-5"LLM 類別
from crewai import Agent, LLM
llm = LLM(
model="claude-sonnet-5",
custom_openai=True,
base_url="https://api.tokenlab.sh/v1",
api_key="sk-your-tokenlab-key",
)
agent = Agent(
role="Research analyst",
goal="Summarize technical tradeoffs clearly",
backstory="You produce concise implementation notes.",
llm=llm,
)模型 ID 會隨時間更新。請在 Models 頁面 選擇目前的模型,並在您的 CrewAI 任務中比較其品質、速度與成本。
端點注意事項
此設定使用 Chat Completions。若要使用 Responses、Anthropic Messages 或 Gemini,請確認您的 CrewAI 元件是否支援該 API 格式。