프레임워크 및 플랫폼
CrewAI
OpenAI 호환 LLM 설정을 통해 CrewAI 에이전트에서 TokenLab 모델 사용하기
개요
CrewAI는 환경 변수나 LLM 클래스에서 모델, API 키, 베이스 URL을 설정하여 OpenAI 호환 LLM을 지원합니다.
환경 변수
import os
os.environ["OPENAI_API_KEY"] = "sk-your-tokenlab-key"
os.environ["OPENAI_API_BASE"] = "https://api.tokenlab.sh/v1"
os.environ["OPENAI_MODEL_NAME"] = "openai/claude-sonnet-5"LLM 클래스
from crewai import Agent, LLM
llm = LLM(
model="claude-sonnet-5",
custom_openai=True,
base_url="https://api.tokenlab.sh/v1",
api_key="sk-your-tokenlab-key",
)
agent = Agent(
role="Research analyst",
goal="Summarize technical tradeoffs clearly",
backstory="You produce concise implementation notes.",
llm=llm,
)모델 ID는 시간이 지남에 따라 변경될 수 있습니다. Models 페이지에서 현재 모델을 선택한 후, 사용자의 CrewAI 작업에서 품질, 속도, 비용을 비교해 보십시오.
엔드포인트 참고 사항
이 설정은 Chat Completions를 사용합니다. Responses, Anthropic Messages 또는 Gemini를 사용하려면 사용 중인 CrewAI 구성 요소가 해당 API 형식을 지원하는지 확인하십시오.