TokenLab

프레임워크 및 플랫폼

CrewAI

OpenAI 호환 LLM 설정을 통해 CrewAI 에이전트에서 TokenLab 모델 사용하기

개요

CrewAI는 환경 변수나 LLM 클래스에서 모델, API 키, 베이스 URL을 설정하여 OpenAI 호환 LLM을 지원합니다.

환경 변수

import os

os.environ["OPENAI_API_KEY"] = "sk-your-tokenlab-key"
os.environ["OPENAI_API_BASE"] = "https://api.tokenlab.sh/v1"
os.environ["OPENAI_MODEL_NAME"] = "openai/claude-sonnet-5"

LLM 클래스

from crewai import Agent, LLM

llm = LLM(
    model="claude-sonnet-5",
    custom_openai=True,
    base_url="https://api.tokenlab.sh/v1",
    api_key="sk-your-tokenlab-key",
)

agent = Agent(
    role="Research analyst",
    goal="Summarize technical tradeoffs clearly",
    backstory="You produce concise implementation notes.",
    llm=llm,
)

모델 ID는 시간이 지남에 따라 변경될 수 있습니다. Models 페이지에서 현재 모델을 선택한 후, 사용자의 CrewAI 작업에서 품질, 속도, 비용을 비교해 보십시오.

엔드포인트 참고 사항

이 설정은 Chat Completions를 사용합니다. Responses, Anthropic Messages 또는 Gemini를 사용하려면 사용 중인 CrewAI 구성 요소가 해당 API 형식을 지원하는지 확인하십시오.

이 페이지의 내용