框架与平台
DSPy
在 DSPy 中将 TokenLab 配置为 OpenAI 兼容的语言模型
概述
DSPy 使用 openai/ 前缀时，可以把 Base URL 指向 TokenLab /v1 API。
环境
export TOKENLAB_API_KEY="sk-your-tokenlab-key"配置 DSPy
import os
import dspy
lm = dspy.LM(
"openai/claude-sonnet-5",
api_key=os.environ["TOKENLAB_API_KEY"],
api_base="https://api.tokenlab.sh/v1",
)
dspy.configure(lm=lm)使用模块
qa = dspy.ChainOfThought("question -> answer")
response = qa(question="What should I monitor in an LLM gateway?")
print(response.answer)模型 ID 会更新。请从模型页选择当前聊天模型，并用自己的 DSPy 程序比较效果和费用。