框架与平台
Haystack
在 Haystack OpenAIChatGenerator 中使用 TokenLab
概述
在 Haystack OpenAIChatGenerator 的 api_base_url 中填写 TokenLab 地址，并提供 TokenLab API 密钥即可。
环境配置
export TOKENLAB_API_KEY="sk-your-tokenlab-key"生成器
from haystack.components.generators.chat import OpenAIChatGenerator
from haystack.dataclasses import ChatMessage
from haystack.utils import Secret
generator = OpenAIChatGenerator(
api_key=Secret.from_env_var("TOKENLAB_API_KEY"),
api_base_url="https://api.tokenlab.sh/v1",
model="claude-sonnet-5",
)
response = generator.run(
messages=[ChatMessage.from_user("Summarize this document in one sentence.")]
)端点说明
在 Haystack 聊天生成器 pipeline 中使用此路径。对于嵌入（embeddings），如果你的 pipeline 使用了 TokenLab 嵌入，请使用 TokenLab 的 /v1 base URL 配置相应的 Haystack 嵌入组件。