Frameworks et plateformes
DSPy
Configurer TokenLab en tant que modèle de langage compatible OpenAI dans DSPy
Aperçu
DSPy peut appeler TokenLab en utilisant le préfixe de fournisseur openai/ avec le point de terminaison /v1 de TokenLab compatible avec OpenAI.
Environnement
export TOKENLAB_API_KEY="sk-your-tokenlab-key"Configurer DSPy
import os
import dspy
lm = dspy.LM(
"openai/claude-sonnet-5",
api_key=os.environ["TOKENLAB_API_KEY"],
api_base="https://api.tokenlab.sh/v1",
)
dspy.configure(lm=lm)Utiliser un module
qa = dspy.ChainOfThought("question -> answer")
response = qa(question="What should I monitor in an LLM gateway?")
print(response.answer)Suggestions de modèles
Utilisez gpt-5.4-mini pour des expériences rapides, claude-sonnet-5 pour des traces de raisonnement plus robustes, et deepseek-v4-flash pour des boucles d'itération rapides.