Frameworks y plataformas
DSPy
Configura TokenLab como un modelo de lenguaje compatible con OpenAI en DSPy
Descripción general
DSPy puede llamar a TokenLab utilizando el prefijo de proveedor openai/ con el endpoint /v1 de TokenLab, el cual es compatible con OpenAI.
Entorno
export TOKENLAB_API_KEY="sk-your-tokenlab-key"Configurar DSPy
import os
import dspy
lm = dspy.LM(
"openai/claude-sonnet-5",
api_key=os.environ["TOKENLAB_API_KEY"],
api_base="https://api.tokenlab.sh/v1",
)
dspy.configure(lm=lm)Usar un módulo
qa = dspy.ChainOfThought("question -> answer")
response = qa(question="What should I monitor in an LLM gateway?")
print(response.answer)Sugerencias de modelos
Utiliza gpt-5.4-mini para experimentos rápidos, claude-sonnet-5 para trazas de razonamiento más sólidas y deepseek-v4-flash para bucles de iteración rápidos.