الأطر والمنصات
DSPy
تكوين TokenLab كنموذج لغوي متوافق مع OpenAI في DSPy
نظرة عامة
يمكن لـ DSPy استدعاء TokenLab باستخدام بادئة المزود openai/ مع نقطة النهاية /v1 المتوافقة مع OpenAI الخاصة بـ TokenLab.
النوع: إطار عمل برمجي
المسار الأساسي: استدعاءات النماذج اللغوية المتوافقة مع OpenAI
مستوى دعم الموثوقية: مسار نقطة نهاية مخصص مدعوم
البيئة
export TOKENLAB_API_KEY="sk-your-tokenlab-key"تكوين DSPy
import os
import dspy
lm = dspy.LM(
"openai/claude-sonnet-5",
api_key=os.environ["TOKENLAB_API_KEY"],
api_base="https://api.tokenlab.sh/v1",
)
dspy.configure(lm=lm)استخدام وحدة (Module)
qa = dspy.ChainOfThought("question -> answer")
response = qa(question="What should I monitor in an LLM gateway?")
print(response.answer)اقتراحات النماذج
استخدم gpt-5.4-mini للتجارب السريعة، و claude-sonnet-5 لتتبع استنتاجات أقوى، و deepseek-v4-flash لحلقات التكرار السريعة.