الأطر والمنصات

DSPy

تكوين TokenLab كنموذج لغوي متوافق مع OpenAI في DSPy

نظرة عامة

يمكن لـ DSPy استدعاء TokenLab باستخدام بادئة المزود openai/ مع نقطة النهاية /v1 المتوافقة مع OpenAI الخاصة بـ TokenLab.

البيئة

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

تكوين DSPy

import os

import dspy

lm = dspy.LM(
    "openai/claude-sonnet-5",
    api_key=os.environ["TOKENLAB_API_KEY"],
    api_base="https://api.tokenlab.sh/v1",
)

dspy.configure(lm=lm)

استخدام وحدة (Module)

qa = dspy.ChainOfThought("question -> answer")

response = qa(question="What should I monitor in an LLM gateway?")
print(response.answer)

تتغير معرفات النماذج (Model IDs) بمرور الوقت. اختر نموذج محادثة حالي من صفحة النماذج، ثم قارنه في برنامج DSPy الخاص بك.

في هذه الصفحة