الأطر والمنصات
Guardrails
التحقق من مخرجات نموذج TokenLab باستخدام Guardrails
نظرة عامة
اضبط OpenAI SDK باستخدام Base URL الخاص بـ TokenLab، واطلب JSON، ثم تحقق من النص المُعاد باستخدام Guard.parse.
النوع: إطار عمل للتحقق والمخرجات المهيكلة
المسار الأساسي: OpenAI-compatible Chat Completions
مستوى دعم الموثوقية: مسار متوافق مع OpenAI مدعوم
التثبيت
pip install guardrails-ai openaiالبيئة
export TOKENLAB_API_KEY="sk-your-tokenlab-key"مثال
import os
from guardrails import Guard
from openai import OpenAI
from pydantic import BaseModel, Field
class Pet(BaseModel):
pet_type: str = Field(description="Species of pet")
name: str = Field(description="A unique pet name")
guard = Guard.for_pydantic(output_class=Pet)
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
response = client.chat.completions.create(
model="claude-sonnet-5",
response_format={"type": "json_object"},
messages=[{
"role": "user",
"content": "Suggest a pet. Return only JSON with string fields pet_type and name.",
}],
)
outcome = guard.parse(response.choices[0].message.content)
print(outcome.validated_output)ملاحظات حول نقاط النهاية (Endpoint Notes)
يركز Guardrails على التحقق المحيط باستدعاء LLM. استخدم المسار المتوافق مع OpenAI لتدفقات chat-completions، أو قم بتمرير كائن قابل للاستدعاء مخصص إذا كان تطبيقك يحتاج إلى نقطة نهاية أصلية لـ TokenLab.