الأطر والمنصات

Guardrails

التحقق من مخرجات نموذج TokenLab باستخدام Guardrails

نظرة عامة

اضبط OpenAI SDK باستخدام Base URL الخاص بـ TokenLab، واطلب JSON، ثم تحقق من النص المُعاد باستخدام Guard.parse.

النوع: إطار عمل للتحقق والمخرجات المهيكلة

المسار الأساسي: OpenAI-compatible Chat Completions

مستوى دعم الموثوقية: مسار متوافق مع OpenAI مدعوم

التثبيت

pip install guardrails-ai openai

البيئة

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

مثال

import os

from guardrails import Guard
from openai import OpenAI
from pydantic import BaseModel, Field


class Pet(BaseModel):
    pet_type: str = Field(description="Species of pet")
    name: str = Field(description="A unique pet name")


guard = Guard.for_pydantic(output_class=Pet)

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

response = client.chat.completions.create(
    model="claude-sonnet-5",
    response_format={"type": "json_object"},
    messages=[{
        "role": "user",
        "content": "Suggest a pet. Return only JSON with string fields pet_type and name.",
    }],
)

outcome = guard.parse(response.choices[0].message.content)
print(outcome.validated_output)

ملاحظات حول نقاط النهاية (Endpoint Notes)

يركز Guardrails على التحقق المحيط باستدعاء LLM. استخدم المسار المتوافق مع OpenAI لتدفقات chat-completions، أو قم بتمرير كائن قابل للاستدعاء مخصص إذا كان تطبيقك يحتاج إلى نقطة نهاية أصلية لـ TokenLab.

في هذه الصفحة