الأطر والمنصات

AutoGen

استخدم نماذج TokenLab مع Microsoft AutoGen من خلال عملاء متوافقين مع OpenAI

نظرة عامة

يمكن لـ AutoGen استدعاء TokenLab باستخدام OpenAIChatCompletionClient. قم بتهيئة عنوان URL الأساسي (Base URL) لـ TokenLab، ومفتاح API، ومعرف النموذج في العميل.

التثبيت

pip install -U autogen-agentchat "autogen-ext[openai]" pyyaml

البيئة

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

تهيئة النموذج عبر YAML

استخدم نقطة النهاية /v1 الخاصة بـ TokenLab كـ base_url:

احفظ هذا الإعداد باسم tokenlab-model.yaml:

provider: autogen_ext.models.openai.OpenAIChatCompletionClient
config:
  model: claude-sonnet-5
  base_url: https://api.tokenlab.sh/v1
  model_info:
    function_calling: true
    json_output: true
    structured_output: false
    vision: false
    family: claude

قم بتحميل ملف YAML واقرأ مفتاح API من البيئة. لا يقوم YAML بتوسيع متغيرات البيئة تلقائياً:

import os
import yaml

from autogen_agentchat.agents import AssistantAgent
from autogen_core.models import ChatCompletionClient

with open("tokenlab-model.yaml", encoding="utf-8") as config_file:
    config = yaml.safe_load(config_file)

config["config"]["api_key"] = os.environ["TOKENLAB_API_KEY"]
model_client = ChatCompletionClient.load_component(config)
agent = AssistantAgent("assistant", model_client=model_client)

عميل Python

import os

from autogen_agentchat.agents import AssistantAgent
from autogen_ext.models.openai import OpenAIChatCompletionClient

model_client = OpenAIChatCompletionClient(
    model="claude-sonnet-5",
    base_url="https://api.tokenlab.sh/v1",
    api_key=os.environ["TOKENLAB_API_KEY"],
    model_info={
        "function_calling": True,
        "json_output": True,
        "structured_output": False,
        "vision": False,
        "family": "claude",
    },
)

agent = AssistantAgent("assistant", model_client=model_client)

تشغيل طلبك الأول

import asyncio

async def main():
    try:
        result = await agent.run(task="Reply with: Connected to TokenLab.")
        print(result.messages[-1].content)
    finally:
        await model_client.close()

asyncio.run(main())

ملاحظات حول نقاط النهاية

تتوقع إضافة OpenAI في AutoGen شكل الطلب المتوافق مع OpenAI. بالنسبة للميزات الأصلية للمزود مثل Anthropic Messages أو generateContent الخاص بـ Gemini، استخدم نقاط النهاية الأصلية لـ TokenLab من خلال عميل يدعم هذه البروتوكولات مباشرة.

في هذه الصفحة