الأطر والمنصات
AutoGen
استخدم نماذج TokenLab مع Microsoft AutoGen من خلال عملاء متوافقين مع OpenAI
نظرة عامة
يمكن لـ AutoGen استدعاء TokenLab باستخدام OpenAIChatCompletionClient. قم بتهيئة عنوان URL الأساسي (Base URL) لـ TokenLab، ومفتاح API، ومعرف النموذج في العميل.
التثبيت
pip install -U autogen-agentchat "autogen-ext[openai]" pyyamlالبيئة
export TOKENLAB_API_KEY="sk-your-tokenlab-key"تهيئة النموذج عبر YAML
استخدم نقطة النهاية /v1 الخاصة بـ TokenLab كـ base_url:
احفظ هذا الإعداد باسم tokenlab-model.yaml:
provider: autogen_ext.models.openai.OpenAIChatCompletionClient
config:
model: claude-sonnet-5
base_url: https://api.tokenlab.sh/v1
model_info:
function_calling: true
json_output: true
structured_output: false
vision: false
family: claudeقم بتحميل ملف YAML واقرأ مفتاح API من البيئة. لا يقوم YAML بتوسيع متغيرات البيئة تلقائياً:
import os
import yaml
from autogen_agentchat.agents import AssistantAgent
from autogen_core.models import ChatCompletionClient
with open("tokenlab-model.yaml", encoding="utf-8") as config_file:
config = yaml.safe_load(config_file)
config["config"]["api_key"] = os.environ["TOKENLAB_API_KEY"]
model_client = ChatCompletionClient.load_component(config)
agent = AssistantAgent("assistant", model_client=model_client)عميل Python
import os
from autogen_agentchat.agents import AssistantAgent
from autogen_ext.models.openai import OpenAIChatCompletionClient
model_client = OpenAIChatCompletionClient(
model="claude-sonnet-5",
base_url="https://api.tokenlab.sh/v1",
api_key=os.environ["TOKENLAB_API_KEY"],
model_info={
"function_calling": True,
"json_output": True,
"structured_output": False,
"vision": False,
"family": "claude",
},
)
agent = AssistantAgent("assistant", model_client=model_client)تشغيل طلبك الأول
import asyncio
async def main():
try:
result = await agent.run(task="Reply with: Connected to TokenLab.")
print(result.messages[-1].content)
finally:
await model_client.close()
asyncio.run(main())ملاحظات حول نقاط النهاية
تتوقع إضافة OpenAI في AutoGen شكل الطلب المتوافق مع OpenAI. بالنسبة للميزات الأصلية للمزود مثل Anthropic Messages أو generateContent الخاص بـ Gemini، استخدم نقاط النهاية الأصلية لـ TokenLab من خلال عميل يدعم هذه البروتوكولات مباشرة.