الأدلة الأساسية
حدود المعدل (Rate limits)
تعرف على حد الطلبات الخاص بك وكيفية التعامل مع استجابة 429
تحدد فئة حسابك عدد طلبات API التي يمكنك إرسالها في كل دقيقة. عندما تصل إلى الحد المسموح به، تُرجع الـ API استجابة 429 rate_limit_exceeded مع ترويسة Retry-After.
الحدود الموضحة أدناه هي قيم الفئة القياسية وقد تتغير بناءً على الإعدادات النشطة. بالنسبة للطلبات الموثقة، يتم تطبيق هذه الحدود لكل API key على حدة. نقاط نهاية الاكتشاف العامة مثل GET /v1/models لها حدود منفصلة. عند تلقي استجابة 429، استخدم قيم X-RateLimit-Limit و Retry-After المرجعة بدلاً من افتراض أن الجدول المنسوخ هو الحد النشط.
حدود الحساب
| الفئة | الطلبات في الدقيقة |
|---|---|
| User | 1,000 |
| Partner | 10,000 |
| VIP | 10,000 |
هل تحتاج إلى حد مختلف؟ أرسل بريداً إلكترونياً إلى hello@tokenlab.sh مع ذكر بريد حسابك الإلكتروني، وحجم الطلبات المتوقع، وحالة الاستخدام.
استجابة 429
{
"error": {
"message": "Rate limit exceeded (1000/min for user role). Please retry later.",
"type": "rate_limit_exceeded",
"code": "rate_limit_exceeded",
"retryable": true,
"retry_after": 8,
"hint": "Rate limited. Retry after 8s. Current limit: 1000/min for user role."
}
}تحمل استجابة 429 الترويسات التالية:
| الترويسة | المعنى |
|---|---|
Retry-After | الثواني التي يجب الانتظار فيها قبل الطلب التالي |
X-RateLimit-Limit | الطلبات المسموح بها في الدقيقة لهذا الـ API key |
X-RateLimit-Remaining | الطلبات المتبقية في النافذة الزمنية الحالية |
X-RateLimit-Reset | وقت Unix بالثواني عند إعادة تعيين النافذة الزمنية |
Retry-After: 8تخضع محاولات المصادقة الفاشلة المتكررة من عنوان IP واحد للحدود أيضاً. بعد حوالي 20 محاولة فاشلة في الدقيقة، تُرجع الـ API استجابة 429 مع الرسالة Too many failed authentication attempts. Please retry later. وترويسة Retry-After. قم بإصلاح الـ API key بدلاً من إعادة محاولة طلب 401.
إعادة المحاولة بعد تأخير الخادم
استخدم Retry-After عندما تكون موجودة. إذا كانت مفقودة، استخدم استراتيجية التراجع الأسي (exponential backoff) مع إضافة تشتيت عشوائي (jitter). قم دائماً بتعيين حد لإعادة المحاولة حتى لا ينمو طابور الطلبات المزدحم إلى ما لا نهاية.
import random
import time
from openai import RateLimitError
def chat_with_rate_limit_retry(client, model, messages, attempts=4):
for attempt in range(attempts):
try:
return client.with_options(max_retries=0).chat.completions.create(
model=model,
messages=messages,
)
except RateLimitError as exc:
if attempt == attempts - 1:
raise
header = exc.response.headers.get("Retry-After")
wait = float(header) if header else min(30, 2 ** attempt + random.random())
time.sleep(wait)الحفاظ على حركة المرور تحت الحد المسموح
- قم بوضع الطلبات في طابور عندما يكون تطبيقك قادراً على توليد دفعات كبيرة من الطلبات.
- حدد التزامن (concurrency) بالإضافة إلى متوسط الطلبات في الدقيقة.
- قم بتخزين النتائج مؤقتاً (Cache) فقط إذا كانت آمنة ومفيدة لإعادة الاستخدام.
- لا تقم بإعادة محاولة أخطاء التحقق، أو المصادقة، أو الرصيد، أو الأذونات.
- تتبع استجابات
429المتكررة لكل API key حتى لا يقوم عميل واحد باستهلاك حصة بقية تطبيقك.
النموذج الأسرع لا يزيد من حد طلبات حسابك. سرعة النموذج، وحدود الـ tokens، وحدود معدل الحساب هي قيود منفصلة.