أدلة موثقة

واجهة الدفعات: قلّل كلفة النماذج اللغوية ٥٠٪ للأعمال التي تحتمل الانتظار

أرسل الطلبات التي لا تحتاج ردًا فوريًا عبر واجهة الدفعات بدل الواجهة القياسية، ويكلّفك الطلب نفسه نصف السعر. إليك الآلية، والحدود، وأين تفيد أكثر.

المشكلة

تُسعّر الواجهات الفورية كل رمز بالسعر نفسه سواء احتاج الرد أن يصل خلال ثانية أو خلال ساعة. المهام الكبيرة غير الآنية، كتشغيل التقييمات، ودفعات المحتوى، والتصنيف الجماعي، نادرًا ما تحتاج ردًا فوريًا، ومع ذلك ترسلها أغلب الفرق عبر الواجهة القياسية بالسعر الكامل.

الآلية

تتيح واجهة الدفعات إرسال عدد كبير من الطلبات معًا للمعالجة غير المتزامنة بدل طلب واحد كل مرة. يضع المزوّد كل طلب في طابور، ويعالج الدفعة كاملة باستقلالية، ويحاسبك على كل طلب فيها بنصف سعر رموز الإدخال والإخراج المعتاد. تُحدّ الدفعة الواحدة بمئة ألف طلب أو ٢٥٦ ميغابايت، أيهما يصل أولًا.

تنتهي أغلب الدفعات خلال ساعة. تقدر تسحب النتائج فور اكتمال كل طلب في الدفعة، أو بعد ٢٤ ساعة، أيهما أقرب، إذ تنتهي صلاحية الدفعة عند حدّ الأربع وعشرين ساعة إن لم تكتمل. وأي طلب لا يزال بالطابور عند انتهاء الدفعة لا يُحاسب عليه.

كيف تفعّلها

أرسل دفعة بدل طلب عادي: نداء واحد لواجهة الدفعات يحمل طلبات فردية كثيرة، كلٌّ منها بـ custom_id خاص به لتربط النتائج بالطلب الذي أنتجها. راقب حالة الدفعة، ثم اسحب النتائج بعد انتهاء المعالجة.

طلبات الدفعات تستهلك حدود معدّل خاصة بها، منفصلة عن الواجهة القياسية، فتشغيل دفعة كبيرة لا يستهلك من حصة حركتك الفورية الحيّة. لا تقدر الدفعة أن تسخّن ذاكرة مؤقتة مسبقًا أثناء التشغيل، فخطّط للتخزين المؤقت بشكل منفصل إن كانت الدفعة تعيد استخدام بادئة كبيرة مشتركة أيضًا.

تأكّد أنها عملت

كل نتيجة في الدفعة تحمل حالتها الخاصة: نجحت، أخفقت، أُلغيت، أو انتهت صلاحيتها. الطلبات المنتهية الصلاحية لا تُحاسب، فارتفاع عددها إشارة لتفحّص تباطؤ الطلب أو لإعادة الإرسال بمهلة أطول. تأكّد من حالة كل طلب على حدة، لا من مجرد رجوع نداء الدفعة بنجاح.

أين يفيد أكثر

أي عمل يحتمل الانتظار ساعة ولا يحتاج إنسانًا ينتظر الرد أمام الشاشة. التصنيف الجماعي، وتشغيل التقييمات واسعة النطاق، ومسح الإشراف على المحتوى، وملخّصات البحث غير الآنية أوضح الحالات. وكلما زاد عدد الطلبات التي تقدر تضعها بطابور واحد، زاد ما ينتقل من فاتورتك من السعر الكامل إلى نصفه.