دراسة تقنية
راقب النظام. افهم السبب.
ما كشفه Grafana وLangfuse عن نظام محلي متعدد الوكلاء.
بطء المهام لم يكن يوضح مصدر التأخير.
مقاييس البنية التحتية في Grafana وتتبع الوكلاء في Langfuse.
أحداث تحميل وإلغاء تحميل النماذج: نحو ٤٠+ ← ٧ في الساعة.
ملاحظة تقريبية أبلغ عنها الكاتب · ليست قياسًا لتحسن زمن الاستجابة.
المشكلة
لم يكن بطء المهام كافياً لمعرفة إن كان السبب في الأجهزة أو تحميل النماذج أو تنفيذ الوكلاء.
مساهمتي
استخدمت Grafana لمقاييس البنية التحتية وLangfuse لتتبع التنفيذ، ثم درست المشكلات التي كشفها كل منهما.
خيارات التصميم
Grafana: البنية التحتية
ذاكرة المعالج الرسومي والنماذج المحملة وأحداث تحميلها وإخلائها.
Langfuse: التنفيذ
استدعاءات الوكلاء والمدخلات وعدد الرموز والتوقيت والإجابات.
تحليل مترابط
تساعد مقاييس الأجهزة في تفسير التأخير، وتساعد آثار التنفيذ في فهم السلوك.
النتائج
بقاء النماذج في الذاكرة
كانت مهلة خمول قدرها خمس دقائق تُخلي نموذجاً بحجم ٢٠ غيغابايت مراراً. انخفضت أحداث التحميل والإخلاء المبلغ عنها من نحو ٤٠+ إلى ٧ في الساعة بعد إبقاء النماذج في الذاكرة.
تغطية التتبع
كشف التتبع نقصاً في بيانات الرموز والتوقيت وتفاوتاً في استخدام الوكلاء.
الحالة والتقييم التالي
ملاحظة من نظام شخصي، منشورة في ١٦ أغسطس ٢٠٢٦. الأرقام تخص أحداث تحميل النماذج وإخلائها، ولا تقيس انخفاض زمن الاستجابة.
يمكن دعم النتيجة بقياس زمن الاستجابة وجودة المهام قبل التغيير وبعده، باستخدام الحمل نفسه.
مصدر المشروع
التفاصيل والنتائج مأخوذة من منشوري المرتبط على LinkedIn.
اقرأ المقال التقني الأصلي