ويتطلب نشر نماذج التعلم العميق على أجهزة الحافة تحقيق أقصى قدر من حجمها وكفاءتها الحاسوبية، فالكمية والارتقاء هما أسلوبان يساعدان على الحد من تعقيد النموذج مع الحفاظ على الأداء، وتناقش هذه المادة كيفية تنفيذ هذه الأساليب بفعالية من أجل نشر الحواف.

فهم الكمية

ويشمل تحديد الكمية تقليل دقة الأرقام المستخدمة لتمثيل البارامترات والنشاطات النموذجية، وبدلا من استخدام أرقام النقاط العائمة التي تبلغ 32 طناً، تستخدم أشكال أقل دقة مثل الثلاجات ذات الثمانيات، مما يقلل من استخدام الذاكرة ويسرع في الاستناد إلى أجهزة متوافقة.

وتشمل التقنيات المشتركة لتحديد الكمي التدريب بعد التدريب، والتدريب على تحديد الكمي والوعي الكمي، ويطبق التحديد الكمي بعد التدريب بعد التدريب، في حين يتضمن التدريب على التوعية الكمية تقديرا كميا خلال عملية التدريب من أجل تحسين الدقة.

تنفيذ عملية الشراء

ويزيل الركض الأوزان غير الضرورية أو الأقل أهمية من شبكة عصبية، مما يؤدي إلى نموذج متباعد يتطلب قدرا أقل من الحوسبة، ويمكن تطبيق عملية الفرز أثناء التدريب أو بعده، مع تقنيات مثل الارتداد بالحجم، مما يزيل الأوزان التي تقل عن عتبة معينة.

وتشمل استراتيجيات التشغيل عملية الرش المنظمة التي تزيل الأعصاب أو المرشّحات بأكملها، والرش غير المنظم، مما يزيل الأوزان الفردية، وكثيرا ما يؤدي الرش الهيكلي إلى نماذج أكثر كفاءة على مسرعات الأجهزة.

الجمع بين الكمية والرش

ويمكن لتطبيق القياس الكمي والصيد على حد سواء أن يُفضي إلى الحد الأمثل من النماذج العميقة لنشر الحواف، وتشمل هذه العملية عادة تحديد النموذج أولاً لخفض الحجم والتعقيد، يليه تحديد كمية لزيادة الضغط على النموذج وتحسين سرعة التعاطي.

ومن الضروري توخي معايير دقيقة للحفاظ على دقة النموذج، كما أن التقنيات مثل تحسين الأداء بعد الاختبار وتحديد الكمي تساعد على استرداد الخسائر المحتملة في الأداء، وينبغي أيضا النظر في توافق البرمجيات من أجل تحقيق أقصى قدر من الفوائد.

التنفيذ

  • ابدأ بالركض لإزالة الأوزان الزائدة
  • (ب) استخدام التدريب على التوعية الكمية من أجل تحسين الدقة في الاحتفاظ بها.
  • اختبار النموذج الأمثل على المعدات المستهدفة لتحقيق مكاسب الأداء.
  • حسناً، النموذج بعد تطبيق كلا التقنيين
  • رصد الدقة لضمان الحد الأدنى من التدهور.