تطبيق تدابير الحماية الاحتياطية: إجراء حسابات تدريجية للتدريب على الشبكات العميقة
Table of Contents
ويعد التبريد بالخلف خوارزمية أساسية تستخدم لتدريب الشبكات العصبية العميقة، وهي تشمل حساب مستويات وظيفة الخسارة فيما يتعلق بكل وزن في الشبكة، مما يتيح تحديثات الوزن التي تقلل من الأخطاء إلى أدنى حد، وهذه المادة تقدم لمحة عامة تدريجية عن عملية التجهيز بالخلف، مع التركيز على الحسابات التي تنطوي عليها تدريب شبكة عميقة.
"ممرّة "فور
وتبدأ العملية بتصاريح دخول إلى الأمام، حيث تُنشر بيانات المدخلات من خلال الشبكة، ويحسب كل عنصر عصبي كمية مرجحة من مدخلاته، ويضيف تحيزاً، ويطبق وظيفة تنشيطية، ويستخدم ناتج كل طبقة كمدخل للطبقة التالية إلى أن يتم الحصول على التنبؤ النهائي.
حساب الخسارة
وبمجرد أن تنتج الشبكة ناتجا، فإن وظيفة الخسارة تقيس الفرق بين الناتج المتوقع والعلامة الحقيقية، وتشمل وظائف الخسارة المشتركة الرعب المختلط والاختراق الشامل للشبكة، والهدف هو التقليل إلى أدنى حد من هذه الخسارة من خلال تسويات الوزن.
تصاريح العودة: حاسوب أقدم
وينطوي جوهر المعالجة بالخلف على حساب مستويات الخسارة فيما يتعلق بكل وزن، بدءا من طبقة الإنتاج، يحسب مصطلح الخطأ وينشر بالعكس من خلال الشبكة، ويشمل ذلك تطبيق قاعدة السلسلة على حساب المشتقات في كل طبقة.
وبالنسبة لكل عنصر من الأعصاب، يحدد مصطلح الخطأ بتكرار المشتقات من وظيفة التنشيط مع مجموع الأخطاء المرجحة من طبقة لاحقة، ثم تستخدم مصطلحات الخطأ هذه في حساب التدرجات لكل وزن وتحيز.
ارتفاع الوزن
وباستخدام الدرجات الحاسوبية، يتم تحديث الأوزان عادة عن طريق النسب المتدرج، وتقتضي قاعدة التحديث جزءاً من التدرج من الوزن الحالي، الذي يخضع لمعدل التعلم، وتخفض هذه العملية الخسارة عن فترات التكرار المتتالية.
موجز الخطوات الرئيسية
- اصنعوا قفزة للأمام لضبط التنبؤات
- حساب الخسارة بين التنبؤات وعلامات العلامات الحقيقية
- معدلات الخطأ المُناسبة تبدأ من طبقة الإنتاج بالخلف
- حاسبة التدرجات لكل وزن وتحيز
- تحديث الأوزان باستخدام النسب المتدرج