ويعد النسب المتدرج خوارزمية أساسية متقنة الاستخدام الأمثل في التدريب على نماذج التعلم الآلات الخاضعة للإشراف، وهو يساعد على التقليل إلى أدنى حد من وظيفة الخطأ بواسطة معايير نموذجية متكررة، فهم كيفية استخلاص وتطبيق هذه الطريقة أمر أساسي للتدريب النموذجي الفعال.

دال - تناقص نسبة كبار السن

The core idea of gradient descent involves computing the gradient of the loss function with respect to model parameters. This gradient indicates the direction of steepest increase. To minimize the loss, parameters are updated in the contrary direction of the gradient.

ومن الناحية المواضيعية، تُعبر قاعدة تحديث البارامترات على أنها:

[[FLT:]new = old] - ⁇ L(]]]]]

Where ] represents the model parameters, is the learning rate, and [FLT:] ] is the gradient of the loss function.

تطبيق نسبة كبار السن

ولتطبيق النسب المتدرج، تتبع الخطوات التالية عادة:

  • بدء تطبيق المعايير النموذجية عشوائياً أو بقيم محددة.
  • (ب) حساب وظيفة الخسارة استناداً إلى المعايير الحالية وبيانات التدريب.
  • Compute the gradient of the loss with respect to each parameter.
  • تحديث المعايير باستخدام قاعدة النسب المتدرج.
  • كرر العملية حتى يتم التوصل إلى تقريب الخسارة أو إلى عدد من حالات التكرار.

اختيار معدل التعلم

ويحدد معدل التعلم حجم كل خطوة من خطوات التحديث، وقد يؤدي معدل التعلم الصغير إلى تباطؤ التقارب، في حين يمكن أن يتسبب شخص كبير في تجاوز الحد الأدنى، ويعتبر اختيار معدل تعليم مناسب أمراً حاسماً للتدريب الفعال.