ويعد النسب المتدرج خوارزمية أساسية متقنة الاستخدام لتدريب الشبكات العصبية، ويساعد على التقليل من الخطأ عن طريق تعديل أوزان الشبكة بشكل متكرر، ويُفهم كيف تعمل هذه الطريقة ضرورية لوضع نماذج فعالة للتعلم الآلي.

ما هو (غراندينت ديسنت)؟

ويعد النسب المتدرج عملية متكررة تستكمل المعايير النموذجية لتقليل وظيفة الخسارة، وتحسب درجة الخسارة بالنسبة لكل بارامتر وتتحرك في الاتجاه المعاكس للتدرج، وتستمر هذه العملية حتى يبلغ النموذج حدا أدنى من الخطأ.

أنواع الرعاة

  • Batch Gradient Descent:] Uses the entire dataset to compute the gradient in each iteration.
  • Stochious Gradient Descent (SGD): ] Uses one data point at a time, making updates more frequent.
  • Mini-batch Gradient Descent:] Combines the advantages of batch and stochsy methods by using small subsets of data.

التنفيذ العملي

ويشمل تنفيذ النسب المتدرج حساب درجة الخسارة وتحديث الأوزان تبعاً لذلك، ويعد معدل التعلم معياراً حاسماً يحدد حجم كل تحديث، ويضمن اختيار معدل تعليم مناسب التقارب السريع دون تجاوز الحد الأدنى.

وفي الشبكات العصبية، يستخدم التكرار في حساب التدرجات بكفاءة، وهو ينشر الخطأ من خلال الشبكة، مما يتيح حساب التدرجات لكل وزن.