وظائف النشّط هي المكونات الأساسية للشبكات العصبية، يحددون ما إذا كان يجب تفعيل الأعصاب أم لا، التأثير على قدرة الشبكة على تعلم الأنماط المعقدة، فهم كيفية عمل هذه الوظائف وكيفية حسابها هو تصميم أساسي للشبكة العصبية.

ما هي وظائف التنشيط؟

وتُدخل وظائف النشء عدم الترسيم إلى الشبكة، وبدونها، تتصرف الشبكة العصبية كنموذج خطي، مما يحد من قدرتها على حل المشاكل المعقدة، ويحول إشارات المدخلات إلى إشارات ناتجة يمكن أن تُنقل إلى طبقات لاحقة.

وظائف النشاط المشتركة

  • Sigmoid:] Outputs values between 0 and 1, useful for probability estimation.
  • ReLU:] Outputs the input directly if positive; otherwise, zero. It is computationally efficient and helps mitigate vanishing gradients.
  • Tanh:] Outputs values between -1 and 1, centered around zero, which can improve training dynamics.

وظائف التشغيل الحاسوبية

ولكل وظيفة من وظائف التنشيط صيغة رياضية تستخدم في حساب ناتجها من المدخلات، على سبيل المثال:

Sigmoid:]
(f) = 1/ (1 + e-x)

ReLU:]
(f) = الحد الأقصى (0, x)

Tanh:]
)f(x) = (ex] - -x) /(e)x