Backpropagation یک الگوریتم اساسی است که برای آموزش شبکه های عصبی عمیق استفاده می شود.این به تنظیم وزن شبکه کمک می کند تا خطا را به حداقل برساند.این راهنما یک فرآیند گام به گام برای پیاده سازی بهبود عقب را به طور موثر فراهم می کند.

درک پایه ها

ارتقاء مجدد شامل محاسبه گرادیان تابع از دست دادن با توجه به هر وزن در شبکه است.این فرایند از حاکمیت زنجیره ای حساب برای انتشار خطاهای به عقب از لایه خروجی به لایه ورودی استفاده می کند.

مرحله 1: وزن اولیه

با شروع تصادفی شروع به کاهش وزن و تعصبات شبکه عصبی.اول کردن مناسب می تواند کارایی آموزش و همگرایی را بهبود بخشد.

مرحله ۲: Forward Pass

داده های ورودی از طریق شبکه برای تولید پیش بینی ها در طول این مرحله، فعال سازی در هر لایه با استفاده از وزن و تعصبات فعلی محاسبه می شود.

مرحله 3: از دست دادن کامل

تفاوت بین خروجی پیش بینی شده و هدف واقعی با استفاده از یک تابع از دست دادن اندازه گیری می شود، مانند خطای مربعی یا Cross-entropy.

مرحله 4: Backward Pass

گرادیان از دست دادن را با توجه به هر وزن با تنظیم خطا به عقب از طریق شبکه محاسبه کنید.این شامل مشتقات محاسباتی در هر لایه است.

مرحله پنجم: به روز رسانی وزن

تنظیم وزن و سوگیری با استفاده از گرادیان و نرخ یادگیری.این مرحله عملکرد از دست دادن را به حداقل می رساند و عملکرد شبکه را بهبود می بخشد.

  • شروع وزن
  • اجرای پیش رو
  • کاهش کالری
  • گرادینت های تکمیل شده از طریق backpropagation
  • وزن به روز رسانی