חזרהpropagation הוא אלגוריתם בסיסי המשמש להכשיר רשתות עצביות ביעילות.זה כרוך התאמת המשקל של הרשת בהתבסס על השגיאה מחושבת בשכבה הפלט. יישום נכון של תכנות יכול לשפר באופן משמעותי את מהירות האימון ואת הדיוק.

הבנה לאחור

ההחלמה עובדת על ידי הפצת השגיאה לאחור דרך הרשת.זה מחשב את ⁇ תפקוד האובדן ביחס לכל משקל, המאפשר לרשת ללמוד מטעויות.תהליך זה כרוך בשני שלבים עיקריים: מעבר קדימה ואחורה מעבר.

עקרונות הנדסה ליעילות

יישום החזרות ביעילות דורש תשומת לב למספר עקרונות הנדסיים.אלה כוללים היערכות נאותה של משקולות, בחירת שיעורי למידה מתאימים, ושימוש אלגוריתמים אופטימיזציה לחישוב ⁇ .גורמים אלה מסייעים למנוע בעיות כמו ⁇ s והתכנסות איטית.

אופטימיזציה טכניקות

טכניקות שונות יכולות לשפר את ביצועי ההחלמה:

  • (ב) ,0) למד תזמון קצב: 1FLT מכוונן את שיעור הלמידה במהלך אימון להתכנסות מהירה יותר.
  • (ב) ,0) ,מבקשים: ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇
  • (ב) ,0) ,Gradient videoping: FLT:1 מונע קידודים ברשתות עמוקות.
  • (ב) מדרש (ב"ב) , ויקרא י"א: "ה' ויקרא י"ד: