שימוש ב-Gateing Gradient Descent: שלב אחר צעד קלקלציה עבור אופטימיזציה של Machine Learning
הירידה הגדלה היא אלגוריתם אופטימיזציה המשמש למזער פונקציה על ידי העברת באופן הדרגתי לכיוון הנקודה הנמוכה ביותר.זה בשימוש נרחב בלמידה מכונה כדי להתאים מודלים על ידי התאמת פרמטרים כדי להפחית את השגיאה. מאמר זה מסביר את חישובים שלב אחר שלב המעורבים ביישום ירידה ⁇ עבור משימות למידה מכונה.
להבין את ה-Gateient Descent Algorithm
הרעיון המרכזי של ירידה ⁇ הוא לעדכן את הפרמטרים המודל לכיוון של קידוד שלילי של תפקוד האובדן.תהליך זה נמשך עד הפרמטרים התכנסו לנקודה מינימלית, אידיאלית המינימום העולמי.
שלב אחר-שלב תהליך קלקלציה
נניח שיש לנו מודל תוקפנות ליניארי פשוט עם תפקוד אובדן, כגון שגיאה מרובעת (MSE) השלבים ליישום ירידות ⁇ הם כדלקמן:
- מיפוי פרמטרים (למשל, משקולות וטיה) עם ערכים אקראיים קטנים.
- חישוב הפלט הצפוי באמצעות פרמטרים נוכחיים.
- השלמת ערך הפונקציה אובדן בהתבסס על תחזיות ונתונים אמיתיים.
- חישוב ⁇ של תפקוד אובדן ביחס לכל פרמטר.
- עדכון כל פרמטר על ידי subtracting המוצר של שיעור הלמידה ואת ⁇ המתאים.
תהליך זה חוזר על מספר קבוע של היציאות או עד שהשינוי בהפסד הופך לבלתי נסבל.
דוגמה: Calculation
(ב) עיין ב[[המאה ה-20]] ב[[1924]] וב[[1924]]]] וב[[1924]]]] וב[[1924]]]] [[1924]]]]]] [[1924]]]]]]]], [[1924]]]]]]]]]], [[1924]]]]]]]]
חיזוי קלקולי:0 (= wx + b = 0.5 * 2 + 0 = 103)
טעות:0 (0) ⁇ = 1=4=3FreaLT:1
⁇ ⁇ s:
(ב) , ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇
(ב) ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇
עדכון פרמטרים:
משקל חדש:0(w=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0)=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0=0)=0=0=0=0=0=0=0=0=0=0=0=0)=0=0.
הטיה חדשה:0(b=0=0-0.1 * (-6)=0 + 0.6=0.6=0.6