שימוש בטכניקות של שגרה: איזון מודל מורכבות וביצועים

טכניקות סדירות הן כלים חיוניים בלמידה של מכונה כדי למנוע התאמה ושיפור הכללת המודל.הם עוזרים לאזן את המורכבות של מודל עם היכולת שלו לבצע היטב על נתונים לא נראים. מאמר זה חוקר שיטות סדיר משותף ויישומים שלהם.

הבנה של

התרגילות כוללת הוספת עונש לתפקוד אובדן במהלך אימון המודל.עונש זה מרתיע מודלים מורכבים מדי כי מתאים את נתוני האימון באופן הדוק מדי.על ידי שליטה במורכבות המודל, הסדיריזציה משפרת את יכולת המודל להכללה.

טכניקות הפעלה

(ב) [15] ,5 ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇
(ב) [15] ,2 גלגול (התחילה): "ה'" (ה') מביא עונש ביחס לכיכר המזהמים, מעודד משקלים קטנים יותר.
(ב) ,0) ,Dropout: 1FLT:1 באופן אקראי deactivates נוירונים במהלך אימון כדי למנוע הדבקה משותפת.
(ב) ,0) ,הפסקות מוקדם: 1.(FLT:1) מפסיקות הכשרה כאשר הביצועים על נתוני אימות מתחילים לרדת.

בחירת השגרה הנכונה

בחירת שיטת סדירזציה מתאימה תלויה בבעיה הספציפית והמודל.לפתרונות דלילים, L1 סדיריזציה יעילה.עבור צמצום המורכבות הכוללת של המודל, L2 הוא לעתים קרובות המועדפת.שלב טכניקות יכול גם להביא תוצאות טובות יותר.