רשתות נילי הן כלים חזקים לפתרון בעיות מורכבות, אבל הן יכולות גם לפקח על נתוני אימון מתאימים, צמצום היכולת שלהם להכללת נתונים חדשים.טכניקות של התרגילות מסייעות לשלוט במורכבות המודל ולשפר את הביצועים של נתונים בלתי נראים.

נפילה

Dropout היא טכניקה שבה נוירונים שנבחרו באקראי מתעלמים במהלך האימון.זה מונע נוירונים מ co-adapting ומעודד את הרשת לפתח תכונות חזקות יותר. במהלך בדיקות, כל הנוירונים משמשים, אבל התפוקה שלהם הם בקנה מידה כדי לקחת בחשבון עבור ירידה במהלך אימון.

משקל

ירידה במשקל מוסיפה עונש על תפקוד אובדן בהתבסס על גודל המשקל.זה מרתיע משקולות גדולות, אשר יכול להוביל להתאמה יתר. Commonly, L2 סדירזציה משמש, שבו העונש הוא פרופורציונלי לסכום של משקולות מרוצפות.

נתונים Augmentation

הגדלת הנתונים מגבירה את המגוון של נתוני האימון על ידי יישום שינויים כגון סיבובים, תרגומים או דרוג.זה עוזר לדגם ללמוד תכונות כלליות יותר ולהפחית את הכדאיות, במיוחד במשימות תמונה ודיבור.

הפסקת מוקדם

הפסקת מוקדם כוללת מעקב אחר ביצועי המודל על מערכת אימות במהלך אימון.אימון הופסק כאשר הביצועים מפסיק שיפור, מניעת המודל מהתאמה יתר של נתוני האימון.

טכניקת הקיצור

  • (בלטינית:0) ,Dropout: 1:1 , התעלמות באופן אקראי מנוירונים במהלך אימון.
  • (ב) ויקרא י"א: "ה' י' י' י' י' י' י' י' י' י' י' י' י' י'"א ,
  • (ב) ,0) ,5 ,5 ,5 , ההרחבה של מידע על מנת להזיז שינויים.
  • (ב) ,0) , בתחילת [[1924]], [[1924]]]], [[1924]]]], [[1924]]]]]]