การทําเทคนิคให้ทันสมัยขั้นสูง เพื่อป้องกันการโอเวอร์ฟิงท์ในเครือข่ายคอมพลิเน็กซ์เนรัล

การ ทํา เกิน สิทธิ์ เป็น เรื่อง ยาก มาก ใน การ ฝึก ระบบ ประสาท ที่ ซับ ซ้อน ซึ่ง ตัว อย่าง เหล่า นี้ ฝึก ได้ ดี แต่ ข้อมูล ที่ ไม่ ดี เทคนิค การ ทํา แบบ ปกติ ช่วย ปรับ ปรุง ความ สามารถ ของ รุ่น โดย ไม่ ต้อง ทํา งาน เกิน ไป บทความ นี้ จะ ทํา ให้ มี วิธี การ ปรับ ปรุง ความ เป็น ปกติ ที่ ใช้ ได้ ผล สําหรับ เครือ ข่าย ประสาท ที่ ซับ ซ้อน

ลา ออก และ วาร์ เรียน

การลาออกจากระบบเป็นเทคนิคที่ใช้ในการทําปกติที่สุ่มทํางานของเซลล์ประสาทในระหว่างการฝึกอบรม variants เช่น Spatial offout และ Poptoconect นําเสนอการปรับปรุงการทํางานเพื่อให้มีประสิทธิภาพในบางกรณี การปล่อยออกมาช่วยลดความพึ่งพาของเซลล์ประสาทเฉพาะตัว ส่งเสริมการเรียนรู้คุณสมบัติที่ทนทานมากขึ้น

การปรับสมดุล

การเพิ่มน้ําหนักปกติ เพิ่มค่าโทษให้ฟังก์ชันเสีย เพื่อบังคับน้ําหนัก วิธีทั่วไปคือ การเพิ่มน้ําหนัก L1 แบบปกติ ซึ่งส่งเสริมความคล่องตัว และลดน้ําหนักได้ต่ํา L2 เทคนิคนี้ป้องกันไม่ให้แบบจําลองรบกวนเสียงในข้อมูลการฝึก

ข้อมูล และ การ ป้องกัน เสียง รบกวน

การ ปรับ ปรุง ข้อมูล แบบ จําลอง จะ ขยาย ข้อมูล ที่ ได้ รับ การ ฝึก ให้ ขยาย ออก ไป โดย การ ปรับ เปลี่ยน แบบ ต่าง ๆ เช่น การ หมุน, การ ปรับ ตัว, หรือ การ เปลี่ยน แปลง สี การ ฉีด สัญญาณรบกวน รวม ถึง การ เพิ่ม เสียง สุ่ม เข้า กับ การ ใส่ หรือ น้ํา หนัก ระหว่าง การ ฝึก.

เทคนิกขั้นสูง

วิธี ทํา ให้ เป็น ปกติ แบบ อื่น ๆ ที่ ก้าว หน้า ขึ้น ไป อีก รวม ถึง:

• [FLT: 0] Batch formatization: การนําเข้าชั้นปกติเพื่อรักษาการเรียนรู้
• [FLT: 0] หยุดการสอนอย่างเหมาะสม : หยุดการฝึกเมื่อประสิทธิภาพการตรวจสอบหยุดลง
• [FLT: 0] สเปกตรัมแบบปกติ: บังคับตัวของตัวชี้วัดขนาดของตัวอ่อนในน้ําหนัก เพื่อให้การฝึกคงที่
• [FLT: 0] Dropblock: ลดลงภูมิภาคที่ต่อเนื่องในแผนที่คุณสมบัติ, ส่งเสริมความปกติ