การ ลด จํานวน และ การ ทํา ให้ เป็น ปกติ: การ คํานวณ และ การ ใช้ วินัย เพื่อ ป้องกัน การ ทํา เกิน สิทธิ์
การ ทํา เช่น นี้ จะ ช่วย ให้ คุณ มี ความ สามารถ มาก ขึ้น ใน การ ทํา งาน มาก ขึ้น และ ช่วย ให้ คุณ มี ความ สามารถ มาก ขึ้น ใน การ ทํา งาน มาก ขึ้น
การปล่อยออกของความเข้าใจ
การปล่อยออกไปอย่างสุ่ม ปิดการใช้งานส่วนของเซลล์ประสาทระหว่างการฝึกอบรม ซึ่งจะช่วยให้เครือข่ายไม่สามารถทํางานได้โดยอาศัยเส้นทางเฉพาะที่มากเกินไป อัตราการปล่อยลง จะเป็นตัวกําหนดเปอร์เซ็นต์ของเซลล์ประสาทที่ปิดการทํางานในแต่ละรุ่น
อัตราการไหลออกทั่วไปในช่วงระหว่าง 0.2 ถึง 0.5 ตัวอย่างเช่น อัตราการปล่อยของร้อยละ 0.3 หมายถึง 30% ของเซลล์ประสาทถูกปิดระหว่างการฝึกแต่ละขั้นตอน ซึ่งสนับสนุนเครือข่ายให้พัฒนาคุณสมบัติที่ทนทานมากขึ้น
การ ทํา ให้ งาน เป็น ปกติ
การ ทํา แบบ ปกติ เพิ่ม โทษ ให้ กับ การ เสีย งาน เพื่อ ทํา ให้ ระบบ จําลอง ที่ ซับ ซ้อน กว่า ไม่ มี การ ควบคุม.
[FLT: 0] Los= LAS Original + ⁇ *[W2]]] ]
โดย ⁇ (ambda) เป็นพารามิเตอร์แบบทั่วไป, และ w[FLT: 0]2) เป็นผลรวมของน้ําหนักกําลังสอง การเลือก ⁇ ที่เหมาะสมนั้นสําคัญ ค่าทั่วไปจาก 0.0.001 ถึง 0.1
มาตรการ ป้องกัน การ ทํา เกิน สิทธิ์
การทําการส่งและปรับให้พอดีสามารถลดการทับถมได้อย่างมีประสิทธิภาพ กลยุทธ์อื่น ๆ รวมไปถึง การหยุดชั่วคราว การต่อเติมข้อมูล และการข้ามผ่านการตรวจสอบ การติดตามการทํางานปกติ ช่วยตัดสินพารามิเตอร์ที่มีประสิทธิภาพมากที่สุด
- ใช้การปล่อยออกด้วยอัตราระหว่าง 0.2 ถึง 0.5
- ปรับใช้ L2 แบบปกติด้วย ⁇ ประมาณ 0. 01
- พักช่วงแรก ระหว่างการฝึก
- การฝึกอบรมการสอนแบบอนิเมชั่น เพื่อเพิ่มความหลากหลาย