การชดเชยเป็นอัลกอริทึมพื้นฐานที่ใช้ในการฝึกเครือข่ายประสาทลึก มันเกี่ยวข้องกับการคํานวณการไล่ระดับความเสียของฟังก์ชัน โดยจะพิจารณาน้ําหนักแต่ละน้ําหนักในเครือข่าย อนุญาตให้ปรับน้ําหนักที่ลดความผิดพลาดได้ บทความนี้จะให้ภาพรวมของกระบวนการหลังการปะหลัง โดยเน้นการคํานวณในการปรับปรุงเครือข่ายอย่างลึกซึ้ง
ผ่านหน้า
โพรเซสนี้เริ่มด้วยการส่งต่อไปข้างหน้า โดยข้อมูลเข้าจะถูกกระจายผ่านทางเครือข่าย เซลล์ประสาทแต่ละเซลล์คํานวณค่าต่าง ๆ ที่ป้อนเข้าไปอย่างหนัก และเพิ่มอคติเข้าไป และใช้ฟังก์ชันที่แสดงข้อมูลการส่งต่อข้อมูล โดยผลลัพธ์ของแต่ละชั้น จะทําหน้าที่เป็นตัวป้อนข้อมูลสําหรับชั้นถัดไป จนกว่าจะได้ค่าการทํานายสุดท้าย
การ คํานวณ ความ สูญ เสีย
เมื่อเครือข่ายสร้างผลลัพธ์ออกมา ฟังก์ชันการสูญเสียจะวัดความแตกต่างระหว่างค่าผลลัพธ์ที่คาดการณ์ไว้กับค่าจริง ฟังก์ชันสูญเสียทั่วไปนั้นรวมถึงค่าผิดพลาดที่มีความหมายในตารางธาตุ และค่าข้าม-หน้าภาพ เป้าหมายคือ การลดการสูญเสียนี้ผ่านการปรับปรุงน้ําหนัก
ผ่านย้อนกลับ: การซ้อนภาพแบบ Pluple
แกนหลักของการปะหลัง คือการคํานวณค่าเกรเดียนของการสูญเสีย เทียบกับแต่ละน้ําหนัก โดยเริ่มจากชั้นส่งออก ค่าที่ผิดพลาดจะถูกคํานวณและกระจายย้อนกลับผ่านเครือข่าย นี่เกี่ยวข้องกับการใช้กฎลูกโซ่ในการคํานวณอนุพันธ์แต่ละชั้น
สําหรับแต่ละเซลล์ประสาท เทอมผิดพลาดถูกกําหนดโดยการคูณ อนุพันธ์ของฟังก์ชันแบบไม่ต่อเนื่อง กับผลรวมของความผิดพลาดจากชั้นต่อ ๆ ไป
การ ปรับ ปรุง ความ หนัก
การปรับระดับความโปร่งแสงของระดับความโปร่งแสง โดยเพิ่มระดับความชื่นชอบให้โดยอัตโนมัติ การตั้งค่าการปรับปรุง จะเป็นการลบส่วนเศษของเกรเดียนออกจากน้ําหนักปัจจุบัน ซึ่งควบคุมโดยอัตราการเรียนรู้ กระบวนการนี้จะช่วยลดการสูญเสียที่เกิดขึ้นมากกว่าการไล่ระดับความต่อเนื่อง
สรุป ขั้น ตอน สําคัญ
- ทําการผ่านไปข้างหน้าในการคํานวณการคาดการณ์
- คํานวณการสูญเสียระหว่างการคาดการณ์กับป้ายจริง
- การเติมค่าความผิดพลาดเริ่มต้นจากเลเยอร์ที่ส่งออก
- คํานวณความต่อเนื่องของน้ําหนักและอคติแต่ละแบบ
- ปรับปรุงน้ําหนักโดยใช้ลําดับเกรเดียน