การเข้าใจความจุของเครือข่ายประสาท จําเป็นอย่างยิ่งในการออกแบบแบบจําลองที่ทํางานได้ดีโดยไม่ต้องทําเกินขนาด มิติของแวปนิก-เฮอร์โวเนคกีส (VC) ให้แก่มิติทฤษฎีพื้นฐานเพื่อวัดความจุนี้ บทความนี้สํารวจว่าหลักสัดส่วนของ VC สามารถนําไปใช้คํานวณความจุของเครือข่ายประสาทได้อย่างไร

สัดส่วน ของ วี ดิ ทัศน์ คือ อะไร?

มิติของ VC เป็นการวัดความจุของชุดฟังก์ชันในการจําแนกข้อมูล มันชี้ถึงจํานวนที่มากที่สุดที่อาจแตกได้ (จัดไว้อย่างถูกต้องในทุกวิถีทางที่เป็นไปได้) โดยคลาสฟังก์ชัน มิติที่สูงกว่า สัดส่วนของ VC แสดงให้เห็นว่ามีโมเดลที่ซับซ้อนกว่าที่มีความสามารถในการปรับข้อมูลได้มากขึ้น

ปรับใช้มิติ VC กับ Neural Networks

สําหรับเครือข่ายประสาท มิติของ VC ขึ้นอยู่กับปัจจัย เช่น จํานวนตัวแปร, ชั้น, และ ขอบเขตการทํางาน

คํานวณค่าความจุแบบ

วิธีหนึ่งที่ใช้ทั่วไป คือประมาณมิติของ VC โดยใช้ตัวเลขน้ําหนัก (parameter) ในเครือข่าย สําหรับเครือข่ายที่มีน้ําหนัก W มิติของ VC สามารถประมาณได้ตามสัดส่วนกับ W log W. ความสัมพันธ์นี้จะช่วยเข้าใจถึงปริมาณพารามิเตอร์ที่เพิ่มขึ้น มีผลต่อความจุ

โปรแกรมจําลองสําหรับออกแบบโมเดล

  • ปรับความซับซ้อนของโมเดล ให้พอดีกับขนาดข้อมูล
  • จง หลีก เลี่ยง แบบ จําลอง ที่ ซับ ซ้อน เกิน ไป ซึ่ง อาจ ทํา ให้ เกิน เหตุ.
  • ใช้การประมาณมิติของนกนําทาง โครงสร้างของตัวเลือก
  • เทคนิคการทําเป็นประจําสามารถช่วยจัดการความจุได้