การเข้าใจความจุของเครือข่ายประสาท จําเป็นอย่างยิ่งในการออกแบบแบบจําลองที่ทํางานได้ดีโดยไม่ต้องทําเกินขนาด มิติของแวปนิก-เฮอร์โวเนคกีส (VC) ให้แก่มิติทฤษฎีพื้นฐานเพื่อวัดความจุนี้ บทความนี้สํารวจว่าหลักสัดส่วนของ VC สามารถนําไปใช้คํานวณความจุของเครือข่ายประสาทได้อย่างไร
สัดส่วน ของ วี ดิ ทัศน์ คือ อะไร?
มิติของ VC เป็นการวัดความจุของชุดฟังก์ชันในการจําแนกข้อมูล มันชี้ถึงจํานวนที่มากที่สุดที่อาจแตกได้ (จัดไว้อย่างถูกต้องในทุกวิถีทางที่เป็นไปได้) โดยคลาสฟังก์ชัน มิติที่สูงกว่า สัดส่วนของ VC แสดงให้เห็นว่ามีโมเดลที่ซับซ้อนกว่าที่มีความสามารถในการปรับข้อมูลได้มากขึ้น
ปรับใช้มิติ VC กับ Neural Networks
สําหรับเครือข่ายประสาท มิติของ VC ขึ้นอยู่กับปัจจัย เช่น จํานวนตัวแปร, ชั้น, และ ขอบเขตการทํางาน
คํานวณค่าความจุแบบ
วิธีหนึ่งที่ใช้ทั่วไป คือประมาณมิติของ VC โดยใช้ตัวเลขน้ําหนัก (parameter) ในเครือข่าย สําหรับเครือข่ายที่มีน้ําหนัก W มิติของ VC สามารถประมาณได้ตามสัดส่วนกับ W log W. ความสัมพันธ์นี้จะช่วยเข้าใจถึงปริมาณพารามิเตอร์ที่เพิ่มขึ้น มีผลต่อความจุ
โปรแกรมจําลองสําหรับออกแบบโมเดล
- ปรับความซับซ้อนของโมเดล ให้พอดีกับขนาดข้อมูล
- จง หลีก เลี่ยง แบบ จําลอง ที่ ซับ ซ้อน เกิน ไป ซึ่ง อาจ ทํา ให้ เกิน เหตุ.
- ใช้การประมาณมิติของนกนําทาง โครงสร้างของตัวเลือก
- เทคนิคการทําเป็นประจําสามารถช่วยจัดการความจุได้