บทความ นี้ พิจารณา หลัก การ สําคัญ ๆ และ การ คํานวณ เพื่อ ปรับ ปรุง ตัว อย่าง เหมาะ สม สําหรับ การ ใช้ อุปกรณ์ เหล่า นี้.
หลัก การ ของ การ ออก แบบ ด้าน สถาปัตยกรรม ที่ มี ความ รู้
การ ออก แบบ เพื่อ ให้ มี ความ คม ชัด ต้อง ใช้ ความ ซับ ซ้อน ของ รุ่น อย่าง สมดุล กับ ประสิทธิภาพ หลัก การ สําคัญ คือ การ ลด ขนาด, การ บรรจุ อุปกรณ์ คํานวณ, และ การ รักษา ความ แม่นยํา.
การ คํานวณ เพื่อ การ ทํา ให้ เป็น แบบ โอ เปรา แบบ จําลอง
การคํานวณช่วยตัดสินความเหมาะสมของโมเดลสําหรับการใช้ขอบ เมตริกที่สําคัญคือจํานวนของพารามิเตอร์, FLOPs (การประมวลผลจุด), และรอยเท้าหน่วยความจํา เป็นต้น การลดจํานวนพารามิเตอร์สามารถลดขนาดและเวลาการอนุมานได้
เทคนิค สําหรับ ความ เหมาะ สม
- [FLT: 0] Model Pruning: การเอาน้ําหนักเกินมาลดขนาด
- [FLT: 0]. สืบค้นเมื่อ: ใช้ข้อมูลประเภทความแม่นยําต่ํา เพื่อลดการคํานวณ.
- [FLT: 0] ความรู้ directation : ฝึกนางแบบที่มีขนาดเล็กกว่าเพื่อเลียนแบบรุ่นที่ใหญ่ขึ้น (FLT:1).
- [FLT: 0]. สืบค้นเมื่อ: ออกแบบโมเดลที่มีประสิทธิภาพอัตโนมัติ.