Пристрої Edge мають обмежені обчислювальні ресурси і потужність, що робить дизайн ефективних глибинних архітектурних архітектурних засобів. У статті розглянуто основні принципи та розрахунки для оптимізації моделей для розгортання на таких пристроях.

Принципи побудови конструктивної архітектури

Розробка для крайових пристроїв вимагає балансування моделі складності з виконанням. Основні принципи включають зменшення розмірів моделі, мінімізуюче обчислювальне навантаження, а також точність збереження. Методики, такі як модель, гончаризація, архітектурна оптимізація, зазвичай використовуються.

Розрахунок для оптимізації моделі

Розрахунок дозволяє визначити придатність моделі для розгортання краю. До основних показників відносяться кількість параметрів, FLOPs (поплавлення точних операцій), а також пам'ять. Наприклад, зменшення кількості параметрів може зменшити розмір моделі та час вставки.

Методика підвищення ефективності

  • Model Pruning: Видалення зайвих мас для зменшення розміру.
  • Quantization: Використання типів даних з меншою точністю для зменшення обчислення.
  • Кнолин Дистилція: Навчання менших моделей для мимічних більших.
  • Architecture Search: Автоматизування дизайну ефективних моделей.