设计低资源设备的神经网络需要了解有限的处理功率、内存和能量消耗的制约。 本条探讨了为此类环境优化神经网络模型的关键考虑、计算和最佳做法。

低资源设备的制约因素

智能手机,嵌入式系统,IOT设备等资源有限的装置,都有影响神经网络部署的限制,这些限制包括计算能力低,内存有限,以及动力限制,因此模型必须轻而易举,高效,在不耗尽资源的情况下有效运行.

模型优化计算

为了适应低资源设备的神经网络,必须进行估计模型大小和计算要求的计算。模型量化等技术降低了重量和激活的精度,减少了内存使用,加快推论。此外,推算消除了不必要的连接,进一步优化了模型。

部署的最佳做法

实施最佳做法可确保将神经网络有效部署在受限制的装置上。

  • 使用轻量级架构,如MobileNet或SqueezeNet.
  • pplical 量化[ 以减少模型大小.
  • 优化推论,在有硬件的情况下,可加速度.
  • 性能模型普鲁因[,以去除冗余参数.