شبکه عصبی در دستگاه های لبه نیاز به توجه دقیق از منابع محاسباتی دارد. درک هزینه کمک می کند تا مدل های بهینه سازی برای عملکرد و بهره وری انرژی را بهینه سازی کند.این مقاله روش هایی را برای محاسبه هزینه محاسباتی درگیر در استقرار شبکه های عصبی در سخت افزار لبه بررسی می کند.

عوامل موثر در کاهش هزینه محاسباتی

عوامل اولیه شامل اندازه شبکه عصبی، تعداد عملیات و قابلیت های سخت افزاری است.مدل های بزرگتر با پارامترهای بیشتر نیاز به انرژی محاسباتی بالاتر دارند که می تواند بر تاخیر و مصرف انرژی تاثیر بگذارد.

اندازه گیری عملیات محاسباتی

رایج ترین متریک تعداد عملیات شناور نقطه ای (FLOPs) است که تعداد کل محاسبات مورد نیاز برای استنتاج را مشخص می کند.

  • شمارش ضرب و اضافه در هر لایه.
  • این ها در تمام لایه ها قرار دارند.
  • تنظیم برای کارآیی های خاص سخت افزار

برآورد مصرف انرژی

مصرف انرژی بستگی به سخت افزار و بهره وری از پیاده سازی دارد. ابزارها مانند پروفایل قدرت و معیار می توانند داده های دنیای واقعی را ارائه دهند. ترکیب FLOP با معیارهای بهره وری سخت افزاری برآورد بهتری از هزینه های انرژی را به دست می آورد.

استراتژی های بهینه سازی

کاهش هزینه محاسباتی شامل تکنیک هایی مانند مدل ⁇ ، استحکام و استفاده از معماری های کارآمد است.این روش ها تعداد عملیات را کاهش می دهند و سرعت استنتاج را در دستگاه های لبه بهبود می بخشد.