شبکه های عصبی به طور گسترده ای در وظایف تشخیص تصویر مورد استفاده قرار می گیرند. استقرار این مدل ها در برنامه های کاربردی دنیای واقعی شامل چندین چالش، از جمله منابع محاسباتی، تاخیر و دقت است.این مطالعه موردی فرآیند استقرار یک شبکه عصبی برای تشخیص تصویر در یک محیط عملی را بررسی می کند.

پروژه

این پروژه با هدف پیاده سازی یک شبکه عصبی یکپارچه (CNN) برای طبقه بندی تصاویر گرفته شده از دوربین های نظارتی، هدف دستیابی به دقت بالا در حالی که حفظ قابلیت های پردازش زمان واقعی بود.

محیط زیست Deployment Environment

شبکه عصبی در یک دستگاه لبه مجهز به GPU مستقر شد.این تنظیمات تأخیر را به حداقل رساند و وابستگی به زیرساخت های ابر را کاهش داد.محیط مورد نیاز برای بهینه سازی مدل برای استنتاج کارآمد است.

تکنیک های بهینه سازی

چندین تکنیک برای بهینه سازی شبکه عصبی برای استقرار استفاده شده است:

  • [[۱] [۱۰] مدل [[۱۰]: [[۱۰]] [[۱۰]]] [[۱۰]]] [[۱۰]]] [۱]]] [۱]] [۱]] [۱]]] [۱۰] [۱]] [۱]] [۱] [۱۰] [۱]] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱]] [۱] [۱]] [۲] [۲] [۱] [۱]]]]]]]] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۲] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۲] [۲] [۲] [۱] [۲] [۲] [۲]]] [۱] [۱
  • [[۱] [۱۰] [۱] [۱۰] [۱] [۱]] [۱]] [۱] [۱] [۱]] [۱] [۱۰]] [۱] [۱] [۱]] [۱۰] [۱] [۱] [۱]] [۱] [۱] [۱]] [۱] [۱] [۱] [۱] [۱] [۱] [۳] [۳] [۱] [۳] [۱] [۳] [۳] [۱] [۱] [۱] [۱]] [۱] [۵]] [۵] [۱] [۳]] [۱]]]]]]]] [۳] [۳] [۳] [۳] [۳] [۳] [۱] [۳] [۳] [۱] [۱] [۱] [۳] [۳] [۱] [۳] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۱] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۱] [۳] [۱] [
  • شتاب سخت افزاری: از قابلیت های GPU برای استنتاج سریع تر استفاده کنید.

نتایج و چالش ها

این استقرار با تأخیر پردازش کمتر از 50 میلی ثانیه در هر تصویر به 95 درصد رسید.چالش شامل مدیریت منابع حافظه محدود و اطمینان از عملکرد مداوم در شرایط مختلف نور است.