Table of Contents
منظم کردن قطره یک تکنیک است که در شبکه های عصبی برای جلوگیری از بیش از حد استفاده می شود، شامل غیرفعال کردن یک زیرمجموعه از نورون ها در طول آموزش است، که به مدل کمک می کند تا داده های دیده شده بهتر شود.این مقاله توضیح می دهد که چگونه کاهش می یابد، چگونه محاسبات انجام می شود و تاثیر آن بر عملکرد شبکه عصبی است.
درک منظم سازی Dropout
Dropout با تنظیم تصادفی نسبت خروجی های نورونی به صفر در طول هر تمرین کار می کند، این مانع می شود که نورون ها بیش از حد به ویژگی های خاص وابسته شوند و شبکه را تشویق می کند تا بازنمایی های قوی تری را توسعه دهند. نرخ ترک تشخیص می دهد که بخش هایی از نورون ها غیرفعال شده اند.
دانلود بازی Calculations Involved in Dropout
در طول آموزش، هر نورون با احتمال (FLT:0) نگه می دارد خروجی یک نورون پس از افت محاسبه شده است:
[[ویرایش] [۱] [۱۰] [۱۰] [۱۰] [۱۰] [۱۰]] [۱۰] [۱] [۱۰] [۱۰] [۱۰]] [۱۰] [۱] [۱۰] [۳] [۱۰] [۱۰] [۱۰] [۱۰] [۱۰] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [۳] [
در جایی که [در برابر [FLT] [FLT1] [FLT] از یک متغیر تصادفی برنولی با احتمال در حالی که [به جز] آموزش [در [به جز] [در [به جز [و [به جز] [به جز [به [در [و [به جز] [به جز] [و [و [در [به جز] [و] [به جز] [به جز] [به [و [از [از [از [و] [از [از [از [به] [به جز] [از [از [و] [به جز] [از [به جز] [از [از [از [از [از [از [از [از [از [از [از [از [از [از [از [از این]]]]]]]]]]]]]]]]] [از [از [از [از [از [از [از [از [از [از [از [از [از [از [از [از [از [مشر
تأثیر بر عمومی سازی شبکه عصبی
پیاده سازی رهاout توانایی مدل را برای تعمیم با کاهش بیش از حد، شبکه را مجبور به یادگیری نمایندگی های اضافی، آن را انعطاف پذیر تر به سر و صدا و تغییرات در داده ها، به عنوان یک نتیجه، مدل های با افت به طور معمول عملکرد بهتر در اعتبار و داده های تست.
- کاهش وابستگی به نورون های خاص
- تشویق ویژگی های قوی یادگیری
- کاهش بیش از حد
- بهبود دقت تست