Ang pagbaba ng regularisasyon ay isang pamamaraan na ginagamit sa mga neural network upang maiwasan ang labis na pag - aapruba, kung paano isinasagawa ang mga kalkulasyon, at kung paano ito nagagawa.
Pag - unawa sa Pag - aalis ng Regular na Pag - unawa
Ang pagbaba ay gumagana sa pamamagitan ng pasumalang pagtatakda ng isang proporsiyon ng mga output ng neuron sa sero sa bawat pagsasanay ng eneration.Ito ay pumipigil sa mga neuron na maging labis na umaasa sa espesipikong mga katangian at humihimok sa network na gumawa ng mas matibay na mga representasyon.Ang dami ng dropout ay nagtatakda sa maliit na bahagi ng neuron na hindi gumagana.
Mga Pagtayang Nasasangkot sa Pagsabog
Sa panahon ng pagsasanay, ang bawat neuron ay pinananatili na may probabilidad p. Ang output ng isang neuron matapos ang dropout ay tinantiya bilang:
yi[[ = r]i * x [[[[[[[
kung saan r [[[[[] ay isang Bernoulli variable na may probabilidad p ng pagiging 1 (nautuos) at 0 (nabababababang). Ang mga pabigat ay sinusukat ng [[FLT:[[[[LT:5]p[T]p[T] para sa panahon ng pag-ugruruteksyon sa panahon ng pagsasanay.
Epekto sa Pangkalahatang Pagpapakilala sa Neural Network
Ang pag-iisyu ng dropout ay nagpapabuti sa kakayahan ng modelo na gumawa ng pangkalahatan sa pamamagitan ng pagbabawas ng oversout. Ito ay pumipilit sa network na matuto ng mga retonable representatives, ginagawa nitong mas matatag ang ingay at pagkakaiba-iba ng datos. Bilang resulta, ang mga modelo na may dropout ay karaniwang mas mahusay na gumagawa sa harmonation at test datasets.
- Binabawasan ang pagtitiwala sa espesipikong mga neuron
- Hinihimok ang matipunong bahagi ng pagkatuto
- Ang mga Bagsak ay labis na nababagay
- Ang mga pagsulong ay sumusubok sa katumpakan