Ang pagpasa ay isang pamamaraan ng regularisasyon na ginagamit sa mga network ng neural upang maiwasan ang overset. Ito ay kinasasangkutan ng pasumalang pag-iiba ng isang subset ng mga neuron sa panahon ng pagsasanay, na naghihikayat sa network na magkaroon ng mas matibay na mga katangian. Ang pag-unawa sa batayang teoretikal at praktikal na pagpapatupad nito ay maaaring mapabuti ang modelong pagganap at paglalahat.

Ang mga Pundasyong Maka - Diyos ng Pag - alis

Ang Dropout ay ipinakilala bilang isang paraan upang mabawasan ang masalimuot na mga co-adaptations sa mga neuron. Sa pamamagitan ng konsumpsiyon na pagbaba ng mga unit sa panahon ng pagsasanay, ang network ay nag-aaral ng mga representasyong redundant, na nagreresulta sa kakayahan nito na maging pangkalahatan sa hindi nakikitang datos. Ang teknik ay maaaring ituring bilang isang aproximation upang sanayin ang isang ensemble ng maraming iba't ibang network nang sabay-sabay.

Praktikal na mga Tip sa Pagtatakda ng Implementasyon

Ang pagbaba ng bilang ng mga dropout ay nangangailangan ng pansin sa ilang parameter. Ang dami ng mga dropout, na nagpapahiwatig sa probabilidad na idistructation ang isang neuron, ay karaniwang mula 0.2 hanggang 0.5. ito ay karaniwang inilalapat pagkatapos ng mga patong na lubusang konektado at kung minsan ay pagkatapos ng mga suson ng convolutional, depende sa arkitektura.

Sa panahon ng pagsasanay, aktibo ang dropout, pero kapag may pagbabago, nagiging balanse ang mga timbang sa panahon ng pagsubok.

Karagdagang mga Tip Para sa Paggamit ng Dahon

  • Ihalo ang dropout sa iba pang mga pamamaraan ng regularisasyon tulad ng pagkabulok ng timbang.
  • Ibagay ang mga dropout rate batay sa pagiging komplikado ng model at dataset.
  • Gamitin ang mga dropout sa mga suson na lubusang konektado pangunahin na, yamang ito ay hindi gaanong mabisa sa mga suson ng convolutional.
  • Sininisiyasat ang mabisang pagganap upang maiwasan ang labis na paghinto, na maaaring makahadlang sa pagkatuto.