Ang mga network na neural ay mga makapangyarihang kasangkapan para sa paglutas ng mga komplikadong problema, ngunit maaari rin silang labis na mag-injust ng mga datos, binabawasan ang kanilang kakayahan na gawing pangkalahatan ang bagong datos. Ang mga pamamaraang regularisasyon ay tumutulong sa pagkontrol ng model complexing at pagpapabuti ng pagsasagawa sa hindi nakikitang datos. Ang artikulong ito ay tumutuklas ng mga karaniwang pamamaraang regularisasyon na ginagamit sa pagsasanay ng neural network.

Bumababa

Ang dropout ay isang pamamaraan kung saan ang mga konsumpsiyon na piniling neuron ay hindi pinapansin sa panahon ng pagsasanay.Ito ay pumipigil sa mga neuron mula sa co-adaptting at hinihikayat ang network na magkaroon ng mas matibay na katangian. sa panahon ng pagsubok, lahat ng neuron ay ginagamit, ngunit ang mga output nito ay sinusukat upang magsulit ng pagbaba ng mga drop sa panahon ng pagsasanay.

Pagnipis ng Timbang

Ang pagkasira ng timbang ay nagdaragdag ng parusa sa pagkawala batay sa laki ng mga pabigat.Ito ay nakakadismaya sa malalaking mga pabigat, na maaaring humantong sa labis na pag-aangkop. karaniwan, ang L2 regularisasyon ay ginagamit, kung saan ang parusa ay proporsiyonal sa kabuuan ng mga kuwadradong pabigat.

Pagpapalitan ng mga Data

Pinararami ng pagdaragdag ng mga impormasyon sa mga impormasyong pang-edukasyon ang iba't ibang mga bagay sa pagsasanay sa pamamagitan ng pagkakapit ng mga pagbabago tulad ng mga ikot, salin, o pag-iiskeyting. ito ay tumutulong sa modelo na matuto ng mas pangkalahatang mga katangian at mabawasan ang labis na pag-aangkop, lalo na sa mga gawaing panglarawan at pagsasalita.

Maagang Paghinto

Ang maagang paghinto ay nagsasangkot ng pagsubaybay sa pagtatanghal ng modelo sa isang adfication set sa panahon ng pagsasanay.Ang pagsasanay ay nahihinto kapag ang pagsasagawa ay humihinto sa pagpapabuti, hinahadlangan ang modelo na labis na umangkop sa mga datos ng pagsasanay.

Sumaryo ang mga Pamamaraan sa Regularisasyon

  • [ Ang Randomly ay hindi nagbibigay-pansin sa mga neuron sa panahon ng pagsasanay.
  • Wight Deft: Ang mga malalaking pabigat ay nag-eebolb ng malalaking mga pabigat upang maiwasan ang labis na pag-aangkop.
  • Data Augmentation: Pinalalawak ang mga datos sa pamamagitan ng mga transpormasyon.
  • [[Count topping: Humihinto sa pagsasanay kapag ang mga confessional performation standing ay tumatapos.