Ang regularisasyon ay isang pamamaraan na ginagamit sa pagkatuto ng makina upang maiwasan ang labis na pag - asa sa pamamagitan ng pagdaragdag ng parusa sa pagkawala ng trabaho.
Teoriya ng Regularisasyon
Ang pagiging regular ay nagpapakilala ng karagdagang mga termino sa layunin sa panahon ng pagsasanay. Ang mga terminong ito ay nagpaparusa sa malalaking modelong parameter, nagpapatibay - loob sa mas simpleng mga modelo na hindi angkop sa ingay sa mga impormasyong pangsanay.
Karaniwang mga Pamamaraan sa Regularisasyon
- L1 Regularisasyon: Idagdag ang ganap na halaga ng mga cofits sa tungkulin ng pagkawala, na nagtataguyod ng sparsidad.
- L2 Regularisasyon: Dagdagan ang kuwadradong halaga ng mga cofict, na nagpapatibay ng mas maliliit na mga pabigat.
- [ Ang Randomly ay nagbaba ng mga yunit sa panahon ng pagsasanay upang mabawasan ang pagtitiwala sa espesipikong mga neuron.
- [[Cober topping: Humihinto ang pagsasanay kapag nagsimulang humina ang pagsasagawa ng mga impormasyong pang-akademiya.
Mga Pagkalkula at Pag - aalis ng Katayuan
Halimbawa, sa linear regression, ang L2 regularization ay nagbibigay ng bisa sa halaga na gaya ng sumusunod:
Kawalan = Tumpu ng mga patlang na parisukat + ⁇ * Suma ng mga kuwadradong pabigat
Kung saan ang musbda (lambda) ay ang regularisasyong parameter na kumokontrol sa lakas ng parusa.Ang pagpili ng isang angkop na muskulo ay mahalaga at kadalasang ginagawa sa pamamagitan ng cross-validation.
Pinakamabuting Gawain
Kapag nagpapatupad ng pagiging regular, isaalang - alang ang sumusunod na pinakamabuting mga gawain:
- Gumamit ng cross-validation upang magbigay ng tono sa regularization para sa mga parameter.
- Magsimula sa simpleng mga modelo at unti - unting dagdagan ang kasalimuutan.
- Pagsamahin ang maramihang pamamaraan ng regularisasyon kung kinakailangan.
- Subaybayan ang mabisang pagtatanghal upang maiwasan ang hindi angkop o labis na pag - asa.