Ang pagbaba at regularisasyon ay mga pamamaraang ginagamit sa pag-aaral ng makina upang mapabuti ang pagganap ng modelo sa pamamagitan ng paghadlang sa overfit. overscript.Ang isang modelo ay nangyayari kapag natututo ng ingay sa mga datos na pangsanay, binabawasan ang kakayahan nitong gumawa ng pangkalahatan sa bagong datos.
Nauuso ang Pag - unawa
Ang pagbaba ay kusang pumipinsala sa katiting na neuron sa panahon ng pagsasanay, na tumutulong upang hindi labis na umasa ang network sa espesipikong mga daanan.
Ang karaniwang dami ng mga dropout ay mula 0.2 hanggang 0.5. Halimbawa, ang isang dropout rate ng 0.3 ay nangangahulugang 30% ng mga neuron ay na-off sa bawat hakbang ng pagsasanay. ito ay humihikayat sa network na magkaroon ng mas matipunong katangian.
Pag - aalis ng Regular na Pag - aayos
Ang regularisasyon ay nagdaragdag ng parusa sa pagkawala upang hadlangan ang masalimuot na mga modelo. Ang pinakakaraniwang anyo ay ang L2 regularization, na nagpapabawi sa malalaking pabigat.
Loss = Original Loss + ⁇ * ⁇ (w2)[]
Kung saan ang muspina (lambda) ang regularisasyong parameter, at ang ⁇ (w) ay ang kabuuan ng mga timbang na parisukat.Ang pagpili ng isang angkop na ⁇ ay mahalaga; ang karaniwang mga halaga ay mula 0.001 hanggang 0.1.
Mga Estratehiya Upang Iwasan ang Labis na Pag - asa
Ang pagsasama ng dropout at regularization ay epektibong makababawas sa overfiture. Ang ibang mga estratehiya ay kinabibilangan ng maagang paghinto, pagdagdag ng datos, at cross-validation. Ang regular na pagsubaybay sa adventation performation performance ay tumutulong upang malaman ang mga optimikong regularization parameter.
- Gamitin ang dropout na may rate sa pagitan ng 0.2 at 0.5
- Pahiran ng muscurization ang muscan sa paligid ng 0.01
- Mag - iskedyul ng maaga sa panahon ng pagsasanay
- Ang mga impormasyon sa pagsasanay sa mga hayop upang maparami ang pagkakasari - sari