Napasulong na mga Pamamaraan sa Paggawa
Patiunang mga Pamamaraan sa Regularisasyon Upang Iwasan ang Labis na Pag - asa sa Masalimuot na Neural Network
Table of Contents
Ang labis na pag - aakma ay isang karaniwang hamon sa pagsasanay ng masalimuot na mga neural network, kung saan ang mga modelo ay mahusay na gumagawa sa pagsasanay ng mga impormasyon subalit hindi mahusay sa di - nakikitang impormasyon. Ang mga pamamaraan ng regularisasyon ay tumutulong upang mapasulong ang kakayahan ng mga modelong ito na gumawa ng pangkalahatang mga modelo sa pamamagitan ng paghadlang sa labis na pag - aangkop.
Pag - aalis at Pagbabagu - bago
Ang Dropout ay isang malawakang ginagamit na pamamaraan ng regularisasyon na nagreresulta sa isang subset ng mga neuron sa panahon ng pagsasanay.Ang mga Variant tulad ng Spanial Dropout at DropConnect ay nagpapakilala ng mga modipikasyon upang mapabuti ang pagsasagawa sa espesipikong mga senaryo.Ang Dropout ay tumutulong upang mabawasan ang pagtitiwala sa mga espesipikong neuron, na nagtataguyod ng mas matipunong katangiang pagkatuto.
Regular na Pagpapabigat
Ang regularisasyon ng timbang ay nagdaragdag ng mga terminong parusa sa pagkawala ng tungkulin upang malimitahan ang lakas ng mga pabigat. ang mga karaniwang pamamaraan ay kinabibilangan ng L1 regularisasyon, na naghihikayat ng sparsidad, at L2 regularization, na nakakadismaya sa malalaking mga pabigat.Ang mga teknik na ito ay tumutulong upang maiwasan ang modelo sa pag-aangkop ng ingay sa mga datos ng pagsasanay.
Pagmamaltrato at Pagkamahiyain ng mga Data
Ang pagdagdag ng impormasyon sa pamamagitan ng paggamit ng mga pagbabagong gaya ng pag - ikot, pag - ikot, o pag - iiba - iba ng kulay ay nagsasangkot ng pagdaragdag ng ingay sa mga input o mga pabigat sa panahon ng pagsasanay.
Patiunang Pamamaraan
Kabilang sa iba pang masulong na mga paraan ng regularisasyon ang:
- Ang batch Normalisasyon: ay normal na nagreresulta sa mga layer input upang patatagin ang pagkatuto.
- [[Cencle] Ang Dygiving: ay humihinto sa pagsasanay kapag ang afessional performance ay humihinto sa pagpapabuti.
- [Spectral Normalization: ay pumipigil sa spectral na pamantayan ng mga maririsa sa timbang upang patatagin ang pagsasanay.
- [[Talaksan: Ang mga rehiyong kontiguous ay makikita sa mga tampok na mapa, na nagpapabuti sa regularisasyon.