Neuroverkot ovat tehokkaita työkaluja monimutkaisten ongelmien ratkaisemiseksi, mutta ne voivat myös ylisopia koulutusdataa, mikä vähentää niiden kykyä yleistyä uuteen dataan. Säännöllistämistekniikat auttavat hallitsemaan mallin monimutkaisuutta ja parantamaan suorituskykyä näkymättömässä datassa. Tässä artikkelissa tarkastellaan yhteisiä laillistamismenetelmiä, joita käytetään hermoverkko-opetuksessa.

Jätä

Pudotus on tekniikka, jossa satunnaisesti valitut neuronit jätetään huomiotta koulutuksen aikana. Tämä estää neuronien sopeutumista ja kannustaa verkostoa kehittämään vankempia ominaisuuksia. Testauksen aikana käytetään kaikkia neuronia, mutta niiden tuotokset on mitoitettu vastaamaan keskeyttämisen aikana.

Painon aleneminen

Painon hajoaminen lisää häviö toiminto perustuu koko painot. Tämä estää suuria painoja, jotka voivat johtaa ylivarustelua. Yleisesti, L2 laillistaminen käytetään, jos rangaistus on oikeassa suhteessa summa neliöpainot.

Tietojen muokkaus

Datan lisäys lisää koulutusdatan monipuolisuutta muun muassa kierto-, käännös- tai skaalautumalla. Tämä auttaa mallia oppimaan yleisempää aineistoa ja vähentää oversibility-sovellusta erityisesti kuva- ja puhetehtävissä.

Varhainen pysäytys

Varhainen pysäytys edellyttää mallin suorituskyvyn seurantaa koulutuksen aikana. Koulutus keskeytetään, kun suoritus pysähtyy, jolloin malli ei pysty ylisovittelemaan koulutustietoja.

Säännöstelytekniikat Yhteenveto

  • Loppu: [ satunnaisesti sivuuttaa neuronit koulutuksen aikana.
  • Paino Dekay:[] Rangaistaan suuria painoja estää ylivarustelua.
  • Tiedon lisäys: [ Laajentaa koulutusdataa muunnoksilla.
  • Early Pysähtyy:[] Lopettaa koulutuksen, kun validointisuoritus tasaantuu.