Ylikompensointi tapahtuu, kun hermoverkko oppii koulutustiedot liian hyvin, mukaan lukien melu ja outliers, mikä vähentää sen kykyä yleistyä uuteen dataan. Vianmääritys yliasennukseen liittyy merkkien tunnistaminen ja tekniikoiden soveltaminen mallin suorituskyvyn parantamiseksi näkymättömässä datassa.

Yliasennuksen merkit

Yhteisiin indikaattoreihin kuuluu korkea koulutustarkkuus, johon liittyy huomattavasti pienempi validointitarkkuus. Lisäksi koulutuksen menetys pienenee edelleen, kun validointihäviö tasannetaan tai kasvaa.

Tekniikat, joilla voidaan muuttaa varustelua

Useat menetelmät voivat auttaa vähentämään ylivarustelua hermoverkkoihin:

  • Sääntely:[ Lisää tappiotoiminnon rangaistuksen, jolla estetään monimutkaisia malleja, kuten L1 tai L2 laillistaminen.
  • Lukukausi: [] Satunnaisesti poistaa neuronit koulutuksen aikana estääkseen sopeutumisen.
  • Early Pysähtyy:[] Lopettaa koulutuksen, kun validointisuoritus alkaa heikentyä.
  • Tiedon lisäys:[ Lisää koulutustietojen moninaisuutta muunnoksilla.
  • Levitys Malli Kompleksisuus:[ Käyttää yksinkertaisempia arkkitehtuuria vähemmän parametreja.

Laskelmat ja metriikka

Seurannan mittarit, kuten validointihäviö ja tarkkuus auttavat tunnistamaan yliasennuksen. Laskelmilla, kuten ero koulutuksen ja validointitarkkuuden välillä, voidaan määrittää yliasennuksen vakavuus. Ristivalidointi tarjoaa vankemman arvion mallin yleistyksestä.