Liiallistaminen tapahtuu, kun syvä hermoverkko oppii koulutustiedot liian hyvin, mukaan lukien melu ja outliers, mikä heikentää sen suorituskykyä uuden datan. Liiallisten laitteiden mittaamisen ja lieventämisen ymmärtäminen on olennaista tehokkaiden mallien kehittämisessä.

Lasketaan ylivarustelu

Yksi yhteinen menetelmä yliasennuksen havaitsemiseksi on vertailla koulutusta ja validointi tarkkuutta tai menetystä. Merkittävä aukko osoittaa ylivarustelua. Näiden mittareiden seuranta koulutuksen aikana auttaa tunnistamaan, milloin malli alkaa muistaa koulutustiedot eikä yleistyä.

Toinen lähestymistapa liittyy käyttämällä ristivalidointia, jossa aineisto on jaettu useisiin alaryhmiin. Malli on koulutettu ja validoitu näiden alaryhmien arvioida sen yleistyskyky.

Tekniikat, joilla vähennetään ylivarustelua

Useat strategiat voivat auttaa vähentämään ylikuormitusta syvän hermoston verkostoissa:

  • Lähtö: [] Sammuttaa neuronit satunnaisesti koulutuksen aikana, jotta ei turvauduttaisi tiettyihin väyliin.
  • Early Pysähtyy:[] Lopettaa koulutuksen, kun validointisuoritus alkaa heikentyä.
  • Sääntely:[ Lisää rangaistukset tappiofunktioon monimutkaisten mallien estämiseksi.
  • Tiedon lisäys:[ Laajentaa koulutusaineistoa soveltamalla muutoksia olemassa oleviin tietoihin.
  • Levitys Malli Kompleksisuus:[ Käyttää yksinkertaisempia arkkitehtuurit estää yliasennuksen.

Päätelmät

Mittaamalla ylivarustelua validointimittareiden avulla ja soveltamalla tekniikoita, kuten keskeyttämisiä, varhaista pysäyttämistä ja laillistamista, voidaan parantaa mallin yleistymistä. Liiallisten laitteiden asianmukainen hallinta parantaa syvän hermoston verkkojen suorituskykyä näkymättömässä datassa.