Ylivarustelu ja varustelu ovat yleisiä koneoppimismalleissa. Ne vaikuttavat mallin kykyyn yleistyä koulutusdatasta näkymättömään dataan. Matemaattinen perusta auttaa suunnittelemaan parempia malleja ja valitsemaan sopivia ratkaisuja.

Matematiikan perusteet

Ylikompensointi tapahtuu, kun malli oppii paitsi taustalla kuvion, mutta myös melua koulutusdatan. Matematiikan, se johtaa alhainen koulutusvirhe mutta suuri virhe uusia tietoja. Soveltaminen tapahtuu, kun malli on liian yksinkertainen kaapata datan rakenne, mikä johtaa suuriin virheisiin sekä koulutus- ja testaustiedot.

Harhautus-varianssivaihtosuhde selittää näitä ilmiöitä. Korkean puolueellisuuden mallit taitavat olla aggregoituja, kun taas suuret varianssimallit ovat yleensä ylisopivia. Tasapainotushajonta ja varianssi on olennaista optimaalisen mallin suorituskyvyn kannalta.

Matemaattiset indikaattorit

Metrics kuten keskimääräinen neliövirhe (MSE) ja cross-validation pistemäärä auttaa tunnistamaan ylivarustelu ja alivarustelu. Merkittävä ero koulutuksen ja validointivirheiden osoittaa ylivarustelua. Toisaalta, suuret virheet molemmissa tietokannoissa viittaavat varusteluun.

Ratkaisut ja tekniikat

Useat menetelmät liittyvät overficing ja varusteluun. Säännöstelytekniikat kuten L1 ja L2 lisäävät seuraamuksia mallin monimutkaisuuteen. Ristivalidointi auttaa virittämään hyperparametrejä. Mallin yksinkertaistaminen vähentää overficing-tilaa, kun taas yhä monimutkaisempi voi lieventää alivarustelua.

  • Säännöstely
  • Ristiinvaltuutus
  • Ominaisuuksien valinta
  • Mallin monimutkaisuuskorjaus
  • Tietojen lisäys