Tappiotoiminnot ovat olennaisen tärkeitä valvotussa oppimisessa, koska ne mittaavat ennustettujen tuotosten ja todellisten merkkien välistä eroa. Ne ohjaavat koulutusprosessia tarjoamalla metrisen optimoinnin. Erilaisia tappiotoimintoja käytetään riippuen ongelmatyypistä ja datan ominaisuuksista.

Keskineliövirhe (MSE)

Regressiotehtäviin käytetään yleisesti keskiarvoa neliövirhe. Se laskee ennustettujen ja todellisten arvojen välisten erojen neliöiden keskiarvon. Kaava on:

]MSE = (1/n) Σ (yi - .[i])2[]

jossa y[i on todellinen arvo, .[i[ on ennustearvo, ja n on näytteiden määrä. MSE rankaisee suurempia virheitä raskaammin ja kannustaa malli minimoimaan merkittäviä poikkeamia.

Ristiintulohäviö

Cross-entropia tappio käytetään ensisijaisesti luokittelutehtävät. Se mittaa eroavuutta ennustetun todennäköisyysjakauman ja todellisen jakautumisen välillä. Binääriluokittelussa kaava on:

Cross-Entropia = - [ y log(...] + (1 - y) log(1 - ... .......................................................................................................................................................................................................................

jossa y on todellinen merkki (0 tai 1), ja ... on positiivisen luokan ennustettu todennäköisyys. Tämä tappio funktio rankaisee vääriä ennusteita enemmän, kun malli on varma mutta väärä.

Vertailu ja käyttö

MSE soveltuu jatkuvaan lähtömuuttujaan, kun taas cross-entropia sopii erinomaisesti kategorisiin tietoihin. Sopivan tappiotoiminnon valinta riippuu ongelmatyypistä ja tuotoksen luonteesta.

  • Regressioongelmat
  • Luokitusongelmat
  • Mallien lähentymiseen liittyvät näkökohdat
  • Epäonnistuneiden tapausten käsittely