Voorspellingen worden door middel van Supervised Learning modellen op basis van gelabelde data gemaakt. Het bereiken van een evenwicht tussen overpassen en underfitting is essentieel voor het creëren van effectieve modellen. Dit artikel verkent deze concepten en biedt ontwerpstrategieën om modelprestaties te optimaliseren.

Overpassen in Supervised Models

Overpassen treedt op wanneer een model de trainingsgegevens te goed leert, inclusief lawaai en uitschieters. Hierdoor presteert het slecht op nieuwe, ongeziene gegevens. Overbouwde modellen zijn vaak complex en hebben een hoge variatie.

Underfitting in Supervised Models

Onderpassen gebeurt wanneer een model te eenvoudig is om de onderliggende patronen in de gegevens vast te leggen. Het resulteert in slechte prestaties op zowel trainings- als testdatasets. Onderbouwde modellen hebben een hoge vooringenomenheid en lage variatie.

Strategieën om overspannen te voorkomen

  • Regulering: Technieken zoals L1 en L2 voegen sancties toe aan de complexiteit van het model.
  • Cross-Validatie: Met behulp van validatiesets kunnen hyperparameters worden afgestemd en overgemonteerd worden.
  • Pruning: Het vereenvoudigen van modellen zoals beslissingsbomen vermindert onnodige complexiteit.
  • Vroeger stoppen: Stoppen met trainen voordat het model de gegevens overspant.

Strategieën om Underfitting te voorkomen

  • Verhoogde Model Complexity: Gebruik makend van meer functies of complexe algoritmen.
  • Feature Engineering: Nieuwe functies creëren om gegevenspatronen beter te kunnen weergeven.
  • Verminderen van regularisatie: Minimalisering van sancties die de flexibiliteit van het model beperken.