Overfitting treedt op wanneer een machine learning model leert de training gegevens te goed, inclusief lawaai en uitschieters, die vermindert zijn vermogen om te generaliseren tot nieuwe gegevens. Het detecteren en voorkomen van overfitting is essentieel voor het ontwikkelen van robuuste modellen.

Tekenen van overfitting

Overfitting wordt vaak aangegeven door een significant verschil tussen trainings- en validatieprestaties. Wanneer een model uitzonderlijk goed presteert op trainingsgegevens maar slecht op ongeziene gegevens, is overfitting waarschijnlijk.

Technieken om overbouw te detecteren

De prestaties van het monitoringmodel op validatiedatasets helpen bij het identificeren van overpassen.

  • Instellen van training en valideringsnauwkeurigheid over tijdperken
  • Evaluatie van prestatiegegevens op afzonderlijke testgegevens
  • Gebruik van kruisvalidatietechnieken

Strategieën om overspannen te voorkomen

Preventieve maatregelen helpen bij het verbeteren van modelgeneralisatie.

  • Regulering: Het toepassen van sancties op modelcomplexiteit, zoals L1 of L2 regularisatie.
  • Pruning: Het vereenvoudigen van beslissingsbomen door het verwijderen van takken die niet significant bijdragen.
  • Vroeger stoppen: Stoppen met trainen wanneer de validatieprestaties niet meer verbeteren.
  • Data augmentation: De diversiteit van de trainingsgegevens vergroten om overfitting te verminderen.
  • Dropout: Neuronen willekeurig uitschakelen tijdens training in neurale netwerken.