Le surajustement se produit lorsqu'un modèle d'apprentissage automatique apprend trop bien les données de formation, y compris le bruit et les aberrations, ce qui réduit sa capacité à généraliser les nouvelles données.

Signes de surajustement

Le surajustement est souvent illustré par une différence significative entre la formation et la performance de validation. Lorsqu'un modèle fonctionne exceptionnellement bien sur les données de formation mais mal sur les données invisibles, il est probable que le surajustement est.

Techniques pour détecter les surajustements

La surveillance des performances des modèles sur les ensembles de données de validation permet de déceler les surajustements.

  • Formation et précision de validation sur les époques
  • Évaluation des mesures de performance sur des données d'essai distinctes
  • Utilisation de techniques de validation croisée

Stratégies visant à prévenir les surajustements

Les mesures préventives contribuent à améliorer la généralisation des modèles.

  • Regularisation:[ Appliquer des pénalités à la complexité du modèle, comme la régularisation L1 ou L2.
  • Élagage: Simplifier les arbres décisionnels en enlevant les branches qui ne contribuent pas de façon significative.
  • Arrêt précoce:[ Arrêt de la formation lorsque la performance de validation cesse d'améliorer.
  • Augmentation des données :[ Augmentation de la diversité des données de formation pour réduire les surajustements.
  • Épaisseur:[ Neurones invalidants au hasard pendant l'entraînement sur des réseaux neuronaux.