监督学习模型用于根据标注的数据进行预测. 实现过度适应和不足平衡对于创建有效模型至关重要,本篇文章探讨了这些概念,并提供了优化模型性能的设计策略.

监督模型的配制过重

当一个模型对训练数据,包括噪音和异常点的学习得过好时,就会出现过度适应。结果,它对于新的、看不见的数据表现不佳。 过度适应的模型往往复杂且差异很大。

在监督模型中不适应

当一个模型过于简单,无法捕捉数据中的基本规律时,就会出现不适应的情况,导致在培训和测试数据集上都表现不佳,不适应的模型具有较高的偏差和较低的差异.

防止过度适应的战略

  • 规范化:[] L1和L2等技术在模型复杂度中添加惩罚.
  • 十字-校正:[] 使用验证集帮助调制高参数,检测过配.
  • 推算:[] 简化决策树等模型,减少不必要的复杂度.
  • 快速停止: 在模型超量使用数据前停止训练.

防止不适应战略

  • 增殖模型复杂度:[] 使用更多的特征或复杂的算法.
  • 元件工程:[] 创建新功能,以更好地代表数据模式.
  • 减少规范化: 尽量减少限制模型灵活性的处罚.