监督学习模型有时在新数据上表现不佳,因为问题如不适应或过度适应。 识别和解决这些问题对于建立有效的机器学习系统至关重要。

理解不适应和过度适应

当一个模型过于简单,无法捕捉数据中的基本规律时,就会出现不适应。 当一个模型从训练数据中学习噪音和细节时,就会发生过度适应,从而降低其归纳到新数据的能力。

装配和过度装配的迹象

配差的指标包括高培训和测试错误,而高配差的特点是低培训错误但高测试错误。 监测这些衡量标准有助于诊断模型性能问题。

解决不适应问题的战略

为了减少不适应,考虑增加模型的复杂性,增加更多的特性,或者为更多的时代提供培训。 确保模型有足够的能力学习数据模式至关重要。

减缓过度适应的战略

常用技术包括简化模式、使用正规化方法以及采用辍学方法。 此外,增加培训数据集的规模可以改善通用性。

模式培训的最佳做法

  • 使用交叉验证来评价模型性能.
  • 系统调整超参数。
  • 定期监测培训和鉴定错误。
  • 培训期间提前停止工作。