偏差和差异是监督学习中有助于评价模型性能的重要概念。 了解如何计算这些度量,可以改进模型的选择和调试。

理解偏见和差异

Bias 指的是通过将一个现实世界的问题与简化模型相近而引入的错误. Difficial 度量模型的预测对不同的训练数据集的波动程度,两者都影响模型的准确性和概括性能力.

计算比亚斯

对比模型的平均预测值与真实值比较计算得出比亚斯。

  • 多次在不同的训练数据集上训练模型.
  • 预测每次固定测试点的输出.
  • 计算这些预测的平均值.
  • 计算此平均值与真实值之间的差值。
  • 平方这个区别来获得偏差平方.

计算差异

差异测量模型预测的可变性。要计算它:

  • 使用从多个模型中经过不同数据集培训的预测.
  • 计算所有模型的平均值预测。
  • 确定每个预测与这个平均值的平方偏差。
  • 查找差异的这些平方偏差平均值 。

实例

假设您有数据集, 并在不同子集上训练了五次模型。 对于一个特定的测试点, 预测值是3.2、 3.8、 3.5、 3.7 和 3.3。 真实值是 4. 0 。

平均预测值为3.5. 偏差平方为(4.0 - 3.5)^2 = 0.25. 差异的计算方法是,每一次预测值的平方偏差平均为3.5,结果为0.14.