机器学习残差图详解：从分布特征到解决方案

机器学习残差图详解：从分布特征到解决方案

引用

CSDN

1.

https://blog.csdn.net/m0_52690634/article/details/137270462

残差图是评估回归模型拟合效果的重要工具。通过分析残差图中数据点的分布特征，可以发现模型存在的潜在问题，并采取相应的改进措施。本文通过一个具体的残差图示例，详细解读了残差分布不均可能反映的几种情况，并提供了相应的解决方案。

如果残差图显示在一边有更多的数据点，而在水平线的上下两侧有少数几个点，这可能表明以下几种情况：

1. 非线性关系：如果残差不是随机分布，特别是在预测值的不同范围内残差的分布有系统的变化（即能看出一定的形状），这可能意味着数据与预测之间存在非线性关系，而模型可能没有完全捕捉到这种关系。

2. 异方差性（Heteroscedasticity）：如果残差的分散不是恒定的，即残差在某些预测值范围内比在其他范围内更大或更小，这称为异方差性。异方差性表明模型对数据的一致性预测能力随着预测值的变化而变化，这可能会影响模型的预测准确性和置信区间的计算。

3. 数据异常值或离群点：如果少数几个点远离其他点，这可能是数据中的异常值或离群点所致。离群点可能会对模型的训练产生不成比例的影响，导致预测性能下降。

针对上述问题，可以采取以下几种解决方案：

1. 探索非线性模型：如果数据表现出非线性特征，考虑使用非线性模型或为现有模型添加非线性特征（如多项式特征）。

2. 变换数据：使用对数变换、平方根变换等方法可以帮助处理非线性关系和异方差性，使模型拟合更加稳健。

3. 检查并处理异常值：识别并适当处理数据中的异常值或离群点，例如，通过删除它们或使用鲁棒的统计方法减少它们的影响。

4. 考虑加权回归：如果存在异方差性，加权最小二乘法（WLS）可以赋予不同观测值不同的权重，以此来应对残差的非恒定方差。