为什么一定要用残差图检查你的回归分析？

为什么一定要用残差图检查你的回归分析？

在进行回归分析时，检查残差图是验证模型有效性的关键步骤。本文将深入探讨残差图的概念、重要性以及如何通过残差图来判断模型的有效性。

残差图的基本概念

残差图是指以残差为纵坐标，以任何其他指定的量为横坐标的散点图。在使用普通最小二乘法（OLS）进行回归分析后，通过残差图可以检查模型的假设是否成立，从而验证模型的有效性。

回归模型的组成部分

一个有效的回归模型可以分为两个基本组成部分：

• 确定性部分（Deterministic Portion）：由关于预测自变量的函数组成，包含了回归模型中所有可解释、可预测的信息。

• 随机误差（Stochastic Error）：不仅包含随机性，还包含不可预测性。这两点非常重要，意味着回归模型下的预测值和观测值之间的差异必须是随机且不可预测的。

残差图的作用

残差图可以帮助我们估计观察或预测到的误差（残差）与随机误差是否一致。通过检查残差图，可以判断模型是否遗漏了可预测信息。理想情况下，残差应该呈现为以0为中心的白噪声分布。

正确的残差图示例

下面是一个使用Seaborn绘制的正确残差图示例：

%matplotlib inline
import numpy as np
import matplotlib as mpl
import matplotlib.pyplot as plt
np.random.seed(sum(map(ord, "anscombe"))) 
import seaborn as sns
anscombe = sns.load_dataset("anscombe")
sns.residplot(x="x", y="y", data=anscombe.query("dataset == 'I'"), scatter_kws={"s": 80}) 

错误的残差图示例

下面是一个残差图存在问题的示例：

sns.residplot(x="x", y="y", data=anscombe.query("dataset == 'II'"), scatter_kws={"s": 80})

在上图中，可以根据拟合值预测残差的非零值。例如，拟合值为9的预期残差为正值，而5和13的拟合值具有负的预期残差。这表明模型的确定部分没有捕获一些可解释/可预测信息。

残差图的检查要点

1. 残差不应该包含任何可预测的信息。
2. 残差不应该与另外的变量有所相关。
3. 相邻残差不应该相互关联。

最终，理想的残差图不仅要体现出随机性，还要体现不可预测性。