R构建逐步回归模型（Stepwise Regression）

R构建逐步回归模型（Stepwise Regression）

引用

CSDN

1.

https://blog.csdn.net/weixin_57242009/article/details/140156706

逐步回归模型（Stepwise Regression）

逐步回归是一个预测变量筛选（特征选择）的过程，我们可以使用从一组（全部或者其中任意1个）预测变量建立一个回归模型，通过逐步地添加或者删除预测变量到模型中，直到没有统计上有效的特征可以进行添加或删除操作。

逐步回归的目标是建立一个回归模型，并且其中的所有预测变量都对因变量有显著影响。这种模型有助于避免过拟合，同时保持模型的解释能力。

前向法（Forward Stepwise Selection）

前向选择法从一个空模型开始，逐步添加变量。在每一步中，选择能够最大程度提高模型拟合度的变量添加到模型中，直到没有变量可以显著改善模型为止。

后向法（Backward Stepwise Selection）

后向选择法与前向选择法相反，它从包含所有变量的全模型开始，逐步删除变量。在每一步中，选择删除对模型影响最小的变量，直到所有剩余的变量都对模型有显著贡献。

双向法（Both-Direction Stepwise Selection）

双向选择法结合了前向选择和后向选择的优点。它从一个空模型开始，像前向选择一样添加变量，但在每一步中也会检查是否可以删除任何已添加的变量。这种方法更灵活，但计算量也更大。