为什么决策树相关的算法不需要标准化？那么那些模型需要标准化那？

为什么决策树相关的算法不需要标准化？那么那些模型需要标准化那？

引用

CSDN

1.

https://m.blog.csdn.net/zhongkeyuanchongqing/article/details/118164277

在机器学习领域，数据标准化是一个常见的预处理步骤，但对于决策树及其衍生算法而言，这一步骤是否必要？本文将从决策树的工作原理出发，深入探讨这一问题，并进一步说明哪些模型确实需要进行标准化处理。

基于树的算法，如决策树（Decision Tree）、随机森林(Random Forest)和GBDT，xgboost等，对变量的大小不敏感。因此，在拟合这类模型之前，不需要进行标准化。

以决策树使用信息熵进行特征区间的划分为例，对于特征的划分只能信息熵的变化有关，而和特征的本身的大小无关，即只和特征对于模型分类或者回归的确定性的能力有关，而和特征本身数值的幅度无关；

也就是说，因为数值缩放不会影响分裂点位置，对树模型的结构不造成影响。

树生长，按照特征值进行排序的，排序的顺序不变，那么所属的分支以及分裂点就不会有不同。而且，树模型是不能进行梯度下降的，因为构建树模型（回归树）寻找最优点时是通过寻找最优分裂点完成的，因此树模型是阶跃的，阶跃点是不可导的，并且求导没意义，也就不需要归一化。

既然树形结构不需要标准化，那为何非树形结构