一文彻底搞懂深度学习：正则化（Regularization）

一文彻底搞懂深度学习：正则化（Regularization）

引用

CSDN

1.

https://blog.csdn.net/m0_59614665/article/details/144066608

在深度学习中，正则化是一种常用的技术手段，通过约束模型的复杂度来防止过拟合，提高模型的泛化能力、鲁棒性和解释性。本文将详细介绍几种常见的正则化方法，帮助读者更好地理解这一重要概念。

一、正则化是什么？

正则化是一种减少模型过拟合风险的技术。当模型在训练数据上表现得太好时，它可能会学习到训练数据中的噪声或随机波动，而不是数据中的基本模式。这会导致模型在未见过的数据上表现不佳，即过拟合。

正则化的目的是通过引入额外的约束或惩罚项来限制模型的复杂度，从而提高模型在未知数据上的泛化能力。

如何实现正则化？

正则化是通过在损失函数中添加一个正则项来实现的，这个正则项是基于模型参数而构建的。

• L1正则化在损失函数L中添加L1正则项，得到新的损失函数L_new = L + λ∑|w_i|，其中λ是正则化系数，w_i是模型参数。
• L2正则化则在损失函数L中添加L2正则项，得到新的损失函数L_new = L + λ∑w_i^2，其中λ是正则化系数，w_i是模型参数。

在训练过程中，L1正则化、L2正则化都是通过优化算法最小化损失函数L_new，从而实现对模型参数的约束。

二、常用的正则化方法

常用的正则化方法主要包括L1正则化（产生稀疏权重）、L2正则化（减少权重大小）、Dropout（随机丢弃神经元）、数据增强（扩充数据集）以及提前停止（监控验证误差）等，它们各自通过不同机制减少模型过拟合风险。

1. L1正则化（Lasso）

• 方法：在损失函数中添加模型参数绝对值之和作为惩罚项。
• 特点：倾向于产生稀疏权重矩阵，即部分特征权重为零，有助于特征选择。

2. L2正则化（Ridge）

• 方法：在损失函数中添加模型参数平方和作为惩罚项。
• 特点：倾向于使权重值均匀分布且较小，有助于防止模型过于复杂，减少过拟合。

3. Dropout

• 方法：在神经网络训练过程中随机丢弃一部分神经元。
• 特点：减少了神经元之间的复杂共适应性，提高了模型的泛化能力。

4. 数据增强（Data Augmentation）

• 方法：虽然不是直接对模型进行正则化，但通过对输入数据进行变换（如旋转、缩放、平移等）来扩充数据集。
• 特点：提高了模型的泛化能力，减少了过拟合的风险。

5. 提前停止（Early Stopping）

• 方法：在训练过程中监测验证集上的误差变化。
• 特点：当验证集误差在一段时间内没有进一步改善时，停止训练并返回使验证集误差最低的模型。