问小白 wenxiaobai
资讯
历史
科技
环境与自然
成长
游戏
财经
文学与艺术
美食
健康
家居
文化
情感
汽车
三农
军事
旅行
运动
教育
生活
星座命理

深度学习中的误差评估指标详解

创作时间:
作者:
@小白创作中心

深度学习中的误差评估指标详解

引用
CSDN
1.
https://m.blog.csdn.net/a13545564067/article/details/143805390

在深度学习中,误差(Error)是衡量模型预测与真实值之间差异的指标。误差的选择和计算方式对模型的训练、评估以及优化方向至关重要。

一、误差的分类

1. 绝对误差(Absolute Error)

定义:
绝对误差计算的是预测值与真实值之间的绝对差值。

优点:

  • 简单易懂。
  • 对异常值的敏感性比平方误差低。

缺点:

  • 不可微分,优化困难(通常用平滑的替代函数,如 Huber Loss)。

2. 平方误差(Squared Error)

定义:
平方误差是预测值与真实值之间的差值的平方。

常用指标:

  • 均方误差(MSE)
  • 根均方误差(RMSE)

优点:

  • 易于优化(连续且可微)。
  • 放大了大误差的惩罚,适合对异常值敏感的任务。

缺点:

  • 对异常值敏感,可能影响模型的收敛。

3. 相对误差(Relative Error)

定义:
相对误差衡量误差相对于真实值的比例。

常用指标:

  • 平均绝对百分比误差(MAPE)

优点:

  • 适合实际业务场景的解释性,如预测的相对准确性。

缺点:

  • 当真实值接近 0 时,可能导致不稳定。

4. 对数误差(Logarithmic Error)

定义:
对数误差用于平衡不同尺度的预测值,尤其适用于对数分布的数据。

常用指标:

  • 对数均方误差(MSLE)

优点:

  • 对大范围数据更加鲁棒。
  • 减少了异常值的影响。

缺点:

  • 对预测值为负的数据不适用。

5. 分类误差

适用于分类任务的误差指标,包括:

  • 准确率(Accuracy)
  • 交叉熵误差(Cross Entropy Loss)
  • F1 Score

6. 自定义误差

根据任务需求,可以定义新的误差函数,例如:

  • Huber Loss(结合绝对误差和平方误差的优点)

二、如何选择误差类型

回归任务

数据特性
推荐误差
正常分布数据
MSE 或 RMSE
存在异常值
MAE、Huber Loss
数据分布跨度大(对数分布)
MSLE 或 Log Loss

分类任务

数据特性
推荐误差
平衡数据
Cross Entropy Loss
不平衡数据
Focal Loss、Weighted Loss
多标签分类
Binary Cross Entropy

时间序列或序列预测任务

数据特性
推荐误差
时间敏感
Time-series MSE
对比例更感兴趣
MAPE、MSLE
© 2023 北京元石科技有限公司 ◎ 京公网安备 11010802042949号