问小白 wenxiaobai
资讯
历史
科技
环境与自然
成长
游戏
财经
文学与艺术
美食
健康
家居
文化
情感
汽车
三农
军事
旅行
运动
教育
生活
星座命理

C语言入门系列:数据类型之溢出

创作时间:
作者:
@小白创作中心

C语言入门系列:数据类型之溢出

引用
CSDN
1.
https://m.blog.csdn.net/epitomizelu/article/details/139847356

文章目录

  • 一,为什么会溢出
  • 二,如何处理溢出
  • 1,溢出的恶果1:意料之外的数字轮回
  • 2,溢出的恶果2:死循环
  • 三,如何避免溢出
  • 1,最佳实践:结合极限值预判是否溢出

一,为什么会溢出

每一种数据类型都有数值范围,这个数值范围体现在分配给数组的内存大小,每种数据类型的内存大小都是固定的,如果存放的数值超出了这个范围(小于最小值或大于最大值),需要更多的二进制位存储,就会发生溢出。

溢出的本质是数据二进制的长度超出了对应数据类型的内存大小。

更简单的说,

内存装不下数据就会出现溢出。

大于最大值,叫做向上溢出(overflow);小于最小值,叫做向下溢出(underflow)。

二,如何处理溢出

编译器一般不会对溢出报错,会正常执行代码,但是会自作主张的把溢出的二进制位忽略,只保留剩下的位,这样往往会得到意想不到的结果。

就好比你的银行账户有一个亿,但系统把高位的1给抹掉了,余额瞬间变成0。

所以,在涉及数字运算时,一定要考虑溢出的情况。

下面示例中,变量x加1,得到的结果不是256,而是0。


unsigned char x = 255;  
x = x + 1;  
printf("%d\n", x); // 0  

原因如下图,char类型在内存中只分配8位,最大值

255

的二进制是

11111111

,加1后变成

100000000

,变成了9位,高位1是溢出位,会被舍弃。

1,溢出的恶果1:意料之外的数字轮回

再看下面的例子。


unsigned int ui = UINT_MAX;  // 4,294,967,295  
ui++;  
printf("ui = %u\n", ui); // 0  
ui--;  
printf("ui = %u\n", ui); // 4,294,967,295  

上面示例中,常量UINT_MAX是 unsigned int 类型的最大值。

如果加1,对于该类型就会溢出,从而得到0;而0是该类型的最小值,再减1,又会得到UINT_MAX。

溢出很容易被忽视,编译器又不会报错,所以必须非常小心。

2,溢出的恶果2:死循环


for (unsigned int i = n; i >= 0; --i) // 错误  

上面代码表面看似乎没有问题,但是循环变量i的类型是 unsigned int,这个类型的最小值是0,不可能得到小于0的结果。

当i等于0,再减去1的时候,并不会返回-1,而是返回 unsigned int 的类型最大值,这个值总是大于等于0,导致无限循环。

三,如何避免溢出

1,最佳实践:结合极限值预判是否溢出

为了避免溢出,最佳方法就是在计算过程中,与类型的极限值进行比较。


unsigned int ui;  
unsigned int sum;  
// 错误  
if (sum + ui > UINT_MAX) too_big();  
else sum = sum + ui;  
// 正确  
if (ui > UINT_MAX - sum) too_big();  
else sum = sum + ui;  

上面示例中,变量sum和ui都是 unsigned int 类型,它们相加的和还是 unsigned int 类型,是可能出现溢出的。

为了防止溢出,我们在得出结果之前判断是否会发生溢出,如果发生异常,可以自定义处理方案,确定不会溢出再执行加法运算。

但是切记不能用相加的结果与最大值进行比较,有两个原因:

  • 一是因为结果可能已经溢出了
  • 二是sum + ui的结果的类型仍然是unsigned int类型,不可能大于UINT_MAX,这个分支判断永远是false

正确的比较方法是,判断UINT_MAX - sum与ui之间的大小关系。

下面是另一种错误的写法。


unsigned int i = 5;  
unsigned int j = 7;  
if (i - j < 0) // 错误  
  printf("negative\n");  
else  
  printf("positive\n");  

上面示例的运算结果,会输出positive。

原因是变量i和j都是 unsigned int 类型,i - j的结果也是这个类型,最小值为0,不可能得到小于0的结果。正确的写法是写成下面这样。


if (j > i) // ....  

总之,不要用算术运算的结果与最大最小值进行比较。

© 2023 北京元石科技有限公司 ◎ 京公网安备 11010802042949号