一文读懂浮点数：从二进制表示到精度问题解决

一文读懂浮点数：从二进制表示到精度问题解决

浮点数精度问题是计算机科学中的一个经典问题，特别是在金融计算、科学计算等领域，精度问题可能导致严重的后果。本文将详细探讨浮点数的表示方法、精度问题的成因，并提供多种解决方案。

1.什么是浮点数

因为资源的限制，数学中的小数无法直接在计算机中准确表示。为了更好地表示它，计算机科学家们发明了浮点数，这是对小数的近似表示。

也就是说浮点数是相对于定点数而言的，表示小数点位置是浮动的。比如 7.5 × 10、0.75 × 10² 等表示法，值一样，但小数点位置不一样。

具体来说，浮点数是指用符号、尾数、基数和指数这四部分来表示的小数。

2. 二进制与十进制的转换

2.1 二进制与十进制的相互转换(方法介绍，思维理解)

二进制与十进制的相互转换需要理解两种进制的表示方法。十进制是我们日常生活中常用的数制，基数为10，每一位的权值是10的幂次方。二进制是计算机内部使用的数制，基数为2，每一位的权值是2的幂次方。

• 十进制转二进制：整数部分采用"除2取余"法，小数部分采用"乘2取整"法。
• 二进制转十进制：按权展开求和。

2.2 在线转换工具

除了手动转换，还可以使用在线工具进行二进制与十进制的转换，这对于快速验证转换结果非常有帮助。

3.浮点数的 IEEE754 表示

IEEE754标准定义了浮点数在计算机中的表示方法。以32位单精度浮点数为例，其结构如下：

• 符号位（1位）：0表示正数，1表示负数
• 指数位（8位）：存储指数的偏移值
• 尾数位（23位）：存储小数部分

由于基数固定是 2，因此不需要存储。

4.C# 浮点型float、double 、decimal 比较

5.解决运算精度问题

5.1 浮点数预算精度问题

浮点数运算的精度问题在实际编程中经常遇到，例如：

public static void Main(string[] args)
{
     Console.WriteLine(0.3f - 0.2f);     // 0.10000001
     Console.WriteLine(0.3 - 0.2);       // 0.09999999999999998
}   

5.2 解决方案

5.2.1 放大倍数计算

通过将浮点数放大一定的倍数进行整数运算，然后再缩小回去，可以避免精度问题：

var tmp1 = (0.3f * 10) - (0.2f * 10);
float a = tmp1/10;
Console.WriteLine(a);   // 0.1
var tmp2 = (0.3 * 10) - (0.2 * 10);
double b = tmp2/10;
Console.WriteLine(b);   // 0.1

5.2.2 ToString()

使用ToString()方法格式化输出，可以得到预期的精度：

string str1 = (0.3f -0.2f).ToString("N3");  // 保留3位有效数字
string str2 = (0.3 -0.2).ToString("N3");    // 保留3位有效数
float.TryParse(str1, out float a);
Double.TryParse(str2, out double b);
Console.WriteLine(a);   // 0.1
Console.WriteLine(b);   // 0.1

5.2.3 Math.Round()

使用Math.Round()函数进行四舍五入，可以解决精度问题：

double a = Math.Round(0.3 - 0.2, 2, MidpointRounding.AwayFromZero);
Console.WriteLine(a);   // 0.1

关于Math.Round()的使用：

• 第二个参数表示保留的小数位数
• 第三个参数MidpointRounding.AwayFromZero表示当数字正好位于两个可舍入值的中间时，将其舍入到零以外的数字

通过以上方法，可以有效地解决浮点数运算中的精度问题。在实际开发中，根据具体需求选择合适的方法，可以避免因精度问题导致的错误。