浮点精度(二)

Posted by Codeboy on September 3, 2020

之前有写过一篇浮点精度的文章,介绍了浮点数能够精确表示的整数,在整数超过一定大小后,将不能精确被表示,这次来聊一下浮点能表示的小数部分。先看一段简单的代码:

public class Test {

    public static void main(String[] args) {

        float a1 = 0.3f;
        double a2 = 0.3;

        float b1 = 0.5f;
        double b2 = 0.5;

        float c1 = 0.7f;
        double c2 = 0.7;

        System.out.println(a1 > a2);
        System.out.println(a1 == a2);
        System.out.println(a1 < a2);
        System.out.println();

        System.out.println(b1 > b2);
        System.out.println(b1 == b2);
        System.out.println(b1 < b2);
        System.out.println();

        System.out.println(c1 > c2);
        System.out.println(c1 == c2);
        System.out.println(c1 < c2);
        System.out.println();
    }
}

针对0.3、0.5、0.7的单精度和双精度的比较,谁会大一些呢? 不妨先思考一下。

让我们来看下结果:

true
false
false

false
true
false

false
false
true

转换一下结果如下:

0.3f > 0.3 
0.5f = 0.5
0.7f < 0.7

这个结果会不会很吃惊,下面来具体分析下产生这个问题的原因。

原理分析

浮点数在计算机中的存储采用 IEEE 754标准,数据块分为符号位、指数位、尾数位,单精度和双精度各部分位数长度如下:

当一个浮点数不能被精确存储时,需要进行舍入操作,IEEE标准中列举出了几种:

  • 舍入到最接近:舍入到最接近,在一样接近的情况下偶数优先,即在二进制中式以0结尾的,这种也即默认的舍入方式;
  • 朝+∞方向舍入:将结果朝正无限大的方向舍入。
  • 朝-∞方向舍入:将结果朝负无限大的方向舍入。
  • 朝0方向舍入:将结果朝0的方向舍入。

单精度浮点数和双精度浮点数在比较时,单精度浮点数将会转变为双精度浮点数后再进行比较,再来思考一下上述例子,谁大谁小其实是要看浮点数能够精确表示,不能表示的情况下,在做尾数入舍的时候,是入还是舍。

具体看下0.3、0.5和0.7的单精度模式下二进制表示:

0.3
存储: 0 01111101 00110011001100110011010
计算: 0 01111101 00110011001100110011001 1001...

0.5
存储: 0 01111110 00000000000000000000000
计算: 0 01111110 00000000000000000000000 0000...

0.7
存储: 0 01111110 01100110011001100110011
计算: 0 01111110 01100110011001100110011 0011001...

存储表示实际在内存中值,计算表示使用数学计算,在尾数无限长的情况下的值;

可以看出,单精度场景下,按照舍入到最接近原则,0.3的最后一位被入上来了,所以比较时,单精度的0.3更大;0.5能够精确的表示出来,所以单双精度相等;0.7的最后一位则被舍去,所以比较时,双精度的0.3更大。

小结

梳理清楚了浮点数的存储,那么浮点数该怎么比较呢?一般来讲,可以设定一个比较小的误差,如0.0001,两个浮点数差值小于该误差,则认为相等,具体误差值的设定需要根据场景。

如有任何知识产权、版权问题或理论错误,还请指正。

转载请注明原作者及以上信息。