float类型进⾏计算精度丢失的问题
今天⼀个案⼦,⽤户反映数量差异明明是 2.0-1.8,显⽰的结果却为0.20000005,就⾃⼰写了段⽅法测试了⼀下:
package test1;
public class Test2 {
/**
* @param args
*/
public static void main(String[] args) {
Float xx = 2.0f;
Float yy = 1.8f;
Float tt = xx - yy;
System.out.println("tttttt-----" + tt);
}
}
果然输出结果是: tttttt-----0.20000005
再测试了⼏个float类型的减法,除了*.0这样的相减没有异议之外,都存在这个问题,就是说float在相减的时候精度丢失了。后来在⽹上到⼀段解决这个问题的办法,记在这⾥:
package test1;
import java.math.BigDecimal;
public class Test2 {
/**
float几个字节多少位* @param args
*/
public static void main(String[] args) {
Float xx = 2.2f;
Float yy = 2.0f;
Float tt = xx - yy;
BigDecimal b1 = new String(xx));
BigDecimal b2 = new String(yy));
float ss = b1.subtract(b2).floatValue();
System.out.println("ssss----" + ss);
System.out.println("tttttt-----" + tt);
}
}
输出为:
ssss----0.2
tttttt-----0.20000005
这样⼀对⽐,差异就很明显了。
解决了问题,再了⼀下为什么会产⽣这种差异:
问题提出:12.0f-11.9f=0.10000038,"减不尽"为什么?
现在我们就详细剖析⼀下浮点型运算为什么会造成精度丢失?
1、⼩数的⼆进制表⽰问题
⾸先我们要搞清楚下⾯两个问题:
(1) ⼗进制整数如何转化为⼆进制数
算法很简单。举个例⼦,11表⽰成⼆进制数:
11/2=5 余 1
5/2=2 余 1
2/2=1 余 0
1/2=0 余 1
0结束 11⼆进制表⽰为(从下往上):1011
这⾥提⼀点:只要遇到除以后的结果为0了就结束了,⼤家想⼀想,所有的整数除以2是不是⼀定能够最终得到0。换句话说,所有的整数转变为⼆进制数的算法会不会⽆限循环下去呢?绝对不会,整数永远可以⽤⼆进制精确表⽰,但⼩数就不⼀定了。
(2) ⼗进制⼩数如何转化为⼆进制数
算法是乘以2直到没有了⼩数为⽌。举个例⼦,0.9表⽰成⼆进制数
0.9*2=1.8 取整数部分 1
0.8(1.8的⼩数部分)*2=1.6 取整数部分 1
0.6*2=1.2 取整数部分 1
0.2*2=0.4 取整数部分 0
0.4*2=0.8 取整数部分 0
0.8*2=1.6 取整数部分 1
0.6*2=1.2 取整数部分 0
......... 0.9⼆进制表⽰为(从上往下):
注意:上⾯的计算过程循环了,也就是说*2永远不可能消灭⼩数部分,这样算法将⽆限下去。很显然,⼩数的⼆进制表⽰有时是不可能精确的。其实道理很简单,⼗进制系统中能不能准确表⽰出1/3呢?同样⼆进制系统也⽆法准确表⽰1/10。这也就解释了为什么浮点型减法出现了"减不尽"的精度丢失问题。
2、 float型在内存中的存储
众所周知、 Java 的float型在内存中占4个字节。float的32个⼆进制位结构如下
float内存存储结构
4bytes 31 30 29----23 22----0
表⽰实数符号位指数符号位指数位有效数位
其中符号位1表⽰正,0表⽰负。有效位数位24位,其中⼀位是实数符号位。
将⼀个float型转化为内存存储格式的步骤为:
(1)先将这个实数的绝对值化为⼆进制格式,注意实数的整数部分和⼩数部分的⼆进制⽅法在上⾯已经探讨过了。
(2)将这个⼆进制格式实数的⼩数点左移或右移n位,直到⼩数点移动到第⼀个有效数字的右边。
(3)从⼩数点右边第⼀位开始数出⼆⼗三位数字放⼊第22到第0位。
(4)如果实数是正的,则在第31位放⼊“0”,否则放⼊“1”。
(5)如果n 是左移得到的,说明指数是正的,第30位放⼊“1”。如果n是右移得到的或n=0,则第30位放⼊“0”。
(6)如果n是左移得到的,则将n减去1后化为⼆进制,并在左边加“0”补⾜七位,放⼊第29到第23位。
如果n是右移得到的或n=0,则将n化为⼆进制后在左边加“0”补⾜七位,再各位求反,再放⼊第29到第23位。
举例说明: 11.9的内存存储格式
(1) 将11.9化为⼆进制后⼤约是" 1011. "。
(2) 将⼩数点左移三位到第⼀个有效位右侧: "1. 011 11100110011001100110 "。保证有效位数24位,右侧多余的截取(误差在这⾥产⽣了)。
(3) 这已经有了⼆⼗四位有效数字,将最左边⼀位“1”去掉,得到“ 011 11100110011001100110 ”共23bit。将它放⼊float存储结构的第22到第0位。
(4) 因为11.9是正数,因此在第31位实数符号位放⼊“0”。
(5) 由于我们把⼩数点左移,因此在第30位指数符号位放⼊“1”。
(6) 因为我们是把⼩数点左移3位,因此将3减去1得2,化为⼆进制,并补⾜7位得到0000010,放⼊第29到第23位。
最后表⽰11.9为: 0 1 0000010 011 11100110011001100110
再举⼀个例⼦:0.2356的内存存储格式
(1)将0.2356化为⼆进制后⼤约是0.00111100010100000100100000。
(2)将⼩数点右移三位得到1.11100010100000100100000。
(3)从⼩数点右边数出⼆⼗三位有效数字,即11100010100000100100000放⼊第22到第0位。
(4)由于0.2356是正的,所以在第31位放⼊“0”。
(5)由于我们把⼩数点右移了,所以在第30位放⼊“0”。
(6)因为⼩数点被右移了3位,所以将3化为⼆进制,在左边补“0”补⾜七
位,得到0000011,各位取反,得到1111100,放⼊第29到第23位。
最后表⽰0.2356为:0 0 1111100 11100010100000100100000
将⼀个内存存储的float⼆进制格式转化为⼗进制的步骤:
(1)将第22位到第0位的⼆进制数写出来,在最左边补⼀位“1”,得到⼆⼗四位有效数字。将⼩数点点在最左边那个“1”的右边。
(2)取出第29到第23位所表⽰的值n。当30位是“0”时将n各位求反。当30位是“1”时将n增1。
(3)将⼩数点左移n位(当30位是“0”时)或右移n位(当30位是“1”时),得到⼀个⼆进制表⽰的实数。
(4)将这个⼆进制实数化为⼗进制,并根据第31位是“0”还是“1”加上正号或负号即可。
3、浮点型的减法运算
浮点加减运算过程⽐定点运算过程复杂。完成浮点加减运算的操作过程⼤体分为四步:
(1) 0操作数的检查;
如果判断两个需要加减的浮点数有⼀个为0,即可得知运算结果⽽没有必要再进⾏有序的⼀些列操作。
(2) ⽐较阶码(指数位)⼤⼩并完成对阶;
两浮点数进⾏加减,⾸先要看两数的指数位是否相同,即⼩数点位置是否对齐。若两数指数位相同,表⽰⼩数点是对齐的,就可以进⾏尾数的加减运算。反之,若两数阶码不同,表⽰⼩数点位置没有对齐,此时必须使两数的阶码相同,这个过程叫做对阶。
如何对阶(假设两浮点数的指数位为 Ex 和 Ey ):
通过尾数的移位以改变 Ex 或 Ey ,使之相等。由于浮点表⽰的数多是规格化的,尾数左移会引起最⾼有位的丢失,造成很⼤误差;⽽尾数右移虽引起最低有效位的丢失,但造成的误差较⼩,因此,对阶操作规定使尾数右移,尾数右移后使阶码作相应增加,其数值保持不变。很显然,⼀个增加后的阶码与另⼀个相等,所增加的阶码⼀定是⼩阶。因此在对阶时,总是使⼩阶向⼤阶看齐,即⼩阶的尾数向右移位 ( 相当于⼩数点左移 ) ,每右移⼀位,其阶码加 1 ,直到两数的阶码相等为⽌,右移的位数等于阶差△ E 。
(3) 尾数(有效数位)进⾏加或减运算;对阶完毕后就可有效数位求和。不论是加法运算还是减法运算,都按加法进⾏操作,其⽅法与定点加减运算完全⼀样。
(4) 结果规格化并进⾏舍⼊处理。
4、计算12.0f-11.9f
12.0f 的内存存储格式为: 0 1 0000010 10000000000000000000000
11.9f 的内存存储格式为: 0 1 0000010 011 11100110011001100110
可见两数的指数位完全相同,只要对有效数位进⾏减法即可。
12.0f-11.9f 结果: 0 1 0000010 00000011001100110011010
将结果还原为⼗进制为: 0.000 11001100110011010= 0.10000038
//------------------------------------------------------------------------⼀个此类问题的例⼦----------------------------------------------------------------------------
在精确计算,尤其是有关⾦钱的商业运算中,不能使⽤float和double类型。
看如下的例⼦:
商店⾥某种糖果的价格是0.1元,0.2元,0.3元, …… 依此类推,⼀直到1.00元。现在你⼿中有1元钱。你想买⼀些糖果,假设你从1⾓的糖果开始依次买,⼀种价格的买⼀颗。计算⼀下⼀共可以买多少颗糖果,最后会剩下多少零钱。
第⼀个程序:
st;
public class Test {
private static final double FUNDS = 1.00;
private static final double TEN_CENTS = .1;
public static void main( String[] args ) {
int itemsBought = 0;
double myfund = FUNDS;
for (double price = TEN_CENTS; price < myfund; price+= TEN_CENTS) {
itemsBought++;
myfund-= price;
}
System.out.println("itemsBought: " + itemsBought);
System.out.println("myfund left: " + myfund);
}
}
在这⾥,使⽤double类型,进⾏计算,但是却得到如下结果:
itemsBought: 3
myfund left: 0.3999999999999999
这并不是正确的结果。在涉及⾦钱的运算中,应该使⽤BigDecimal。
正确的程序如下:
st;
import java.math.BigDecimal;
public class Test {
private static final BigDecimal FUNDS = new BigDecimal("1.00");
private static final BigDecimal TEN_CENTS = new BigDecimal(".10");
public static void main( String[] args ) {
int itemsBought = 0;
BigDecimal myfund = FUNDS;
for (BigDecimal price = TEN_CENTS; pricepareTo(myfund) <= 0; price = price.add(TEN_CENTS)) {
itemsBought++;
myfund = myfund.subtract(price);
}
System.out.println("itemsBought: " + itemsBought);
System.out.println("change: " + myfund);
}
}
打印结果:
itemsBought: 4
change: 0.00
这才是正确的答案
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。
发表评论