java中floatdouble计算丢失精度解决⽅案
今天线上出现了⼀个很奇怪的问题,业务需求是从⼀个服务⽅获取到商品的价格(元),是字符串形式,例如是String: "9.90",通过⼀定的⽅法转换为分存到数据库⾥却变成了989。开始怀疑是服务给的数据问题,后台写个Test测试⼀下,尴尬的发现是⾃⼰的基础知识太不扎实,对float/double类型的计算认知不够。
测试代码如下:
public class Test {
public static void main(String []args){
String price = "9.90";
System.out.println(Float.parseFloat(price));
System.out.println(Float.parseFloat(price)*100);
System.out.println((int)(Float.parseFloat(price)*100));
}
}
输出:
9.9
989.99994
989
发现是float型进⾏运算时丢失精度,并且只有⼩数部分会丢失精度,把price改为⼩数部分为零,再测试:
public class Test {
public static void main(String []args){
String price = "999.00";
System.out.println(Float.parseFloat(price));
System.out.println(Float.parseFloat(price)*100);
System.out.println((int)(Float.parseFloat(price)*100));
}
}
输出:
999.0
99900.0
99900
怎么解决这个问题呢,google⼀下吧,发现可以使⽤BigDecimal这个类避免丢失精度。
public class Test {
public static void main(String []args){
String price = "9.90";
BigDecimal b = new BigDecimal(price);
BigDecimal aa = b.multiply(new BigDecimal(100));
System.out.println(aa.floatValue());
System.out.println(aa.intValue());
}
bigdecimal转换为integer}
输出:
990.0
990
除了使⽤BigDecimal解决这个问题还有其他⽅案吗,⽐较BigDecimal很占⽤内存和CPU,当然有,既
然只有⼩数部分会丢失精度,只要最终的计算结果是Integer型,也就是最后的结果保证是整数,就可以先消除⼩数部分,再进⾏计算。
丢失精度⽰例:
public class Test {
public static void main(String []args){
int rate = Integer.parseInt("100");
int f = 510;
System.out.println(f*1.0/rate*100);
System.out.println((int)(f*1.0/rate*100));
}
}
输出:
509.99999999999994
509
不丢失精度⽰例:
public class Test {
public static void main(String []args){
int rate = Integer.parseInt("100");
int f = 510;
System.out.println(f*1.0*100/rate);
System.out.println((int)(f*1.0*100/rate));
}
}
输出:
510.0
510
只是把*100提到前⾯,避免了⼩数部分的存在,就不会丢失精度。但是这个⽅法的前提是最终计算结果必须是整数,慎⽤!

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。