BigDecimal除法精确计算及坑点
BigDecimal通常在涉及到精确计算的时候会⽤到,下⾯是⾃⼰多次错误使⽤BigDecimal的总结。
结论:
1. BigDecimal初始化⼩数时,尽量⽤字符串形式,例如new BigDecimal("0.1");
2. BigDecimal类型变量⽐较⼤⼩时⽤compareTo⽅法,判断变量值是否为0,与BigDecimal.ZERO⽐较⼤⼩。
3. BigDecimal作除法时,除了要考虑除数是否为0,更要考虑是否能除尽的问题,直接调⽤BigDecimal divide(BigDecimal divisor, int
scale, int roundingMode)⽅法做除法可以避免除不尽的问题。
初始化BigDecimal变量:
//BigDecimal初始化
public static void testBigDecimalinit() {
BigDecimal num1 = new BigDecimal(0.1);
System.out.println("坑点1:num1="+num1);//坑点1:num1=0.1000000000000000055511151231257827021181583404541015625
BigDecimal num2 = new BigDecimal("0.1");
System.out.println("正确写法:num2="+num2);//正确写法:num2=0.1
}
结论:尽量⽤字符串的形式初始化,因为⼩数在计算机内部根本没法精确表⽰。
⽐较⼤⼩
⽐较BigDecimal类型的变量和0的⼤⼩,⽤compareTo,不要⽤equals:
if (num1pareTo(BigDecimal.ZERO)>0)
if (num1pareTo(BigDecimal.ZERO)<0)
if (num1pareTo(BigDecimal.ZERO)==0)
//⽐较⼤⼩
public static void testBigDecimalCompareTo() {
BigDecimal num1 = new BigDecimal("0.1");
BigDecimal num2 = new BigDecimal("0.100");
if (!num1.equals(num2)) {
System.out.println("坑点1,⽤equals⽐较⼤⼩,num1="+num1+", num2="+num2+" 【不相等】");
}
if (!(num1 == num2)) {
System.out.println("坑点2,⽤==运算符⽐较⼤⼩,num1="+num1+", num2="+num2+" 【不相等】");
}
if (num1pareTo(num2) == 0) {bigdecimal除法保留小数
System.out.println("正确⽐较⼤⼩,⽤compareTo,num1="+num1+", num2="+num2+" 【相等】");
}
}
结论:⽐较⼤⼩或者值是否相等,⽤compareTo⽅法
BigDecimal除法
在出现除不尽的时候,会出现问题,例如1/3的问题:
//BigDecimal除法
public static void testBigDecimalDivide() {
BigDecimal num1 = new BigDecimal("1");
//坑点:Exception in thread "main" java.lang.ArithmeticException: Non-terminating decima l expansion; no exact representable decimal result. // System.out.println("坑点写法1:"+num1.divide(new BigDecimal("3")));
// System.out.println("坑点写法2:"+num1.divide(new BigDecimal("3")).setScale(2, BigDecimal.ROUND_DOWN));
System.out.println("正确写法:"+num1.divide(new BigDecimal("3"), 2, BigDecimal.ROUND_HALF_DOWN));
}
结论:只有在divide的时候就设置好要精确的⼩数位数和舍⼊模式,才能避免出现⽆法精确表达除不尽的问题。
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。
发表评论