加入收藏 | 设为首页 | 会员中心 | 我要投稿 李大同 (https://www.lidatong.com.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 编程开发 > Java > 正文

java.math.RoundingMode是如何工作的?

发布时间:2020-12-14 05:18:49 所属栏目:Java 来源:网络整理
导读:我在舍入方面遇到了麻烦.具体来说,在阅读完所有的 javadoc后,我期待以下代码: int n = (integer between 0 and 9,included)new BigDecimal(n + 0.555d).setScale(2,RoundingMode.HALF_UP).doubleValue() 返回n 0.56.相反,这些是n从0到4的返回值: new BigDe
我在舍入方面遇到了麻烦.具体来说,在阅读完所有的 javadoc后,我期待以下代码:
int n = (integer between 0 and 9,included)
new BigDecimal(n + 0.555d).setScale(2,RoundingMode.HALF_UP).doubleValue()

返回n 0.56.相反,这些是n从0到4的返回值:

new BigDecimal(0.555d).setScale(2,RoundingMode.HALF_UP).doubleValue()
 0.56
 new BigDecimal(1.555d).setScale(2,RoundingMode.HALF_UP).doubleValue()
 1.55
 new BigDecimal(2.555d).setScale(2,RoundingMode.HALF_UP).doubleValue()
 2.56
 new BigDecimal(3.555d).setScale(2,RoundingMode.HALF_UP).doubleValue()
 3.56
 new BigDecimal(4.555d).setScale(2,RoundingMode.HALF_UP).doubleValue()
 4.55

我也尝试改变舍入模式:

int n = (integer between 0 and 9,RoundingMode.HALF_DOWN).doubleValue()

期望每个n的结果为n 0.55.相反,返回值与前一个示例完全相同:

new BigDecimal(0.555d).setScale(2,RoundingMode.HALF_DOWN).doubleValue()
 0.56
 new BigDecimal(1.555d).setScale(2,RoundingMode.HALF_DOWN).doubleValue()
 1.55
 new BigDecimal(2.555d).setScale(2,RoundingMode.HALF_DOWN).doubleValue()
 2.56
 new BigDecimal(3.555d).setScale(2,RoundingMode.HALF_DOWN).doubleValue()
 3.56
 new BigDecimal(4.555d).setScale(2,RoundingMode.HALF_DOWN).doubleValue()
 4.55

我错过了什么吗?

解决方法

你遇到的问题是double不是一个精确的表示,你基于这个不精确的数字是圆的.
BigDecimal bd = new BigDecimal(1.555d);
System.out.println("bd=" + bd);
bd = bd.setScale(2,RoundingMode.HALF_UP);
System.out.println("after rounding bd=" + bd);
double d = bd.doubleValue();
System.out.println("after rounding d=" + d);

版画

bd=1.5549999999999999378275106209912337362766265869140625
after rounding bd=1.55
after rounding d=1.55

然而

BigDecimal bd = BigDecimal.valueOf(1.555d);
System.out.println("bd=" + bd);
bd = bd.setScale(2,RoundingMode.HALF_UP);
System.out.println("after rounding bd=" + bd);
double d = bd.doubleValue();
System.out.println("after rounding d=" + d);

版画

bd=1.555
after rounding bd=1.56
after rounding d=1.56

这是有效的,因为BigDecimal.valueOf会根据打印时出现的双倍进行一些额外的舍入.

但是,除非性能/简单性不是问题,否则我不会使用BigDecimal.

double d = 1.555d;
System.out.println("d=" + d);
d = roundToTwoPlaces(d);
System.out.println("after rounding d=" + d);

public static double roundToTwoPlaces(double d) {
    return ((long) (d < 0 ? d * 100 - 0.5 : d * 100 + 0.5)) / 100.0;
}

版画

d=1.555
after rounding d=1.56

有关更多详细信息,Double your money again比较了不同舍入方式的性能.

(编辑:李大同)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    推荐文章
      热点阅读