加入收藏 | 设为首页 | 会员中心 | 我要投稿 李大同 (https://www.lidatong.com.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 百科 > 正文

ruby – 将BigDecimal转换为String时,如何增加小数位数?

发布时间:2020-12-17 03:28:18 所属栏目:百科 来源:网络整理
导读:我正面临着BigDecimal的问题. 这段代码: x = BigDecimal.new('1.0') / 7puts x.to_s 输出: 0.142857142857142857E0 我想增加位数. 在JAVA中,我可以这样做: BigDecimal n = new BigDecimal("1");BigDecimal d = new BigDecimal("7");n = n.divide(d,200,Ro
我正面临着BigDecimal的问题.

这段代码:

x = BigDecimal.new('1.0') / 7
puts x.to_s

输出:

0.142857142857142857E0

我想增加位数.

在JAVA中,我可以这样做:

BigDecimal n = new BigDecimal("1");
BigDecimal d = new BigDecimal("7");

n = n.divide(d,200,RoundingMode.HALF_UP);

System.out.println(n);

输出是:

0.1428571428571428571428571428571428571428571428571428571428... (200 digits)

我查看了BigDecimal documentation,并尝试在实例化数字时设置数字,然后尝试使用BigDecimal.limit设置限制,但我无法打印超过18位数.

我错过了什么?

我在Windows 7 64位上运行ruby 1.9.3p0(2011-10-30)[i386-mingw32]

解决方法

div方法允许您指定数字:

x = BigDecimal.new('1.0').div( 7,50 )
puts x

结果是:

0.14285714285714285714285714285714285714285714285714E0

(编辑:李大同)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    推荐文章
      热点阅读