是否在Ruby中的BigDecimal中使用String或Integer

发布时间：2020-12-16 19:12:05 所属栏目：百科来源：网络整理

导读：参考BigDecimal类的文档, n,m = a.precs prec returns number of significant digits ( n ) and maximum number of significant digits ( m ) of a . 我对以下与BigDecimal相关的输出感到困惑. require 'bigdecimal' BigDecimal.new('1').precs # = [9,18] B

参考BigDecimal类的文档,

n,m = a.precs
prec returns number of significant digits (n) and
maximum number of significant digits (m) of a.

我对以下与BigDecimal相关的输出感到困惑.

require 'bigdecimal'    
BigDecimal.new('1').precs # => [9,18] 
BigDecimal.new(1).precs   # => [9,27]

我无法弄清楚为什么在传递String时,与传递Fixnum时相比,最大有效位数会更少.

它还会导致任何精度问题吗？

解决方法

如果您可以阅读C代码,则可以从 https://github.com/ruby/ruby/blob/trunk/ext/bigdecimal/bigdecimal.c#L2509开始 – 这是任何BigDecimal对象的初始化程序.如果您将该代码跟随下一个方法(即 BigDecimal_new),您会注意到在传递整数参数时,在分配和创建内部大小数对象之前还需要执行一些步骤,而不是在传递字符串参数时.

在任何情况下,您都不必担心精度损失 – 有效数字属性更像是提示而不是绝对值.甚至文档都提到它：
The actual number of significant digits used in computation is usually larger than the specified number.

（编辑：李大同）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!