为什么Ruby在计算mod时会增加精度/数字？

发布时间：2020-12-17 02:56:41 所属栏目：百科来源：网络整理

导读：参见英文答案 Is floating point math broken?????????????????????????????????????28个我需要用坐标进行一些计算并遇到这(至少对我而言)奇怪的行为. 有人可以解释为什么会这样吗？ $long= 49.0126760222489$long % long.floor= 0.012676022248896857 我

参见英文答案 > Is floating point math broken?????????????????????????????????????28个
我需要用坐标进行一些计算并遇到
这(至少对我而言)奇怪的行为.
有人可以解释为什么会这样吗？

$long
=> 49.0126760222489
$long % long.floor
=> 0.012676022248896857

我期待最后一行只评估一段时间之后的数字,从长期开始,但是最后还有一个额外的6857.

为什么要添加数字？

信息来自哪里？

解决方法

我想我们只是看到浮动的诅咒.参见ie 0.0126760222489％1.0和1.0126760222489％1.0.你认为结果应该是相同的,但是没有 – IEEE754浮点/双精度不能保证完美的结果,默认情况下这些在Ruby中用于存储浮点值.

它甚至有点显示in the docs

6543.21.modulo(137)      #=> 104.21
6543.21.modulo(137.24)   #=> 92.9299999999996

你可以看到第二个结果有一个小错误.实际上,在Ruby 2.3.1上我运行了第一行并得到了：

pry(main)> 6543.21.modulo(137)
=> 104.21000000000004

它不一定与modulo相关,也不一定总是可见：

[30] pry(main)> 10.0126760222489 - 0.0
=> 10.0126760222489
[31] pry(main)> 10.0126760222489 - 1.0
=> 9.0126760222489
[32] pry(main)> 10.0126760222489 - 2.0
=> 8.0126760222489
[33] pry(main)> 10.0126760222489 - 3.0
=> 7.0126760222489
[34] pry(main)> 10.0126760222489 - 4.0
=> 6.0126760222489
[35] pry(main)> 10.0126760222489 - 5.0
=> 5.0126760222489
[36] pry(main)> 10.0126760222489 - 6.0
=> 4.0126760222489
[37] pry(main)> 10.0126760222489 - 7.0
=> 3.0126760222489004

使用标准浮动的每个软件都需要考虑这些小错误.如果由于某种原因无法处理,那么你可以使用bigdecimal(应该已经包含在你的Ruby中),定点或类似的数字库

require 'bigdecimal'

BigDecimal('6543.21').modulo(137).to_s
=> "0.10421E3"

BigDecimal('6543.21').modulo(137).to_f
=> 104.21

请记住,’bigdecimal’可能会更慢并且可能会占用更多内存.

（编辑：李大同）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!