加入收藏 | 设为首页 | 会员中心 | 我要投稿 李大同 (https://www.lidatong.com.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 百科 > 正文

Ruby中的大乘法输出结果为负

发布时间:2020-12-17 02:32:52 所属栏目:百科 来源:网络整理
导读:我写了一些代码,该代码应该为1 = n = 1000求和n ^ n. 这是代码: sum = 0(1..1000).each do |n| sum += n**n puts "n = #{n},sum = #{sum}"end 出于某种原因,在28号之后输出结果为负: n = 29,sum = -2015400977700573523892329442490139437391867 知道为什
我写了一些代码,该代码应该为1< = n< = 1000求和n ^ n.
这是代码:

sum = 0
(1..1000).each do |n|
  sum += n**n
  puts "n = #{n},sum = #{sum}"
end

出于某种原因,在28号之后输出结果为负:

n = 29,sum = -2015400977700573523892329442490139437391867

知道为什么会这样吗?

解决方法

看起来这是1.8.7中的一个错误,由补丁358: Exponentiation in Ruby 1.8.7 Returns Wrong Answers修复

(numeric.c中的幂计算结果在this commit之前未被声明为volatile,之后溢出行为似乎已得到修复.)

(编辑:李大同)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    推荐文章
      热点阅读