加入收藏 | 设为首页 | 会员中心 | 我要投稿 李大同 (https://www.lidatong.com.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 百科 > 正文

Ruby中的位移

发布时间:2020-12-17 03:35:39 所属栏目:百科 来源:网络整理
导读:我正在将Visual Basic应用程序转换为 Ruby,因为我们正在将它转移到Web上.然而,在转换某些算法时,我遇到了有关位移的问题. 我是如何理解的,问题在于大小掩码VB对整数类型的强制执行(如Here所述).实际上,Ruby并没有区分这些类型. 所以问题是: Visual Basic Di
我正在将Visual Basic应用程序转换为 Ruby,因为我们正在将它转移到Web上.然而,在转换某些算法时,我遇到了有关位移的问题.

我是如何理解的,问题在于大小掩码VB对整数类型的强制执行(如Here所述).实际上,Ruby并没有区分这些类型.

所以问题是:

Visual Basic

Dim i As Integer = 182
WriteLine(i << 24) '-1241513984

ruby

puts 182 << 24 # 3053453312

我一直在谷歌搜索和阅读在过去几个小时的位移,但没有找到方法,甚至方向,以解决这个问题.

解决方法

你需要复制visual basic正在做的事情,即

>如记录所示掩盖移位值
>使用0xFFFFFFFF掩盖结果(因为ruby会将值提升为bignum
>如果设置了最高位,则从结果中减去2 ^ 32(因为有符号整数与2s complement一起存储

例如

def shift_32 x,shift_amount
  shift_amount &= 0x1F
  x <<= shift_amount
  x &= 0xFFFFFFFF 

  if (x & (1<<31)).zero?
   x
  else
   x - 2**32
  end
end

(编辑:李大同)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    推荐文章
      热点阅读