加入收藏 | 设为首页 | 会员中心 | 我要投稿 李大同 (https://www.lidatong.com.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 大数据 > 正文

在Lua中将十六进制转换为十进制保持小数部分

发布时间:2020-12-14 21:49:26 所属栏目:大数据 来源:网络整理
导读:Lua的tonumber函数很好,但只能转换无符号整数,除非它们是10的基数.我有一种情况,我有像01.4C这样的数字,我想转换为十进制. 我有一个糟糕的解决方案: function split(str,pat) local t = {} local fpat = "(.-)" .. pat local last_end = 1 local s,e,cap =
Lua的tonumber函数很好,但只能转换无符号整数,除非它们是10的基数.我有一种情况,我有像01.4C这样的数字,我想转换为十进制.

我有一个糟糕的解决方案:

function split(str,pat)
   local t = {} 
   local fpat = "(.-)" .. pat
   local last_end = 1
   local s,e,cap = str:find(fpat,1)
   while s do
      if s ~= 1 or cap ~= "" then
        table.insert(t,cap)
      end
      last_end = e+1
      s,last_end)
   end
   if last_end <= #str then
      cap = str:sub(last_end)
      table.insert(t,cap)
   end
   return t
end
-- taken from http://lua-users.org/wiki/SplitJoin

function hex2dec(hexnum)
  local parts = split(hexnum,"[.]")
  local sigpart = parts[1]
  local decpart = parts[2]

  sigpart = tonumber(sigpart,16)
  decpart = tonumber(decpart,16) / 256

  return sigpart + decpart
end

print(hex2dec("01.4C")) -- output: 1.296875

如果有的话,我会对这个更好的解决方案感兴趣.

解决方法

如果你的Lua是用C99编译器(或者更早的gcc)编译的,那么……

~ e$lua
Lua 5.1.4  Copyright (C) 1994-2008 Lua.org,PUC-Rio
> return tonumber"0x01.4C"
1.296875

(编辑:李大同)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    推荐文章
      热点阅读