加入收藏 | 设为首页 | 会员中心 | 我要投稿 李大同 (https://www.lidatong.com.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 百科 > 正文

c – 将浮点数与三位小数进行比较

发布时间:2020-12-16 10:40:49 所属栏目:百科 来源:网络整理
导读:我想知道将浮点数比较到三位小数的最快方法.我有类似的东西 float lhs = 2.567xxxxfloat rhs = 2.566xxxx 上面应该是不同的,如果它是这样的 float lhs = 2.566xxxxfloat rhs = 2.566xxxx 它们应该是一样的 更新: 我正在尝试以下方面 double trunc(double d)
我想知道将浮点数比较到三位小数的最快方法.我有类似的东西

float lhs = 2.567xxxx
float rhs = 2.566xxxx

上面应该是不同的,如果它是这样的

float lhs = 2.566xxxx
float rhs = 2.566xxxx

它们应该是一样的

更新:

我正在尝试以下方面

double trunc(double d)
{
    return (d>0) ? floor(d) : ceil(d) ; 
}


bool comparedigits(float a,float b)
{
    if (trunc(1000.0 * a) == trunc(1000.0 * b))
    {
        return true;
    }
    return false;
}

    float g = 2.346;
    float h= 2.34599;
    bool t = comparedigits(g,h) ; //Not the same and should return false;

然而它正在回归真实.

解决方法

为了阻止错误的答案的冲击,因为它们允许舍入来改变结果,这里有一个没有舍入问题的答案,因为它使用double作为算术:

trunc(1000. * lhs) == trunc(1000. * rhs);

这是因为1000.具有double类型,因此另一个操作数从float转换为double,并且乘法以double格式执行.具有任何浮点值的1000的乘积可以精确表示为double,因此没有舍入误差(假设IEEE 754 32位和64位二进制浮点).然后我们使用trunc来比较小数点后的(原始)第三位数字.

我对提供这个答案犹豫不决,因为我不确定这是OP真正想要的.通常当人们向Stack Overflow提出比较“到三位小数”的请求时,他们并没有完全考虑到这个问题.完整正确的答案可能需要等到我们澄清之后.

此外,以上仅适用于正数.如果值可能为负,则应对其符号执行先前测试,如果它们不同则应返回false. (否则,-.0009将被报告为等于.0009.)

(编辑:李大同)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    推荐文章
      热点阅读