c – 将浮点数与三位小数进行比较
发布时间:2020-12-16 10:40:49 所属栏目:百科 来源:网络整理
导读:我想知道将浮点数比较到三位小数的最快方法.我有类似的东西 float lhs = 2.567xxxxfloat rhs = 2.566xxxx 上面应该是不同的,如果它是这样的 float lhs = 2.566xxxxfloat rhs = 2.566xxxx 它们应该是一样的 更新: 我正在尝试以下方面 double trunc(double d)
我想知道将浮点数比较到三位小数的最快方法.我有类似的东西
float lhs = 2.567xxxx float rhs = 2.566xxxx 上面应该是不同的,如果它是这样的 float lhs = 2.566xxxx float rhs = 2.566xxxx 它们应该是一样的 更新: 我正在尝试以下方面 double trunc(double d) { return (d>0) ? floor(d) : ceil(d) ; } bool comparedigits(float a,float b) { if (trunc(1000.0 * a) == trunc(1000.0 * b)) { return true; } return false; } float g = 2.346; float h= 2.34599; bool t = comparedigits(g,h) ; //Not the same and should return false; 然而它正在回归真实. 解决方法
为了阻止错误的答案的冲击,因为它们允许舍入来改变结果,这里有一个没有舍入问题的答案,因为它使用double作为算术:
trunc(1000. * lhs) == trunc(1000. * rhs); 这是因为1000.具有double类型,因此另一个操作数从float转换为double,并且乘法以double格式执行.具有任何浮点值的1000的乘积可以精确表示为double,因此没有舍入误差(假设IEEE 754 32位和64位二进制浮点).然后我们使用trunc来比较小数点后的(原始)第三位数字. 我对提供这个答案犹豫不决,因为我不确定这是OP真正想要的.通常当人们向Stack Overflow提出比较“到三位小数”的请求时,他们并没有完全考虑到这个问题.完整正确的答案可能需要等到我们澄清之后. 此外,以上仅适用于正数.如果值可能为负,则应对其符号执行先前测试,如果它们不同则应返回false. (否则,-.0009将被报告为等于.0009.) (编辑:李大同) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |