python – “round”ed编号乘以0.01会产生x.y00000000000001而不

发布时间：2020-12-20 12:40:16 所属栏目：Python 来源：网络整理

导读：我问这个的原因是因为在 OpenERP中有一个验证它让我发疯： round(1.2 / 0.01) * 0.011.2 round(12.2 / 0.01) * 0.0112.200000000000001 round(122.2 / 0.01) * 0.01122.2 round(1222.2 / 0.01) * 0.011222.2 如您所见,第二轮返回奇数值. 有人可以向我解释为

我问这个的原因是因为在 OpenERP中有一个验证它让我发疯：

>>> round(1.2 / 0.01) * 0.01
1.2
>>> round(12.2 / 0.01) * 0.01
12.200000000000001
>>> round(122.2 / 0.01) * 0.01
122.2
>>> round(1222.2 / 0.01) * 0.01
1222.2

如您所见,第二轮返回奇数值.

有人可以向我解释为什么会这样吗？

解决方法

事实上这与圆形无关,如果你只做1220 * 0.01,你可以看到完全相同的问题：

>>> 1220*0.01
12.200000000000001

你在这里看到的是一个标准的浮点问题.

您可能想要阅读维基百科关于floating point accuracy problems的内容：

The fact that floating-point numbers cannot precisely represent all real numbers,and that floating-point operations cannot precisely represent true arithmetic operations,leads to many surprising situations. This is related to the finite precision with which computers generally represent numbers.

另见：

> Numerical analysis
> Numerical stability

浮点数值不稳定的一个简单例子：数字是有限的.假设我们在给定计算机或语言中的点之后保存4位数.0.0001乘以0.0001会导致低于0.0001,因此无法保存此结果！在这种情况下,如果你计算(0.0001 x 0.0001)/ 0.0001 = 0.0001,这个简单的计算机将无法准确,因为它试图先加倍而后才加倍除.在javascript中,除以分数会导致类似的不准确性.

（编辑：李大同）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!