格式化浮点数时,Python格式默认舍入

发布时间：2020-12-16 23:39:22 所属栏目：Python 来源：网络整理

导读：我正在尝试在 Python 2.7.10中解决我的代码中的一些浮点问题.测试时我遇到了格式化方法的奇怪行为： print "{}".format(0.3000000000004) # 13 decimals 印刷品：0.3 但： print "{}".format(0.300000000004) # 12 decimals 印刷品：0.300000000004 由于我没

我正在尝试在 Python 2.7.10中解决我的代码中的一些浮点问题.测试时我遇到了格式化方法的奇怪行为：

print "{}".format(0.3000000000004) # 13 decimals

印刷品：0.3

但：

print "{}".format(0.300000000004) # 12 decimals

印刷品：0.300000000004

由于我没有指定格式,为什么它围绕第一个数字呢？是否有默认的允许小数位数？

解决方法

由于未指定格式,因此使用默认类型coercion to string.所以这不是格式问题.对于float .__ str__,Python 2截断精度为12个字符(不包括前导零,如果有的话),在这种情况下截断后,所有尾随零都被清除：

>>> str(0.3000000000004) # unlike str(0.3000000000014) -> '0.300000000001'
'0.3'

添加format_spec：f会给出默认精度6：

>>> '{:f}'.format(0.3000000000004)
'0.300000'

指定宽度和精度,或使用repr获得良好的表示：

>>> '{!r}'.format(0.3000000000004)
'0.3000000000004'

Python 3中的行为有所不同：

>>> str(0.3000000000004)
'0.3000000000004'

浮点数的格式化只由Python 3中的一个函数float_repr处理(它没有特殊的float_str函数)：

(reprfunc)float_repr,/* tp_repr */
...
(reprfunc)float_repr,/* tp_str */

而Python2.7分别为__str__和__repr__定义了一个单独的处理程序float_str和float_repr：

(reprfunc)float_repr,/* tp_repr */
...
(reprfunc)float_str,/* tp_str */

我认为这里的决定变量是超过12d.p的精度损失的原因.是PyFloat_STR_PRECISION(在Python 2中定义)：

#define PyFloat_STR_PRECISION 12

对于默认转换中超过12个字符的浮点数,它会反转为截断.

（编辑：李大同）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!