c – 为什么浮动变量通过以奇怪的方式点数后切数字来节省价值？

发布时间：2020-12-16 03:00:13 所属栏目：百科来源：网络整理

导读：我有这个简单的代码行： float val = 123456.123456; 当我打印此val或查看范围时,它存储值123456.13 好的,没关系,只能在4个字节内存储所有这些数字,但为什么13点后呢？不应该是12 (在win32上使用vc 2010 express) 解决方法当表示为浮点数时,您的数字的指数

我有这个简单的代码行：

float val = 123456.123456;

当我打印此val或查看范围时,它存储值123456.13

好的,没关系,只能在4个字节内存储所有这些数字,但为什么13点后呢？不应该是12

(在win32上使用vc 2010 express)

解决方法

当表示为浮点数时,您的数字的指数为16(即,值为它的mantisse时间2 ^ 16或65536).螳螂就变成了

123456.123456 / 65536 = 1.8837909462890625

为了适应32位浮点数,螳螂被截断为23位,现在变为1.883791.当乘以65536时,变为123456.125.

注意小数点后第三位的5位：您使用的C的输出例程将其舍入,使您的最终数字看起来像123456.13.

编辑四舍五入的解释：(Rick Regan的评论)

舍入发生在二进制(到24位),十进制到二进制转换,然后到十进制,在printf.存储值为1.1110001001000000001 x 2 ^ 16 = 1.8837909698486328125 x 2 ^ 16 = 123456.125.它打印为123456.13,但只因为Visual C使用“从零开始的一半”四舍五入.

里克也有一个outstanding article on the subject.

如果你想玩其他数字和他们的浮动表示,这里是一个very useful IEEE-754 calculator.

（编辑：李大同）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!