C浮法分和精度

发布时间：2020-12-16 03:12:21 所属栏目：百科来源：网络整理

导读：我知道511除以512实际上等于0.998046875.我也知道浮标的精度是7位数.我的问题是,当我在C(GCC)做这个数学时,得到的结果是0.998047,这是一个四舍五入的值.我宁愿只收到0.998046的截断值,我该怎么办？ float a = 511.0f; float b = 512.0f; float c = a / b; 解

我知道511除以512实际上等于0.998046875.我也知道浮标的精度是7位数.我的问题是,当我在C(GCC)做这个数学时,得到的结果是0.998047,这是一个四舍五入的值.我宁愿只收到0.998046的截断值,我该怎么办？

float a = 511.0f;
  float b = 512.0f;
  float c = a / b;

解决方法

那么这里有一个问题. 511/512的值作为浮点数是准确的.没有四舍五入.您可以通过询问多于七位的数字来检查：

#include <stdio.h>
int main(int argc,char *argv[])
{
    float x = 511.0f,y = 512.0f;
    printf("%.15fn",x/y);
    return 0;
}

输出：

0.998046875000000

浮点数不是十进制数,而是二进制数.如果你将一个数字除以2的幂,如512,结果将几乎总是精确的.发生的是浮点数的精度不仅仅是7位数,它的精确度是23位.

见What Every Computer Scientist Should Know About Floating-Point Arithmetic.

（编辑：李大同）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!