在c轮中设定精度？如果是这样,为什么我看到这个？

发布时间：2020-12-16 03:26:12 所属栏目：百科来源：网络整理

导读：以下代码片段输出0.29847,当我预期为0.29848： double f = 0.298475;cout setprecision(5) f endl; 但是,对于其他例子,我观察到四舍五入： double f = 0.123459;cout setprecision(5) f endl; 输出：0.12346 和 double f = 0.123454;cout setprecision(5) f

以下代码片段输出0.29847,当我预期为0.29848：

double f = 0.298475;
cout << setprecision(5) << f << endl;

但是,对于其他例子,我观察到四舍五入：

double f = 0.123459;
cout << setprecision(5) << f << endl;

输出：0.12346

和

double f = 0.123454;
cout << setprecision(5) << f << endl;

输出：0.12345

解决方法

数字0.298475不能在双精度中表示(因为它的分母不是分母是2的幂,为11939/40000),实际存储的数字实际上比0.29848更接近0.29847.

（编辑：李大同）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!