c# – 如何修复变量的精度

发布时间：2020-12-15 19:54:07 所属栏目：百科来源：网络整理

导读：在c#中 double tmp = 3.0 * 0.05; tmp = 0.15000000000000002 这与金钱有关.价值实际为0.15美元,但系统希望将其四舍五入至0.16美元. 0.151应该四舍五入到0.16,但不是0.15000000000000002 有什么方法可以得到正确的数字(如果小数足够高,则为0.15或0.16). 解决

在c#中

double tmp = 3.0 * 0.05;

tmp = 0.15000000000000002

这与金钱有关.价值实际为0.15美元,但系统希望将其四舍五入至0.16美元. 0.151应该四舍五入到0.16,但不是0.15000000000000002

有什么方法可以得到正确的数字(如果小数足够高,则为0.15或0.16).

解决方法

使用定点变量类型或基数十浮点类型(如Decimal).浮点数总是有些不准确,二进制浮点表示在转换为基数2时会增加另一层不准确性.

（编辑：李大同）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!