java – 产生奇数结果的双重计算
发布时间：2020-12-15 05:19:59 所属栏目：Java 来源：网络整理
导读：参见英文答案 Is floating point math broken?????????????????????????????????????28个 我有2个数字存储为Double,1.4300和1.4350.当我减去1.4350 – 1.4300时,它给出了结果：0.0050000000000001155.为什么它会在最后添加1155,如何解决这个问题,使其返回0.0
|
参见英文答案 >
Is floating point math broken?????????????????????????????????????28个
我有2个数字存储为Double,1.4300和1.4350.当我减去1.4350 – 1.4300时,它给出了结果：0.0050000000000001155.为什么它会在最后添加1155,如何解决这个问题,使其返回0.005或0.0050？我不确定舍入是否有效,因为我使用的是2和4的十进制数. 解决方法
哦,我喜欢这些…这些都是由双重表示中的不准确引起的,浮点运算充满了这些.它通常由二进制中的重复数字(即base-2浮点表示)引起.例如,在十进制1/3 = 0.3333’中,二进制1/10是一个重复数字,这意味着它不能完美表示.试试这个：1 – 0.1 – 0.1 – 0.1 – 0.1.你不会得到0.6 （编辑：李大同） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |