delphi – 为什么RoundTo的结果(87.285,-2)=> 87.28
发布时间：2020-12-15 10:15:57 所属栏目：大数据 来源：网络整理
导读：我预计结果将是87.29。我也尝试过SimpleRoundTo，但产生相同的结果。 在帮助中也有一个“奇怪”的例子： MS-帮助：//embarcadero.rs2010/vcl/Math.RoundTo.html RoundTo(1.235,-2) = 1.24RoundTo(1.245,-2) = 1.24 //??? 有人知道我需要得到87.29的结果吗？
|
我预计结果将是87.29。我也尝试过SimpleRoundTo，但产生相同的结果。
在帮助中也有一个“奇怪”的例子： RoundTo(1.235,-2) => 1.24 RoundTo(1.245,-2) => 1.24 //??? 有人知道我需要得到87.29的结果吗？我的意思是：如果最后一个数字> = 5向上舍入， 5回合。正如学校所教的:) 我使用Delphi2010和SetRoundMode(rmNearest)。我也试过rmTruncate。 也怪： SimpleRoundTo(87.285,-2) => 87.29 但 x := 87.285; //double SimpleRoundTo(x,-2) => 87.28 解决方法
87.285不完全可表示，最近的双倍略小。
经典的浮点参考是What Every Computer Scientist Should Know About Floating- 对于基于货币的计算，如果确实是这样，您应该使用基数10数字类型而不是基数2浮点数。在Delphi中，即货币。 （编辑：李大同） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |