c# – 舍入单个

发布时间：2020-12-15 17:41:00 所属栏目：百科来源：网络整理

导读：我有这个“科学应用”,其中单个值应该在UI中呈现之前进行四舍五入.根据 this MSDN article,由于“精度损失”,Math.Round(Double,Int32)方法有时会“意外地”出现,例如四舍五入到2.13,而不是2.14. 据了解,这个问题与“银行家四舍五入”无关(参见例如this ques

我有这个“科学应用”,其中单个值应该在UI中呈现之前进行四舍五入.根据 this MSDN article,由于“精度损失”,Math.Round(Double,Int32)方法有时会“意外地”出现,例如四舍五入到2.13,而不是2.14.

据了解,这个问题与“银行家四舍五入”无关(参见例如this question).

在应用程序中,有人显然通过在舍入前明确地将Single转换为十进制(即Math.Round((Decimal)mySingle,2))来调用Math.Round(Decimal,Int32)重载来解决这个问题.除了可能出现的二进制到十进制转换问题之外,如果“单一”值太小或不足以适应“十进制”类型,则此“解决方案”也可能会引发OverflowException.

抓住这样的错误,返回Math.Round(Double,Int32)的结果,如果转换失败,不会打击我作为完美的解决方案.也不会将应用程序重写为使用十进制.

是否有或多或少的“正确”的方式来处理这种情况,如果是,可能是什么？

解决方法

我会认为您现有的解决方案(使用Math.Round的十进制版本)是正确的.

潜在的问题是,您希望根据其基数10表示来舍入数字,但您已将它们存储为基础2浮点数.所提供的2.135的例子是其中基数2表示与基数10不完全匹配的那些边缘情况之一.

要获得预期的舍入行为,您必须将数字转换为基数10.最简单的方法正是您已经在做的：暂时将数字转换为十进制长度足以调用Math.Round.

（编辑：李大同）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!