asp.net – 检查.NET中两个双精度相等的问题 – 这个方法有什么
所以我只是想深入研究这个问题……我有一个使用频繁的网络应用程序,这是两年来第一次使用相同功能对两个双打进行相等检查失败了一位同事说他’ d也一直使用多年.
我要在这里粘贴的函数的目标是将两个double值与4位精度值进行比较并返回比较结果.为了便于说明,我的价值观是: Dim double1 As Double = 0.14625000000000002 ' The result of a calculation Dim double2 As Double = 0.14625 ' A value that was looked up in a DB 如果我将它们传递给这个函数: Public Shared Function AreEqual(ByVal double1 As Double,ByVal double2 As Double) As Boolean Return (CType(double1 * 10000,Long) = CType(double2 * 10000,Long)) End Function 比较失败了.在乘法并转换为Long之后,比较结果为: Return 1463 = 1462 我在这里回答了我自己的问题,但是我可以看到double1在双精度(17位数)内,并且强制转换正常. 我的第一个真正的问题是:如果我将上面的行改为以下行,为什么它能正常工作(返回True)? Return (CType(CType(double1,Decimal) * 10000,Long) = _ CType(CType(double2,Long)) Decimal不具有更高的精度,因此对Long的强制转换仍应为1463,并且比较返回False?我想我对这个东西有一个大脑放屁…… 其次,如果要更改此功能以进行比较我正在寻找更准确或更不容易出错,您会建议将其更改为更简单的东西吗?例如: Return (Math.Abs(double1 - double2) < 0.0001) 我会疯狂尝试类似的东西: Return (double1.ToString("N5").Equals(double2.ToString("N5"))) (我绝不会做上述事情,我只是对你的反应感到好奇.在我的申请中,它会非常低效.) 无论如何,如果有人能够对我在看到双打和小数到长期之间看到的差异有所了解,那就太棒了. 谢谢! 解决方法
正如您所发现的那样,在这种情况下依赖于演员是容易出错的 – 根据演员时使用的规则,您可能无法得到您期望的数字.
我强烈建议你在没有演员表的情况下编写比较代码.你的Math.Abs??系列非常好. 关于你的第一个问题:
原因是从Double到Decimal的强制转换正在失去精度,导致0.1425到0.1425的比较. (编辑:李大同) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |
- 在Classic ASP中从ADODB调用参数化Oracle查询
- asp.net-mvc – 如何在MVC 3中基于XML文件动态创建控件
- ASP.net页面上的表单标签
- asp.net-mvc-4 – 如何在ASP.NET MVC 4上使用SPA热毛巾模板
- asp.net-core – ASP.NET 5中RegisterObject / QueueBackgr
- asp.net应用程序如何工作?
- asp.net – 如何显示更好的错误:“从客户端检测到一个潜在
- ASP.NET代码生成器
- asp.net – IIS 7.5几分钟后,Localhost停止解析
- asp.net-mvc – 设计ASP.NET MVC 3站点以支持客户特定的视图
- ASP.NET内置用户配置文件与旧stile用户类/表
- asp.net – Ajax Control Toolkit ModalPopupExt
- 配置asp.net Web应用程序.最佳做法
- asp.net-mvc – 从Azure网站取消发布MVC 4项目
- ASP.NET MVC 4将模型从视图传递给html帮助器
- asp.net – Visual Studio中Web API和Azure API
- 如何使用.net MVC 3中的角色测试授权属性?
- asp.net-mvc-3 – 使用.SetValidator()时,Fluent
- asp.net – ExecuteReader需要时间,而不是SQL服务
- Repeater中的ASP.NET DataGrid