c# – 为什么是(双)0.6f>(双)(6 / 10f)?
发布时间:2020-12-15 03:47:54 所属栏目:百科 来源:网络整理
导读:这是我电脑上发生的情况 (double)(float)0.6= 0.60000002384185791(double)0.6f= 0.60000002384185791(double)(6/10f)= 0.6(double)(float)(6/10f)= 0.6 6 / 10f也是一个浮点数,怎么可以精确到0.6? 在我心里(双)(6 / 10f)也应该是0.60000002384185791. 有人
这是我电脑上发生的情况
(double)(float)0.6 = 0.60000002384185791 (double)0.6f = 0.60000002384185791 (double)(6/10f) = 0.6 (double)(float)(6/10f) = 0.6 6 / 10f也是一个浮点数,怎么可以精确到0.6? 解决方法
首先,重要的是要记住,0.6不能被准确地表示为一个浮点数,但是它可以被准确地表示为一个双重的(浮点算术的不准确性是有据可查的,如果不清楚为什么0.6不能被准确地表示为一个浮点数,尝试
this link)
您看到上述行为的原因在于编译器 – 如果您在反射器中查看编译的程序集,那么这里的内容有点清楚: (更新我已经改变了代码,以便它不使用Console.WriteLine,因为我意识到编译器为你选择一个重载,这困惑的情况) // As written in source var j = (double)(float)0.6; var k = (double)0.6f; var l = (double)(6/10f); var m = (double)(float)(6/10f); // Code as seen by Reflector double j = 0.60000002384185791; double k = 0.60000002384185791; double l = 0.6; double m = 0.6; 为什么编译器选择以这种特定的方式编译是超出我的(fyi,这是所有的优化被关闭) 一些有趣的其他情况: // Code var a = 0.6; var b = (double)0.6; var c = 0.6f; var d = (float)0.6; var e = 6 / 10; var f = 6 / (10f); var g = (float)(6 / 10); var h = 6 / 10f; var i = (double)6 / 10; // Prints out 0.60000002384185791 double n = (float)0.6; double o = f; // As seen by Reflector double a = 0.6; double b = 0.6; float c = 0.6f; float d = 0.6f; int e = 0; float f = 0.6f; float g = 0f; float h = 0.6f; double i = 0.6; double n = 0.60000002384185791; double o = f; 编译器似乎在几个特殊情况下做了上述的伎俩,为什么只有当转换为双精度时才完全超出我的范围! 其余的时间似乎做了一些诡计,使浮点算术似乎工作,其实通常不会. (编辑:李大同) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |