c# – 浮点精度
发布时间：2020-12-15 19:31:28 所属栏目：百科 来源：网络整理
导读：我有一个用C#编写的程序,有些部分是用本机C/C++编写的. 我使用双精度来计算某些值,有时由于精度太低而导致结果错误.经过一番调查后,我发现有人正在将浮点精度设置为24位.当我将精度重置为至少53位(使用_fpreset或_controlfp)时,我的代码工作正常,但我仍然需
|
我有一个用C#编写的程序,有些部分是用本机C/C++编写的.
我使用双精度来计算某些值,有时由于精度太低而导致结果错误.经过一番调查后,我发现有人正在将浮点精度设置为24位.当我将精度重置为至少53位(使用_fpreset或_controlfp)时,我的代码工作正常,但我仍然需要确定谁负责将精度设置为24位. 我能做到这一点的任何想法？ 解决方法
这是由默认的Direct3D设备初始化引起的.通过将
D3DCREATE_FPU_PRESERVE标志传递给CreateDevice,可以告诉Direct3D不要弄乱FPU精度.如果需要,还有一个与此标志(
CreateFlags.FpuPreserve)等效的托管代码.
更多信息可在Direct3D and the FPU找到. （编辑：李大同） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |