解决了个困扰了2天的问题,定点运算问题
发布时间：2020-12-14 23:52:49 所属栏目：C语言 来源：网络整理
导读：分母变小了，相当于左移了 复制代码 代码如下: a=1-b/c; |b|pow(2,23) |c|=pow(2,26) |a|1 在运算个过程中，需要把该运算转换成定点运算。 想了2天，都没有想出怎么可以保证a的精度，因为a可能很小，如果简单的 复制代码 代码如下: a=8; 是无法保证a的精度的
|
分母变小了，相当于左移了 复制代码 代码如下: a=1-b/c;
|b|<pow(2,23) |c|=pow(2,26) |a|<1 在运算个过程中，需要把该运算转换成定点运算。 复制代码 代码如下: a<<=8;
是无法保证a的精度的。 今天快要下班时，突然有灵机一动： 复制代码 代码如下: c>>=6;
b<<=8; a=1<<14-b/c; //相当于 a<<14，保证了a的精度 分子不能左移太多位，分母右移，解决问题了。 以上就是本文的全部内容，希望能给大家一个参考，也希望大家多多支持编程小技巧。 （编辑：李大同） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |