加入收藏 | 设为首页 | 会员中心 | 我要投稿 李大同 (https://www.lidatong.com.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 百科 > 正文

c# – 双变量给出意想不到的结果

发布时间:2020-12-15 19:37:57 所属栏目:百科 来源:网络整理
导读:我不确定这两个变量是怎么回事. “milliV”是双倍的,“param1a”是双倍的,param1a = 65,我应该得到1.588.我得到的结果是= 0.这怎么可能? double milliV=0.0; milliV= (5/1023*param1a/200*1000); 解决方法 因为5/1023是整数除法所以结果也是整数.试试这个 m
我不确定这两个变量是怎么回事. “milliV”是双倍的,“param1a”是双倍的,param1a = 65,我应该得到1.588.我得到的结果是= 0.这怎么可能?

double milliV=0.0;
  milliV= (5/1023*param1a/200*1000);

解决方法

因为5/1023是整数除法所以结果也是整数.试试这个

milliV= (5.0/1023*param1a/200.0*1000);

只要操作的一个元素是double,结果也会加倍

(编辑:李大同)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    推荐文章
      热点阅读