c# – 双变量给出意想不到的结果

c# – 双变量给出意想不到的结果,第1张

概述我不确定这两个变量是怎么回事. “milliV”是双倍的,“param1a”是双倍的,param1a = 65,我应该得到1.588.我得到的结果是= 0.这怎么可能? double milliV=0.0; milliV= (5/1023*param1a/200*1000); 因为5/1023是整数除法所以结果也是整数.试试这个 milliV= (5.0/1023*param1a/200.0* 我不确定这两个变量是怎么回事. “milliV”是双倍的,“param1a”是双倍的,param1a = 65,我应该得到1.588.我得到的结果是= 0.这怎么可能?

double milliV=0.0;  milliV= (5/1023*param1a/200*1000);
解决方法 因为5/1023是整数除法所以结果也是整数.试试这个

milliV= (5.0/1023*param1a/200.0*1000);

只要 *** 作的一个元素是double,结果也会加倍

总结

以上是内存溢出为你收集整理的c# – 双变量给出意想不到的结果全部内容,希望文章能够帮你解决c# – 双变量给出意想不到的结果所遇到的程序开发问题。

如果觉得内存溢出网站内容还不错,欢迎将内存溢出网站推荐给程序员好友。

欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/langs/1224522.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-06-05
下一篇 2022-06-05

发表评论

登录后才能评论

评论列表(0条)

保存