c# – 如何修复变量的精度

概述在c#中 double tmp = 3.0 * 0.05; tmp = 0.15000000000000002 这与金钱有关.价值实际为0.15美元,但系统希望将其四舍五入至0.16美元. 0.151应该四舍五入到0.16,但不是0.15000000000000002 有什么方法可以得到正确的数字(如果小数足够高,则为0.15或0.16). 使用定点变量类型或基数十浮点类型(如Decimal).浮 在c#中

double tmp = 3.0 * 0.05;

tmp = 0.15000000000000002

这与金钱有关.价值实际为0.15美元,但系统希望将其四舍五入至0.16美元. 0.151应该四舍五入到0.16,但不是0.15000000000000002

有什么方法可以得到正确的数字(如果小数足够高,则为0.15或0.16).

解决方法 使用定点变量类型或基数十浮点类型(如Decimal).浮点数总是有些不准确,二进制浮点表示在转换为基数2时会增加另一层不准确性. @H_301_28@ 总结

以上是内存溢出为你收集整理的c# – 如何修复变量的精度全部内容，希望文章能够帮你解决c# – 如何修复变量的精度所遇到的程序开发问题。

如果觉得内存溢出网站内容还不错，欢迎将内存溢出网站推荐给程序员好友。