swift – Double vs Float的浮点算术的惊人差异

swift – Double vs Float的浮点算术的惊人差异,第1张

概述参见英文答案 > Is floating point math broken?                                    28个 var num1 = 1.1if num1 + 0.1 == 1.2 {print("true")} else {print("false")} 结果:错误 var num1: Float = 1.1if num1 + 0.1 == 1. 参见英文答案 > Is floating point math broken?                                    28个

var num1 = 1.1if num1 + 0.1 == 1.2 {print("true")} else {print("false")}

结果:错误

var num1: float = 1.1if num1 + 0.1 == 1.2 {print("true")} else {print("false")}

结果:是的

前一个代码块有num1代表一个double,后一个代码块有num1代表一个float.

我的问题:为什么float的代码返回true而Double的代码没有?

解决方法 这是一个副本,我将关闭它,但这里是一个为什么这适用于float但不适用于Double的示例.

我们不再看Double和float,而是看两种新类型.八和十六. Eighths有3位表示小数,因此您可以表示0,0.125,0.25,0.375,0.5,0.625,0.75和0.875.十六分之四有4位来表示小数,0.0625,0.1875,0.25等.在这两种数字类型中,有必要通过选择与要表示的值最接近的值来近似浮点值.

让我们来看看1.1 0.1在第八和第十六中的样子.

八分

1.1 = 1.1250.1 = 0.1251.2 = 1.251.1 + 0.1 = 1.125 + 0.125 = 1.25

所以1.1 0.1 == 1.2在八分之一

十六分之一

1.1 = 1.1250.1 = 0.1251.2 = 1.18751.1 + 0.1 = 1.125 + 0.125 = 1.25

十六分之一1.1 0.1!= 1.2

十六分之一的更高精度使得在十六分之一表示时可以更准确地表示具有较小值的1.2.

这就是floats和Doubles所发生的事情.有更多位可用于表示数字,但它们仍然是近似值.当您使用这些近似值进行数学运算时,错误会以意想不到的方式结合,这就是为什么不建议使用等值与浮点值进行比较的原因.

总结

以上是内存溢出为你收集整理的swift – Double vs Float的浮点算术的惊人差异全部内容,希望文章能够帮你解决swift – Double vs Float的浮点算术的惊人差异所遇到的程序开发问题。

如果觉得内存溢出网站内容还不错,欢迎将内存溢出网站推荐给程序员好友。

欢迎分享,转载请注明来源:内存溢出

原文地址: https://outofmemory.cn/web/1003199.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-05-22
下一篇 2022-05-22

发表评论

登录后才能评论

评论列表(0条)

保存