Swift float double 计算丢失精度问题解决

Swift float double 计算丢失精度问题解决,第1张

let a = Float(1.0) - Float(0.9)
print("a = ",a)

let b = Float(0.9) - Float(0.8)
print("b = ",b)

if(a == b){
    print("true")
} else {
   print("false")
}

print("-------------")

let c = Decimal(1.0) - Decimal(0.9)
print("c = ",c)

let d = Decimal(0.9) - Decimal(0.8)
print("d = ",d)

if(c == d){
    print("true")
} else {
   print("false")
}

log 输出

a =  0.100000024

b =  0.099999964

false

-------------

c =  0.1

d =  0.1

true

欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/web/993285.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-05-21
下一篇 2022-05-21

发表评论

登录后才能评论

评论列表(0条)

保存