使用Java失去浮点值精度

使用Java失去浮点值精度,第1张

使用Java失去浮点精度

我爱这些。但我会使其快速而轻松地进行。

浮点数和小数(也称为浮点数)也不会精确地保留在内存中。但我不想在这里涉及浮点精度与精度问题,我只将您指向一个链接-http: //www.cygnus-
software.com/papers/comparingfloats/comparingfloats.htm

至于您的另一个问题,莱姆说的是这样,因为浮子以科学计数法存储。

floatVal = 6.765432E6 = 6.7 * 10^6MAX_VALUE = 3.4E38 = 3.4 * 10^38

MAX_VALUE比您的浮点数大32个数量级。随时在这里看看http://steve.hollasch.net/cgindex/coding/ieeefloat.html

几个月前,我花了很多时间比较和解决一些FP问题…

比较浮点数时,请尝试使用较小的增量。也许此链接会帮助您http://introcs.cs.princeton.edu/java/91float/



欢迎分享,转载请注明来源:内存溢出

原文地址: https://outofmemory.cn/zaji/5178047.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-11-19
下一篇 2022-11-18

发表评论

登录后才能评论

评论列表(0条)

保存