进行浮动比较

进行浮动比较,第1张

进行浮动比较

不,这不是比较浮点值的正确方法。

您实际上并没有说出真正的问题-出于某些原因要尝试比较两个浮点数,但是您没有说出它是什么。

浮点算术旨在执行近似算术。通常在浮点运算中会产生舍入误差。当以不同方式计算值时,这些误差通常会有所不同,因此不应期望浮点算术产生相同的结果。

在您的示例中,发生了以下 *** 作:

  • 十进制数字“ 0.1”被转换为

    float64
    (IEEE-754 64位二进制浮点数)。这产生了值0.1000000000000000055511151231257827021181583404541015625,它是最接近
    float64
    0.1的值。

  • 十进制数字“ 0.2”被转换为

    float64
    。这产生了0.200000000000000011102230246251565404236316680908203125,它是最接近
    float64
    0.2的值。

  • 这些已添加。这产生了0.3000000000000000444089209850062616169452667236328125。除了将0.1和0.2舍入到in中的最接近值时发生的舍入误差外

    float64
    ,这还包含一些额外的舍入误差,因为无法在中表示精确的和
    float64

  • 十进制数字“ 0.3”转换为

    float64
    。这产生了0.299999999999999988897769753748434595763683319091796875,它是最接近
    float64
    0.3的值。

如您所见,相加

0.1
和的结果与
0.2
累计了不同的舍入误差
0.3
,因此它们是不相等的。没有正确的平等测试会报告他们平等。而且,重要的是,此示例中发生的错误是此示例特有的-
不同的浮点运算序列将具有不同的错误,并且累积的错误 不限于数字的低位

有人尝试通过测试差异是否小于某个小值来进行比较。在某些应用程序中可以这样做,但是在您的应用程序中可以吗?我们不知道您要做什么,因此我们不知道会发生什么问题。允许出现小错误的测试有时会报告错误的结果,要么是误报(因为接受的是相等的数字,如果使用精确的数学计算将不会等于结果),要么是误报负的(因为接受测试的结果是相等的数字,如果使用精确的数学计算将不会相等)精确数学)。这些错误中的哪一个对您的应用最严重?其中之一会导致机器损坏或对人造成伤害吗?在不知道这一点的情况下,没有人会建议哪个错误的结果是可以接受的,甚至可以接受。

此外,误差的容忍度应该是多大?计算中可能发生的总误差取决于执行的 *** 作顺序和涉及的数量。有些应用程序的最终取整误差很小,而有些应用程序的误差很大。在不进一步了解您的特定 *** 作顺序的情况下,没有人会建议使用什么值作为公差。同样,解决方案可能不是在比较数字时接受公差,而是重新设计计算以避免错误或至少减少误差。

不存在用于比较浮点值是否相等的通用解决方案,因为不可能存在任何这样的解决方案。



欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/zaji/5639008.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-12-16
下一篇 2022-12-16

发表评论

登录后才能评论

评论列表(0条)

保存