在Delphi中比较货币值时如何避免舍入问题?

在Delphi中比较货币值时如何避免舍入问题?,第1张

概述AFAIK,Delphi Win32中的货币类型取决于处理器浮点精度.因此,在比较两个货币值时,我遇到了舍入问题,根据机器返回不同的结果. 现在我使用SameValue函数传递Epsilon参数= 0.009,因为我只需要2位十进制数字. 有没有更好的方法来避免这个问题? Delphi中的Currency类型是一个64位整数,缩放为1 / 10,000;换句话说,它的最小增量相当于0.0001.它 AFAIK,Delphi Win32中的货币类型取决于处理器浮点精度.因此,在比较两个货币值时,我遇到了舍入问题,根据机器返回不同的结果.

现在我使用SameValue函数传递Epsilon参数= 0.009,因为我只需要2位十进制数字.

有没有更好的方法来避免这个问题?

解决方法 Delphi中的Currency类型是一个64位整数,缩放为1 / 10,000;换句话说,它的最小增量相当于0.0001.它不像浮点代码那样容易受到精度问题的影响.

但是,如果您将货币数乘以浮点类型或除以货币值,则需要以某种方式计算舍入. FPU控制这种机制(它被称为“控制字”). Math单元包含一些控制此机制的过程:特别是SetRoundMode.你可以在这个程序中看到效果:

{$APPTYPE CONSolE}uses Math;var  x: Currency;  y: Currency;begin  SetRoundMode(rmTruncate);  x := 1;  x := x / 6;  SetRoundMode(rmNearest);  y := 1;  y := y / 6;  Writeln(x = y); // false  Writeln(x - y); // 0.0001; i.e. 0.1666 vs 0.1667end.

您正在使用的第三方库可能是将控制字设置为其他值.您可能希望在重要计算的起始点明确设置控制字(即舍入模式).

此外,如果您的计算转移到普通浮动点然后再转换为货币,则所有投注都将被取消 – 太难以进行审计.确保所有计算均为货币.

总结

以上是内存溢出为你收集整理的在Delphi中比较货币值时如何避免舍入问题?全部内容,希望文章能够帮你解决在Delphi中比较货币值时如何避免舍入问题?所遇到的程序开发问题。

如果觉得内存溢出网站内容还不错,欢迎将内存溢出网站推荐给程序员好友。

欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/langs/1277817.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-06-09
下一篇 2022-06-09

发表评论

登录后才能评论

评论列表(0条)

保存