linux–shell中的浮点舍入

概述$printf '%0.2f\n' 41.495 41.49 $printf '%0.2f\n' 41.485 41.49 $printf '%0.2f\n' 41.475 41.47 $printf '%0.2f\n' 41.465 41.47 $printf '%0.2f\n' 41.455 41.46 $printf '%0.2f\n' 41.445

$printf "%0.2f\n" 41.49541.49$printf "%0.2f\n" 41.48541.49$printf "%0.2f\n" 41.47541.47$printf "%0.2f\n" 41.46541.47$printf "%0.2f\n" 41.45541.46$printf "%0.2f\n" 41.44541.44$printf "%0.2f\n" 41.43541.44$printf "%0.2f\n" 41.42541.42$printf "%0.2f\n" 41.41541.42$printf "%0.2f\n" 41.40541.40

为什么数字不均匀的数字作为第二个十进制没有正确舍入,甚至是？另外.445有什么不对,它永远不会四舍五入？最佳答案它与浮点有关,但不是双精度.

当你写作

printf "%0.2f\n" 41.495

在你的系统上,printf首先将41.495舍入到最接近的x87 80位浮点数[1].这是如何运作的？首先用二进制写41.495：

b101001.0111 11101011100001010001 11101011100001010001 11101011100001010001 ...

(分离的群体无限重复).现在我们将这个数字舍入为64位二进制数字：

b101001.0111111010111000010100011110101110000101000111101011100001

这是printf实际格式化的数字.用十进制写的,它恰好是：

41.4949999999999999990285548534529880271293222904205322265625

正如你所看到的,它只是略低于41.495,所以当printf将它四舍五入到两个小数位时,它会向下舍入,并打印出41.49.

现在看41.485;在舍入到64位二进制数后,我们得到值：

41.48500000000000000055511151231257827021181583404541015625

这比41.485稍微大一点,所以printf将它完成了.

在我的系统上,printf管理中有一个警告：

Since the floating point numbers are translated from ASCII to floating-point and then back again,floating-point precision may be lost.

> bash不在所有 *** 作系统上使用x87格式(事实上,它甚至不适用于所有架构);在某些其他系统上,这些值将被解释为双精度(因此舍入为53位而不是64位),结果将有所不同.

总结

以上是内存溢出为你收集整理的linux – shell中的浮点舍入全部内容，希望文章能够帮你解决linux – shell中的浮点舍入所遇到的程序开发问题。

如果觉得内存溢出网站内容还不错，欢迎将内存溢出网站推荐给程序员好友。