c – 为什么浮动变量通过以奇怪的方式点数后切数字来节省价值？

概述我有这个简单的代码行： float val = 123456.123456; 当我打印此val或查看范围时,它存储值123456.13 好的,没关系,只能在4个字节内存储所有这些数字,但为什么13点后呢？不应该是12 (在win32上使用vc 2010 express) 当表示为浮点数时,您的数字的指数为16(即,值为它的mantisse时间2 ^ 16或65536).螳螂就变成了 123456. 我有这个简单的代码行：

float val = 123456.123456;

当我打印此val或查看范围时,它存储值123456.13

好的,没关系,只能在4个字节内存储所有这些数字,但为什么13点后呢？不应该是12

(在win32上使用vc 2010 express)

解决方法 当表示为浮点数时,您的数字的指数为16(即,值为它的mantisse时间2 ^ 16或65536).螳螂就变成了

123456.123456 / 65536 = 1.8837909462890625

为了适应32位浮点数,螳螂被截断为23位,现在变为1.883791.当乘以65536时,变为123456.125.

注意小数点后第三位的5位：您使用的C的输出例程将其舍入,使您的最终数字看起来像123456.13.

编辑四舍五入的解释：(Rick Regan的评论)

舍入发生在二进制(到24位),十进制到二进制转换,然后到十进制,在printf.存储值为1.1110001001000000001 x 2 ^ 16 = 1.8837909698486328125 x 2 ^ 16 = 123456.125.它打印为123456.13,但只因为Visual C使用“从零开始的一半”四舍五入.

里克也有一个outstanding article on the subject.

如果你想玩其他数字和他们的浮动表示,这里是一个very useful IEEE-754 calculator.

总结

以上是内存溢出为你收集整理的c – 为什么浮动变量通过以奇怪的方式点数后切数字来节省价值？全部内容，希望文章能够帮你解决c – 为什么浮动变量通过以奇怪的方式点数后切数字来节省价值？所遇到的程序开发问题。

如果觉得内存溢出网站内容还不错，欢迎将内存溢出网站推荐给程序员好友。