由于计算机如何存储浮点值,因此这是一个标准问题。在此处搜索“浮点问题”,您将找到大量信息。
简而言之-浮点数/双
0.1精度数不能精确存储。总是会有一点偏离。
您可以尝试使用
decimal以十进制表示法存储数字的类型。因此
0.1将可以精确表示。
您想知道原因:
浮点数/双精度数以二进制分数而不是十进制分数存储。为了显示:
12.34十进制表示法(我们使用的是)
1 * 10 1 + 2 * 10 0 + 3 * 10 -1 + 4 * 10 -2
除了使用base
2:
10.01means 之外,计算机以相同方式存储浮点数。
1 * 2 1 + 0 * 2 0 + 0 * 2 -1 + 1 * 2 -2
现在,您可能知道有些数字不能完全用十进制表示法表示。例如,
1/3十进制表示法是
0.3333333…。除了不能精确表示的数字不同之外,二进制表示法也一样。其中是数字
1/10。用二进制表示是
0.000110011001100…。
由于二进制表示法不能精确存储它,因此以四舍五入的方式存储它。因此,您的问题。
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)