mysql的浮点型在什么情况下会损失精度,求大神详解、、

mysql的浮点型在什么情况下会损失精度,求大神详解、、,第1张

谈谈个人理解,请带着怀疑和鉴别的角度去看待。

1 先理解下定点数

--定义:

指规定小数点位置固定不变。

--存储:

* 在数据库或计算机中存储时,整数部分和小数部分分别使用一定的字节来存储(理解为分别用两部分字节来存储两个整数),小数点是作为存储属性存储的(如作为列类型时,小数点位置存储在表的定义部分),而不占用数据的存储字节。

* 定点数使用多少字节来存放数据,依赖于该数指定的精度(精度即为该数的总数字位数),总数字位数为小于2则使用1字节,为5-9位时用4字节,为19-38位时使用16字节(大部分数据库支持的最大就是38位数字);

--举例:

numeric(2,1),精度为2,使用1个字节来存放,存放数据范围为[-9.9, 9.9];如存储2.3时,在数据库存储为00100011,而小数位置固定在第四位前,这是由定义列时指明的;

--说明:

定点数存储精确的数字,numeric(2,1)就只能[-9.9, 9.9]之间的数,存的不是近似数(因为两部分都作为整数存储);当你在numeric(2,1)中存储2.33时,实际发生了隐式转换,实际存储为9.3(注意这并不是近似);

2 再来理解浮点数

--定义:

指采用浮点数表达方式来表示数据,这种表达方式利用科学计数法来表达实数,即用一个尾数(Mantissa ),一个基数(Base),一个指数(Exponent)以及一个表示正负的符号来表达数据,比如 123.45 用十进制科学计数法可以表达为 1.2345 × 10^2,其中 1.2345 为尾数,10 为基数,2 为指数。称其为浮点数就是因为利用指数达到了浮动小数点的效果。

--存储:

浮点数一般是使用IEEE规定的方式,即 对于单精度浮点数用1bit来存储符号位(正负号),8bit来存储指数,23bit来存储尾数;而且要求尾数的整数部分为1(注意,指二进位格式的,如1.01001),而且是使用二进位来保存,即基数为2;

在大多数数据库或计算机中存储时,单精度使用4字节,双精度使用8字节保存;

--举例:

二进制的 1001.101(对应于十进制的 9.625)可以表达为 1.001101 × 2^3,存储时符号位+存储为0,指数3存储为00000011,尾数1.001101存储为0011010000..(总共23位,去掉了小数点前的1,IEEE就是这样要求的);

--近似的产生:

因为我们使用的是十进制数,而计算机要转换为对应的二进制形式,由于有限的2进制位数表示的小数值不能和十进制一一对应(换句话说,十进制小数转为二进制可能变为无限小数而导致不精确 ),如2^-1对应0.5,2^-2对应0.25,2^-3对应0.125,因此对于像十进制的0.4(小数的末尾一位数不为5的)则不能精确存储;

--因近似引起的问题:

create table t (a float, b float)insert into t values(0.11, 0.04), (0.04, 0.11)

select * from t查询时显示正常,实际底层存储时发生了近似(十进制转换为二进制),而显示时又发生了近似(二进制转换为十进制);

select sum(a) from t查询显示 0.14999999850988388 ,为什么不是0.15的原因也就不言而喻了。

这也就是浮点数在损失精度、计算和比较要格外注意的事项;

3 总结

定点数,能存储精确数字,但保存的数据范围受了严格限制,格式也比较僵硬(这既是好处,也是坏处);

浮点数,不能存储精确数字,在小数的末尾一位数不是5(一直乘2不能圆整)的情况下会发生存储的近似处理;但可存储的数据范围更大;

浮点型

float(255,30) 共255位 小数部分30位

double(255,30) 共255位 小数部分30位

dacimal(65,30) 共65位 小数部分30位

精准度验证

create table t15(id float(255,30))

create table t15(id double(255,30))

create table t15(id decimal(60,30))

float <double <decimal

1.float类型

float列类型默认长度查不到结果,必须指定精度,比如

num float, insert into table (num) values (0.12)select * from table where num=0.12的话,empty set。

num float(9,7), insert into table (num) values (0.12)select * from table where num=0.12的话会查到这条记录。

mysql>create table tt

->(

->num float(9,3)

->)

Query OK, 0 rows affected (0.03 sec)

mysql>insert into tt(num)values(1234567.8)

Query OK, 1 row affected, 1 warning (0.04 sec)

注:超出字段范围,插入数据有误

mysql>select * from tt

+-------------+

| num |

+-------------+

| 1000000.000 |

+-------------+

2 rows in set (0.00 sec)

***************************************************************************

注:通常在 Linux 下安装完 MySQL 后,默认的 sql-mode 值是空,在这种情形下 mysql 执行的是一种不严格的检查,例如日期字段可以插入 ’ 0000-00-00 00:00:00 ’这样的值,还有如果要插入的字段长度超过列定义的长度,那么 mysql 不会终止 *** 作,而是会自动截断后面的字符继续插入 *** 作。

我们发现插入的字符被自动截断了,但是如果我们本意希望如果长度超过限制就报错,那么我们可以设置 sql_mode 为 STRICT_TRANS_TABLES ,如下:

mysql>set session sql_mode='STRICT_TRANS_TABLES'

这样我们再执行同样的 *** 作,mysql 就会告诉我们插入的值太长, *** 作被终止,如下:

mysql>insert into tt(num) values(1234567.8)

ERROR 1264 (22003): Out of range value for column 'num' at row 1

***************************************************************************

mysql>insert into tt(num)values(123456.8)

Query OK, 1 row affected (0.00 sec)

mysql>select * from tt

+-------------+

| num |

+-------------+

| 1000000.000 |

| 123456.797 |

+-------------+

2 rows in set (0.00 sec)

注:小数位数不够,自动补齐,但是存在一个问题就是如上的近似值。

mysql>insert into tt(num)values(123456.867)

Query OK, 1 row affected (0.04 sec)

mysql>select * from tt

+-------------+

| num |

+-------------+

| 1000000.000 |

| 123456.797 |

| 123456.867 |

+-------------+

3 rows in set (0.00 sec)

mysql>select * from tt where num=123456.867

+------------+

| num|

+------------+

| 123456.867 |

+------------+

1 row in set (0.00 sec)

mysql>insert into tt(num)values(2.8)

Query OK, 1 row affected (0.04 sec)

mysql>select * from tt

+-------------+

| num |

+-------------+

| 1000000.000 |

| 123456.797 |

| 123456.867 |

| 2.800 |

+-------------+

4 rows in set (0.00 sec)

mysql>select * from tt where num=2.8

+-------+

| num |

+-------+

| 2.800 |

+-------+

1 row in set (0.00 sec)

mysql>insert into tt(num)values(2.888888)

Query OK, 1 row affected (0.00 sec)

mysql>select * from tt

+-------------+

| num |

+-------------+

| 1000000.000 |

| 123456.797 |

| 123456.867 |

| 2.800 |

| 2.889 |

+-------------+

5 rows in set (0.00 sec)

注:小数位数超了,自动取近似值。

--------------------------------------------------------------------------------------

2.double类型

mysql>create table tt(

->num double(9,3)

->)

Query OK, 0 rows affected (0.04 sec)

mysql>insert into tt(num) values(234563.9)

Query OK, 1 row affected (0.00 sec)

mysql>select * from tt

+------------+

| num|

+------------+

| 234563.900 |

+------------+

1 row in set (0.00 sec)

mysql>insert into tt(num) values(2345623.2)

Query OK, 1 row affected, 1 warning (0.04 sec)

mysql>insert into tt(num) values(234563.2)

Query OK, 1 row affected (0.00 sec)

mysql>select * from tt

+------------+

| num|

+------------+

| 234563.900 |

| 999999.999 |

| 234563.200 |

+------------+

2 rows in set (0.00 sec)

mysql>insert into tt(num) values(2.8)

Query OK, 1 row affected (0.00 sec)

mysql>select * from tt

+------------+

| num|

+------------+

| 234563.900 |

| 999999.999 |

| 234563.200 |

| 2.800 |

+------------+

3 rows in set (0.00 sec)

FLOAT(M,D)或REAL(M,D)或DOUBLE PRECISION(M,D)。这里,“(M,D)”表示该值一共显示M位整数,其中D位位于小数点后面。

例如,定义为FLOAT(7,4)的一个列可以显示为-999.9999。MySQL保存值时进行四舍五入,因此如果在FLOAT(7,4)列内插入999.00009,近似结果是999.0001。

单精度浮点数(float)的尾数是用24bit表示的,双精度(double)浮点数的尾数是用53bit表示的,转换成十进制:

2^24 - 1 = 16777215

2^53 - 1 = 9007199254740991

由上可见,IEEE754单精度浮点数的有效数字二进制是24位,按十进制来说,是8位;双精度浮点数的有效数字二进制是53位,按十进制来说,是16 位。


欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/zaji/5908946.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-03-08
下一篇 2023-03-08

发表评论

登录后才能评论

评论列表(0条)

保存