1 先理解下定点数
--定义:
指规定小数点位置固定不变。
--存储:
* 在数据库或计算机中存储时,整数部分和小数部分分别使用一定的字节来存储(理解为分别用两部分字节来存储两个整数),小数点是作为存储属性存储的(如作为列类型时,小数点位置存储在表的定义部分),而不占用数据的存储字节。
* 定点数使用多少字节来存放数据,依赖于该数指定的精度(精度即为该数的总数字位数),总数字位数为小于2则使用1字节,为5-9位时用4字节,为19-38位时使用16字节(大部分数据库支持的最大就是38位数字);
--举例:
numeric(2,1),精度为2,使用1个字节来存放,存放数据范围为[-9.9, 9.9];如存储2.3时,在数据库存储为00100011,而小数位置固定在第四位前,这是由定义列时指明的;
--说明:
定点数存储精确的数字,numeric(2,1)就只能[-9.9, 9.9]之间的数,存的不是近似数(因为两部分都作为整数存储);当你在numeric(2,1)中存储2.33时,实际发生了隐式转换,实际存储为9.3(注意这并不是近似);
2 再来理解浮点数
--定义:
指采用浮点数表达方式来表示数据,这种表达方式利用科学计数法来表达实数,即用一个尾数(Mantissa ),一个基数(Base),一个指数(Exponent)以及一个表示正负的符号来表达数据,比如 123.45 用十进制科学计数法可以表达为 1.2345 × 10^2,其中 1.2345 为尾数,10 为基数,2 为指数。称其为浮点数就是因为利用指数达到了浮动小数点的效果。
--存储:
浮点数一般是使用IEEE规定的方式,即 对于单精度浮点数用1bit来存储符号位(正负号),8bit来存储指数,23bit来存储尾数;而且要求尾数的整数部分为1(注意,指二进位格式的,如1.01001),而且是使用二进位来保存,即基数为2;
在大多数数据库或计算机中存储时,单精度使用4字节,双精度使用8字节保存;
--举例:
二进制的 1001.101(对应于十进制的 9.625)可以表达为 1.001101 × 2^3,存储时符号位+存储为0,指数3存储为00000011,尾数1.001101存储为0011010000..(总共23位,去掉了小数点前的1,IEEE就是这样要求的);
--近似的产生:
因为我们使用的是十进制数,而计算机要转换为对应的二进制形式,由于有限的2进制位数表示的小数值不能和十进制一一对应(换句话说,十进制小数转为二进制可能变为无限小数而导致不精确 ),如2^-1对应0.5,2^-2对应0.25,2^-3对应0.125,因此对于像十进制的0.4(小数的末尾一位数不为5的)则不能精确存储;
--因近似引起的问题:
create table t (a float, b float)insert into t values(0.11, 0.04), (0.04, 0.11)
select * from t查询时显示正常,实际底层存储时发生了近似(十进制转换为二进制),而显示时又发生了近似(二进制转换为十进制);
select sum(a) from t查询显示 0.14999999850988388 ,为什么不是0.15的原因也就不言而喻了。
这也就是浮点数在损失精度、计算和比较要格外注意的事项;
3 总结
定点数,能存储精确数字,但保存的数据范围受了严格限制,格式也比较僵硬(这既是好处,也是坏处);
浮点数,不能存储精确数字,在小数的末尾一位数不是5(一直乘2不能圆整)的情况下会发生存储的近似处理;但可存储的数据范围更大;
浮点型float(255,30) 共255位 小数部分30位
double(255,30) 共255位 小数部分30位
dacimal(65,30) 共65位 小数部分30位
精准度验证
create table t15(id float(255,30))
create table t15(id double(255,30))
create table t15(id decimal(60,30))
float <double <decimal
1.float类型float列类型默认长度查不到结果,必须指定精度,比如
num float, insert into table (num) values (0.12)select * from table where num=0.12的话,empty set。
num float(9,7), insert into table (num) values (0.12)select * from table where num=0.12的话会查到这条记录。
mysql>create table tt
->(
->num float(9,3)
->)
Query OK, 0 rows affected (0.03 sec)
mysql>insert into tt(num)values(1234567.8)
Query OK, 1 row affected, 1 warning (0.04 sec)
注:超出字段范围,插入数据有误
mysql>select * from tt
+-------------+
| num |
+-------------+
| 1000000.000 |
+-------------+
2 rows in set (0.00 sec)
***************************************************************************
注:通常在 Linux 下安装完 MySQL 后,默认的 sql-mode 值是空,在这种情形下 mysql 执行的是一种不严格的检查,例如日期字段可以插入 ’ 0000-00-00 00:00:00 ’这样的值,还有如果要插入的字段长度超过列定义的长度,那么 mysql 不会终止 *** 作,而是会自动截断后面的字符继续插入 *** 作。
我们发现插入的字符被自动截断了,但是如果我们本意希望如果长度超过限制就报错,那么我们可以设置 sql_mode 为 STRICT_TRANS_TABLES ,如下:
mysql>set session sql_mode='STRICT_TRANS_TABLES'
这样我们再执行同样的 *** 作,mysql 就会告诉我们插入的值太长, *** 作被终止,如下:
mysql>insert into tt(num) values(1234567.8)
ERROR 1264 (22003): Out of range value for column 'num' at row 1
***************************************************************************
mysql>insert into tt(num)values(123456.8)
Query OK, 1 row affected (0.00 sec)
mysql>select * from tt
+-------------+
| num |
+-------------+
| 1000000.000 |
| 123456.797 |
+-------------+
2 rows in set (0.00 sec)
注:小数位数不够,自动补齐,但是存在一个问题就是如上的近似值。
mysql>insert into tt(num)values(123456.867)
Query OK, 1 row affected (0.04 sec)
mysql>select * from tt
+-------------+
| num |
+-------------+
| 1000000.000 |
| 123456.797 |
| 123456.867 |
+-------------+
3 rows in set (0.00 sec)
mysql>select * from tt where num=123456.867
+------------+
| num|
+------------+
| 123456.867 |
+------------+
1 row in set (0.00 sec)
mysql>insert into tt(num)values(2.8)
Query OK, 1 row affected (0.04 sec)
mysql>select * from tt
+-------------+
| num |
+-------------+
| 1000000.000 |
| 123456.797 |
| 123456.867 |
| 2.800 |
+-------------+
4 rows in set (0.00 sec)
mysql>select * from tt where num=2.8
+-------+
| num |
+-------+
| 2.800 |
+-------+
1 row in set (0.00 sec)
mysql>insert into tt(num)values(2.888888)
Query OK, 1 row affected (0.00 sec)
mysql>select * from tt
+-------------+
| num |
+-------------+
| 1000000.000 |
| 123456.797 |
| 123456.867 |
| 2.800 |
| 2.889 |
+-------------+
5 rows in set (0.00 sec)
注:小数位数超了,自动取近似值。
--------------------------------------------------------------------------------------
2.double类型
mysql>create table tt(
->num double(9,3)
->)
Query OK, 0 rows affected (0.04 sec)
mysql>insert into tt(num) values(234563.9)
Query OK, 1 row affected (0.00 sec)
mysql>select * from tt
+------------+
| num|
+------------+
| 234563.900 |
+------------+
1 row in set (0.00 sec)
mysql>insert into tt(num) values(2345623.2)
Query OK, 1 row affected, 1 warning (0.04 sec)
mysql>insert into tt(num) values(234563.2)
Query OK, 1 row affected (0.00 sec)
mysql>select * from tt
+------------+
| num|
+------------+
| 234563.900 |
| 999999.999 |
| 234563.200 |
+------------+
2 rows in set (0.00 sec)
mysql>insert into tt(num) values(2.8)
Query OK, 1 row affected (0.00 sec)
mysql>select * from tt
+------------+
| num|
+------------+
| 234563.900 |
| 999999.999 |
| 234563.200 |
| 2.800 |
+------------+
3 rows in set (0.00 sec)
FLOAT(M,D)或REAL(M,D)或DOUBLE PRECISION(M,D)。这里,“(M,D)”表示该值一共显示M位整数,其中D位位于小数点后面。
例如,定义为FLOAT(7,4)的一个列可以显示为-999.9999。MySQL保存值时进行四舍五入,因此如果在FLOAT(7,4)列内插入999.00009,近似结果是999.0001。
单精度浮点数(float)的尾数是用24bit表示的,双精度(double)浮点数的尾数是用53bit表示的,转换成十进制:
2^24 - 1 = 16777215
2^53 - 1 = 9007199254740991
由上可见,IEEE754单精度浮点数的有效数字二进制是24位,按十进制来说,是8位;双精度浮点数的有效数字二进制是53位,按十进制来说,是16 位。
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)