MySQL 隐式替换导致精度丢失

MySQL 隐式替换导致精度丢失,第1张

原来只知道, MySQL类型隐式替换会影响优化器对索引的选择, 由于遇到了一个隐式替换导致的精度丢失的 Bug ,引起了我对隐式替换的实现逻辑的好奇心.

为什么隐式替换会影响精度吗? 不是类似 String.valueOf() 处理吗?

执行SQL 1 :

查询结果 1 :

执行SQL 2 :

查询结果 2 :

由上面的两个SQL看到, 由于where条件的业务订单id筛选项没有添加引号, 导致了精度丢失问题. 210517130303013756 在表中是唯一的, 但是查出来多条数据.

如需构建演示环境请执行如下SQL

这里贴出了数字类型相关的替换规则, 想了解更多请查阅官方文档

有关隐式数字到字符串转换的字符集以及适用于 CREATE TABLE ... SELECT 语句的修改规则,请参阅本节后面的信息。

以下规则描述了比较 *** 作如何发生转换:

有关将值从一种时间类型转换为另一种时间类型的信息,请参见 第11.2.8节“日期和时间类型之间的转换” 。

由于 210517130303013756 没有加引号, 默认将其作为浮点数处理, 所以在 210517130303013756 转浮点数的时候, 导致了精度丢失问题.

MYSQL,datetime类型长度填8位。

日期型(DATETIME)数据是表示日期数据,用字母D表示。日期的默认格式是{mm/dd/yyyy},其中mm表示月分,dd表示日期,yyyy表示年度,固定长度为8位。日期范围为介于 100 到 9999 年的日期或时间数值。

扩展资料:

MYSQL其他数据类型:

1、BINARY:每个字符占一个字节,任何类型的数据都可存储在这种类型的字段中。不需数据转换。数据输入二进制字段的方式决定了它的输出方式。

2、BIT:1 个字节0 和 1 ,以及只包含这两个数值之一的字段。

3、TINYINT:1个字节,介于0到255之间的整型数。

4、MONEY:8个字节,介于–922,337,203,685,477.5808到922,337,203,685,477.5807之间的符号整数。

5、UNIQUEIDENTIFIER:128个位,用于远程过程调用的唯一识别数字。

6、REAL:4个字节单精度浮点数,负数范围是从–3.402823E38到–1.401298E-45,正数从1.401298E-45到3.402823E38,和0。

7、SMALLINT:2个字节,介于–32,768到32,767的短整型数。

8、INTEGER:4个字节,介于–2,147,483,648到2,147,483,647的长整型数。

9、DECIMAL:17个字节,容纳从1028-1到-1028-1的值的精确的数字数据类型。你可以定义精度(1-28)和符号(0-定义精度)。缺省精度和符号分别是18和0。

10、TEXT每一字符两字节,从零到最大2.14千兆字节。

11、IMAGE视实际需要而定,从零到最大2.14千兆字节。用于OLE对象。

12、CHARACTER每一字符两字节,长度从0到255个字符。

对于单精度浮点数Float: 当数据范围在±131072(65536×2)以内的时候,float数据精度是正确的,但是超出这个范围的数据就不稳定,没有发现有相关的参数设置建议:将float改成double或者decimal,两者的差别是double是浮点计算,decimal是定点计算,会得到更精确的数据。

1.float类型

float列类型默认长度查不到结果,必须指定精度,

比如 num float, insert into table (num) values (0.12)select * from table where num=0.12的话,empty set。


欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/zaji/6163096.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-03-16
下一篇 2023-03-16

发表评论

登录后才能评论

评论列表(0条)

保存