浅谈MySQL如何优雅的做大表删除_mysql

浅谈MySQL如何优雅的做大表删除 目录

一、Truncate *** 作

1.1 MySQL truncate 都做了哪些 *** 作？
1.2 如何优化truncate *** 作带来的资源消耗？

二、Delete *** 作

2.1 MySQL delete 都做了哪些 *** 作？
2.2 如何优化delete *** 作？
2.3 delete常见的两个场景

三、Truncate/Delete优劣势对比

随着时间的推移或者业务量的增长，数据库空间使用率也不断的呈稳定上升状态，当数据库空间将要达到瓶颈的时候，可能我们才会发现数据库有那么一两张的超级大表！他们堆积了从业务开始到现在的全部数据，但是90%的数据都是没有业务价值的，这时候该如何处理这些大表？

既然是没有价值的数据，我们通常一般会选择直接删除或者归档后删除两种，对于数据删除的 *** 作方式来说又可分为两大类：

通过truncate直接删除表中全部数据
通过delete删除表中满足条件记录

一、Truncate *** 作

从逻辑意义上来讲，truncate *** 作就是删除表中所有记录行，但是又与delete from table_name wehre 1=1这种 *** 作不一样。MySQL为了提高删除整张表数据的性能，truncate *** 作其本质上其实是先drop table然后在re-create table。也真因如此，truncate *** 作是一个不可回滚的DDL *** 作。

1.1 MySQL truncate 都做了哪些 *** 作？

truncate *** 作实际上分为drop、re-create两步
drop *** 作的第一个阶段，是对Buffer pool页面进行清除的过程，将表相关的数据页从flush链中删除，而不需要做flush *** 作。该步骤的瓶颈点主要在于flush队列的删除 *** 作必须持有对应buffer pool instance的锁并进行遍历搜索，如果buffer pool instance比较大且flush链中需要删除的数据页很多，该 *** 作会导致其他事务在获取buffer pool instance的锁时被阻塞，从而影响数据库的性能
drop *** 作的第二个阶段，是删除ibd磁盘文件的过程。删除数据库物理文件越大I/O资源消耗越大，删除 *** 作耗时越久
re-create *** 作阶段，只要删除表的.frm文件完好无损，在drop table之后就可以按照原表结构信息进行重建，重建后表的auto_increment值会被重置

1.2 如何优化truncate *** 作带来的资源消耗？

对于truncate *** 作中的drop表第一阶段，当分配给MySQL实例的innodb_buffer_pool_size超过1GB时，合理的设置innodb_buffer_pool_instances参数，提高并发的同时也变相的减少扫描buffer pool instance时锁资源占用耗时
对于truncate *** 作中的drop表第二阶段，在删除对应表之前，先对改表的.ibd文件创建一个硬连接，加快MySQL层面的drop *** 作执行效率，减少对数据库层面的性能损耗。后续手动对 *** 作系统层面我们做的硬连接进行清理

二、Delete *** 作

2.1 MySQL delete 都做了哪些 *** 作？

根据where条件对删除表进行索引/全表扫描，检查是否符合where条件，该阶段会对扫描中所有行进行加锁。该阶段是最大的资源消耗隐患，若表的数据量大且delete *** 作无法有效利用索引减少扫描数据量，该步骤对于数据库带来的锁争用、cpu/io资源的消耗都是巨大的
对不能够被where条件匹配的行施加的锁会在条件检查后予以释放，InnoDB仅锁定需要删除的行。这可以有效地降低锁争用，但是我们仍需要关注的一点是，一次性删除大批量的数据，该 *** 作将会产生巨大的binlog事务日志，这对于MySQL自身以及主从架构中的从库都是不友好的，可能带来叫的复制延迟。

2.2 如何优化delete *** 作？

delete全表删除 *** 作需要谨慎，可考虑使用truncate *** 作
delete … where … 中，where过滤条件尽量保证可有效利用索引减少数据扫描量，避免全表扫描
对于大批量数据删除且where条件无索引的情况，delete *** 作可额外增加自增长主键或者含索引的时间字段，进行分批删除 *** 作，每次删除少量数据，分多批次执行。
对于保留近期数据删除历史数据的经典场景，可创建同结构的xxx_tmp表并通过insert xxx_tmp select … *** 作将需要的数据保留至tmp表中、然后通过rename *** 作将当前业务表xxx替换为xxx_bak表，xxx_tmp表替换为当前业务表名xxx，后续手动删除无用的大表xxx_bak

2.3 delete常见的两个场景

2.3.1 delete where条件无有效索引过滤

比较常见的一个场景是，业务上需要删除t1 condition1=xxx的值，condition字段无法有效利用索引，这种情况下我们通常的做法是：

查看当前表结构中可有效利用的索引，尽量是表的自增长主键或者时间索引字段
有效利用自增长主键索引或者时间索引，将delete *** 作添加索引字段的范围过滤，每次删除少量数据，分多批次执行。具体分批需要根据业务实际进行评估，避免一次性删除大批量数据。

-- 利用自增长主键索引
delete from t1 where condition1=xxx and id >=1 and id < 50000;
delete from t1 where condition1=xxx and id >=50000 and id < 100000;

-- 利用时间索引
delete from t1 where condition1=xxx and create_time >= '2021-01-01 00:00:00' and create_time < '2021-02-01 00:00:00';
delete from t1 where condition1=xxx and create_time >= '2021-02-01 00:00:00' and create_time < '2021-03-01 00:00:00';

2.3.2 保留近期数据删除历史数据

比较常见的一个场景是，需要仅保留t1表近3个月数据，其余历史数据删除，我们通常的做法是：

创建一张t1_tmp表用来临时存储需要保留的数据

create table t1_tmp like t1;

根据有索引的时间字段，分批次的将需要保留的数据写入t1_tmp表中，该步骤需要注意的是，最后一批次时间的 *** 作可暂时不处理

-- 根据实例业务数量进行分批，尽量每批次处理数据量不要太大
insert into t1_tmp select * from t1 where create_time >= '2021-01-01 00:00:00' and create_time < '2021-02-01 00:00:00';
insert into t1_tmp select * from t1 where create_time >= '2021-02-01 00:00:00' and create_time < '2021-03-01 00:00:00';

-- 当前最后一批次数据先不 *** 作
-- insert into t1_tmp select * from t1 where create_time >= '2021-03-01 00:00:00' and create_time < '2021-04-01 00:00:00';

通过rename *** 作将当前业务表t1替换为t1_bak表，t1_tmp表替换为当前业务表名t1，被删除表若有频繁的DML *** 作，该步骤会造成短暂的业务访问失败

alter table t1 rename to t1_bak;
alter table t1_tmp rename to t1;

将最后一批次数据写入当前业务表，该步骤的目的是为了减少变更 *** 作流程中的数据丢失

insert into t1 select * from t1_bak where create_time >= '2021-03-01 00:00:00' and create_time < '2021-04-01 00:00:00';

在rename *** 作步骤中，还有一点我们需要关注的是，变更表主键是自增长还是业务唯一的uuid，若为自增长主键，我们还需要注意修改t1_tmp表的自增长值，保证最终设置值包含变更期间数据写入

alter table t1_tmp auto_increment={t1表当前auto值}+{变更期间预估增长值}

三、Truncate/Delete优劣势对比

*** 作类型描述优势劣势 Truncate 表的全量删除 *** 作无需扫描表数据，执行效率高，直接进行物理删除，快速释放空间占用 DDL *** 作无法进行回滚,无法按条件进行删除 Delete 根据指定条件进行过滤删除 *** 作可根据指定条件进行过滤删除删除效率依赖where条件的编写，大表删除会产品大量的binlog且删除效率低，删除 *** 作可能出现较多的碎片空间而不是直接释放空间占用

到此这篇关于浅谈MySQL如何优雅的做大表删除的文章就介绍到这了,更多相关MySQL 大表删除内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！

欢迎分享，转载请注明来源：内存溢出

原文地址: http://outofmemory.cn/sjk/886844.html