如何提高mysql大批量数据更新的效率

mysql的项目，需要设计一个快速上载的机制。最后的解决办法是利用了mysql的预处理语句的特性实现的。mysql的预处理语句支持多行数据的预处理，即 insert into (columnName,columnName,...) values(?,?,...)(?,?,..)...。这样你在绑定输入参数的时候可以在程序里将整张表的数据都绑定好然后调用一次执行就能将整张表的数据插入，比用mysql_query一行一行插入省的几倍的时间。不过你一次发到mysql服务器端的数据多的情况下，要设置my.ini文件下的一个配置项，把服务器允许一次发送的数据包的大小调大就行。

首先， 插入上万条数据，对于数据库来说并不是“很大”的工作量，一般配置的笔记本电脑都可以在1分钟内完成。 所以最简单、最灵活的办法还是写SQL语句。

如果不希望DB编译器每次执行都编译SQL的话，可以使用存储过程，直接调用，性能上会好很多。也比较简单。

（几万条数据怎么地也得要时间去处理，所以不可能特别快的。）

如果由于各种原因，导致这个插入还是很慢， 而且你的MYSQL又是5.0以上版本的话，可以使用BulkCopy来进行批量 *** 作。

BulkCopy的原理就是Client直接把一个数组（DataTable）传给DB，然后传入表名，所有的编译、 *** 作都由DB自己完成，效率很高。

引用MySql.Data.dll ， 调用MysqlBulkCopy函数即可。

这个函数在处理海量数据插入的时候效率尤为明显， 小量数据反而没什么优势，而且由于传入的DataTable格式必须和表的字段一模一样（空的列也要传进去），导致C#要写很多代码来构造这个数组，所以要你自己权衡用还是不用。

我在自己的电脑上批量插入一亿条数据，Insert写法大概需要1小时,BulkCopy大概只需要5分钟。

建缓冲区。比如其他类型的高速缓存（redis等）作为中间缓冲层。数据的查询，更改首先在这个层处理，处理完再更新到对应的数据库。注意额外增加锁，或者缓存机制防止缓存击穿，雪崩导致系统崩溃。

---