如何用python批量插入数据到mysql数据库，用list

MySQL 的 Binlog 记录着 MySQL 数据库的所有变更信息，了解 Binlog 的结构可以帮助我们解析Binlog，甚至对 Binlog 进行一些修改，或者说是“篡改”，例如实现类似于 Oracle 的 flashback 的功能，恢复误删除的记录，把 update 的记录再还原回去等。本文将带您探讨一下这些神奇功能的实现，您会发现比您想象地要简单得多。本文指的 Binlog 是 ROW 模式的 Binlog，这也是 MySQL 8 里的默认模式，STATEMENT 模式因为使用中有很多限制，现在用得越来越少了。

Binlog 由事件（event）组成，请注意是事件（event）不是事务（transaction），一个事务可以包含多个事件。事件描述对数据库的修改内容。

现在我们已经了解了 Binlog 的结构，我们可以试着修改 Binlog 里的数据。例如前面举例的 Binlog 删除了一条记录，我们可以试着把这条记录恢复，Binlog 里面有个删除行（DELETE_ROWS_EVENT）的事件，就是这个事件删除了记录，这个事件和写行（WRITE_ROWS_EVENT）的事件的数据结构是完全一样的，只是删除行事件的类型是 32，写行事件的类型是 30，我们把对应的 Binlog 位置的 32 改成 30 即可把已经删除的记录再插入回去。从前面的 “show binlog events” 里面可看到这个 DELETE_ROWS_EVENT 是从位置 378 开始的，这里的位置就是 Binlog 文件的实际位置（以字节为单位）。从事件（event）的结构里面可以看到 type_code 是在 event 的第 5 个字节，我们写个 Python 小程序把把第383（378+5=383）字节改成 30 即可。当然您也可以用二进制编辑工具来改。

找出 Binlog 中的大事务

由于 ROW 模式的 Binlog 是每一个变更都记录一条日志，因此一个简单的 SQL，在 Binlog 里可能会产生一个巨无霸的事务，例如一个不带 where 的 update 或 delete 语句，修改了全表里面的所有记录，每条记录都在 Binlog 里面记录一次，结果是一个巨大的事务记录。这样的大事务经常是产生麻烦的根源。我的一个客户有一次向我抱怨，一个 Binlog 前滚，滚了两天也没有动静，我把那个 Binlog 解析了一下，发现里面有个事务产生了 14G 的记录，修改了 66 万条记录！下面是一个简单的找出 Binlog 中大事务的 Python 小程序，我们知道用 mysqlbinlog 解析的 Binlog，每个事务都是以 BEGIN 开头，以 COMMIT 结束。我们找出 BENGIN 前面的 “# at” 的位置，检查 COMMIT 后面的 “# at” 位置，这两个位置相减即可计算出这个事务的大小，下面是这个 Python 程序的例子。

切割 Binlog 中的大事务

对于大的事务，MySQL 会把它分解成多个事件（注意一个是事务 TRANSACTION，另一个是事件 EVENT），事件的大小由参数 binlog-row-event-max-size 决定，这个参数默认是 8K。因此我们可以把若干个事件切割成一个单独的略小的事务

ROW 模式下，即使我们只更新了一条记录的其中某个字段，也会记录每个字段变更前后的值，这个行为是 binlog_row_image 参数控制的，这个参数有 3 个值，默认为 FULL，也就是记录列的所有修改，即使字段没有发生变更也会记录。这样我们就可以实现类似 Oracle 的 flashback 的功能，我个人估计 MySQL 未来的版本从可能会基于 Binlog 推出这样的功能。

了解了 Binlog 的结构，再加上 Python 这把瑞士军刀，我们还可以实现很多功能，例如我们可以统计哪个表被修改地最多？我们还可以把 Binlog 切割成一段一段的，然后再重组，可以灵活地进行 MySQL 数据库的修改和迁移等工作。

1将选中的数据快儿拷贝到一个TXT文本文件中（记得把后面的空格消掉。。否则导入数据库后会有对应的空行），假如存到“D:\datatxt”这个位置里。

2根据要导入的数据快儿建立MySql数据库和表，然后进入命令提示符里使用命令

load data local infile 'D:/datatxt' into table exceltomysql fields terminated by '\t';

注意：盘符我使用的“/”才成功，否则提示找不到文件 下面文章中是用的“\”！

进行导入 *** 作

手动进行Excel数据和MySql数据转换

1使用PHP

Excel Parser Pro软件，但是这个软件为收费软件；

2可将EXCEL表保存为CSV格式，然后通过phpmyadmin或者SQLyog导入，SQLyog导入的方法为：

·将EXCEL表另存为CSV形式；

·打开SQLyog，对要导入的表格右击，点击“导入”-“导入使用加载本地CSV数据”；

·在d出的对话框中，点击“改变”，把选择“填写excel友好值”，点击确定；

·在“从文件导入”中选择要导入的CSV文件路径，点击“导入”即可导入数据到表上；

3一个比较笨的手工方法，就是先利用excel生成sql语句，然后再到mysql中运行，这种方法适用于excel表格导入到各类sql数据库：

·假设你的表格有A、B、C三列数据，希望导入到你的数据库中表格tablename，对应的字段分别是col1、col2、col3

·在你的表格中增加一列，利用excel的公式自动生成sql语句，具体方法如下：

1）增加一列（假设是D列）

2）在第一行的D列，就是D1中输入公式：

=CONCATENATE("insert into tablename (col1,col2,col3) values (",A1,",",B1,",",C1,");")

3）此时D1已经生成了如下的sql语句：

insert into table (col1,col2,col3) values ('a','11','33');

4）将D1的公式复制到所有行的D列（就是用鼠标点住D1单元格的右下角一直拖拽下去啦）

5）此时D列已经生成了所有的sql语句

6）把D列复制到一个纯文本文件中，假设为sqltxt

·把sqltxt放到数据库中运行即可，你可以用命令行导入，也可以用phpadmin运行。

INSERT INTO table (field1,field2,field3) VALUES ('a',"b","c"), ('a',"b","c"),('a',"b","c");

windows系统，用命令行登入mysql后，使用通配符进行匹配：

source

sql

linux或mac，建议你写脚本，或者使用管道

cat

asql

bsql

|

mysql

-u

root

-proot

test

以上就是关于如何用python批量插入数据到mysql数据库，用list全部的内容，包括:如何用python批量插入数据到mysql数据库，用list、怎样把大量Excel数据导入到MySQL数据库、如何将Excel的数据导入到MySql数据库中等相关内容解答，如果想了解更多相关内容，可以关注我们，你们的支持是我们更新的动力！