使用Kettle工具进行增量数据同步

增量同步的方式有很多种，我使用的是: 快照表 + 触发器

需求：

当主库库表发生增删改时，从库库表与主库库表数据保持一致。

环境：

1、Mysql

2、kettle 7.1

思路：

1、在主库中，将需要同步的库表新建快照表，表结构一致。

2、在主库中，分别新增库表的增、删、改的触发器。

2、新建一个转换，该转换只针对一张表的增删改。

3、新建‘表输入’控件，查询主库的快照表

4、新建‘插入/更新’控件，插入数据到从库的库表，查询的关键字要求唯一。

5、新建‘删除’控件，将主库的快照表中的数据删除。

注意： 主库的库表，要新增针对增、删、改的三张表快照，三张表的步骤同上面的1 - 5 一致。

6、新建作业控件

7、配置发送邮件服务

8、完成

进行全量数据拷贝。

首先利用kettle自动生成测试数据。

主要生成UUID和当前系统时间到timejob表中（每隔2s执行一次），我们后续的 *** 作都是对这张表中的数据进行一个备份。

下面第二步就是抽取该表中的数据到一个备份表中。

这里的开始时间是通过表数据选项获得上一次 *** 作的最终结束时间，以作为我此次增量抽取的开始时间。第二个变量是获得系统的当前时间。

---