mysql原始表结构
1.doris中关联mysql外表
结果如下:
2.doris中关联kafka导入数据
查看作业
State为RUNNING,表示已经成功。
停止作业
3.通过flink导入mysql数据到doris
方法1:通过mysql-cdc写入kafka,kafka关联doris表。
方法2:通过阿里云DTS->datahub,然后通过Flink写入kafka,再关联到doris外表
如何处理delete数据?对于方法1,需要手动的删除doris中的数据;对于方法2,可以通过dts_operation_flag字段来标示,dts_operation_flag可以为I/U/D,分别表示添加、更新和删除。那我们就只需要在doris表中添加一个dts_operation_flag字段来标示就可以了,查询数据的时候就不再查询等于D的值。
如何处理脏数据?delete doris中的数据,然后insert正确的值;还有个方法是将关联一个外表(这个是正确的值),然后再将doris中的表和外表中的值diff,将diff的值insert到doris中。
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)