数据迁移的需求背景
公司内部出现业务先合并、新旧系统替换、业务扩大需要进行数据库分表等情况下,就需要涉及到数据迁移。对应的常见的迁移场景有:
1、需要将两个系统的部分数据统一从A数据库读取,a数据库和b数据库通过指定字段进行关联的情况。
2、直接废弃旧的系统,将旧系统的数据迁移到新系统,后续仅维护新系统。
本文主要总结分享比较场景的数据迁移场景,业务线合并,2个系统的用户数据进行关联的场景。
测试分析
正式环境用户数据分析
在进行数据正式迁移之前,产品/开发/测试均需要参与对线上已有的用户数据进行分析,分析线上大量用户的数据特征,从而进行归纳分类,对不同的分类数据进行迁移策略设计。
以用户账号为例,可能存在:用户使用手机号注册、用户未使用手机号注册等情况,在进行分析时需要考虑到对这两种的用户数据进行迁移的策略。
假设迁移的目标库存在该用户数据,则根据基础信息以目标库为准,并建立源库和目标库的关联关系。
假设迁移的目标库内不存在该用户数据,则直接将源库的用户信息同步在目标库内进行创建。
数据迁移测试分析
数据迁移目标是什么
在进行数据迁移测试之前,需要了解到对应的迁移策略,了解两个系统的数据如何关联,以及对应的目标数据库和源数据库,通过两个数据库数据创建关联:以源数据库b为基础在目标数据库a中创建关联,且将b中的相同的基础字段数据直接选择性的覆盖填充到目标库a中。
在迁移过程中,关联数据部分基础字段冲突的处理逻辑。
若两个数据库相同字段同时存在数据:
选择行覆盖:b内的数据覆盖a内的数据;
选择性丢弃:按照优先级,直接丢弃b内的数据,以a的数据为准(或者丢弃a数据,以b数据为准)。
源数据库和目标数据库的同一个字段的规则差异。
除了数据兼容冲突兼容外,还需要考虑数据库兼容,所谓的数据库兼容就是字段的长度、类型等。例如:
1、字段长度限制。
2、字段区分大小写:例如:用户邮箱,在源数据库内支持大小区分,但是在目标库内不支持。
3、字段支持特殊字符:例如用户昵称在目标数据库内不支持特殊字符,但是在源数据库内支持。
4、字段格式不合法:例如手机号格式、邮箱格式。
迁移方案
在评审阶段,与开发产品确认对应的迁移方案:
1、正式迁移时,是否需要停机。
2、评估迁移失败产生的风险以及对应的解决措施。
3、在测试阶段进行迁移:
是否允许针对指定的数据进行迁移测试。
测试期间未停机导致的脏数据如何处理。
评估迁移失败可能产生的风险,是否可进行数据恢复。
4、迁移准备:提前根据测试分析的各个迁移场景,准备对应的“待迁移”数据,数据要尽可能的模拟线上用户真实数据。
存数据库之前`把页面设为UTF-8`或是用GB2312编码两步解决:1,首先把数据库那个表设为相同类型`例如utf-8
2,在存入的面面meta上加上格式为utf8
在连接数据库时也要设一下Name="utf-8"
你这样试试`多数能解决`
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)