五险一金Redis与Mysql双写一致性方案解析
一 前言二 一致性方案三 先更新数据库，再更新缓存四 先删缓存，再更新数据库五 先更新数据库，再删缓存 缓存的收益与成本
1.1 受益1.2 成本1.3 使用场景 缓存更新策略缓存粒度控制缓存穿透，缓存击穿，缓存雪崩MySQL主从搭建基于docker
一 主从配置原理二 *** 作步骤
2.1 配置准备2.2 远程连接入主库和从库2.3 测试主从同步 django实现读写分离
五险一金1 五险：养老(8%自己交一部分)，医疗(2%自己交一部分)，生育(自己交一部分)，失业(自己交一部分)，工伤（个人账户：你交的钱和统筹账户：公司交的前） 一金：住房公积金
2 小公司：不交，你没有很正常
3 五险跟一金是单独的，有的公司只交5险（3险）
4 五险一金基数：公司以哪个标准给你交
-全额交：假设你工资1w，公司一个月要花1w4在你身上，你到手7千多点点
-按基数交：公司想少交，给你按什么基数交：6000（你之前的基数是多少）
-取不出来：你挂了，移民到国外，只能迁移
-很乱，每个省（每个市）有自己独立一套（全国没有统一），用的系统也不一样
-全国统一，暂时没有
-在其他地方交的社保，在上海根本不支持
-我之前在上海没有交过，给我办增员（减员）就行了
-多交，退休拿的多
-五险双规制
-享受待遇即可，养老保险交够15年，医疗保险交够25年
-一金能多交就多交：你交多少，公司给你交多少，租房子，装修房子，住房贷款
5 签合同，不用太关注合同上的条款
6 总结：
-1 你之前哪都没有交过，问你要社保账号。 我之前在上海没有交过，你给我办增员即可（账号注销，钱取出来了），之前公司没有交，之前公司刚成立，试用期先没交，后期要提交材料，我一直很忙没有弄，
-2 你之前在杭州交过，但是你公司上上海的公司
-3 公司名字和你交社保的公司名不一样，公司雇第三方公司交的社保，公司名和品牌名不一样
-4 之前在上海交过（2个月），现在新继续在上海交，中间断了好久。
-5 你之前在上海交过，我之前在上海交过，你直接交就行了，公积金，你有个公积金账号，转不转由你
-6 网上搞
Redis与Mysql双写一致性方案解析
一 前言
首先，缓存由于其高并发和高性能的特性，已经在项目中被广泛使用。在读取缓存方面，大家没啥疑问，都是按照下图的流程来进行业务 *** 作
但是在更新缓存方面，对于更新完数据库，是更新缓存呢，还是删除缓存。又或者是先删除缓存，再更新数据库，其实大家存在很大的争议
本文由以下三个部分组成 1、讲解缓存更新策略 2、对每种策略进行缺点分析 3、针对缺点给出改进方案
先做一个说明，从理论上来说，给缓存设置过期时间，是保证最终一致性的解决方案。这种方案下，我们可以对存入缓存的数据设置过期时间，所有的写 *** 作以数据库为准，对缓存 *** 作只是尽最大努力即可。也就是说如果数据库写成功，缓存更新失败，那么只要到达过期时间，则后面的读请求自然会从数据库中读取新值然后回填缓存。因此，接下来讨论的思路不依赖于给缓存设置过期时间这个方案。 在这里，我们讨论三种更新策略：
- 先更新数据库，再更新缓存
- 先删除缓存，再更新数据库
- 先更新数据库，再删除缓存
这套方案，大家是普遍反对的。为什么呢？有如下两点原因。
原因一（线程安全角度） 同时有请求A和请求B进行更新 *** 作，那么会出现
（1）线程A更新了数据库（2）线程B更新了数据库（3）线程B更新了缓存（4）线程A更新了缓存
这就出现请求A更新缓存应该比请求B更新缓存早才对，但是因为网络等原因，B却比A更早更新了缓存。这就导致了脏数据，因此不考虑。
原因二（业务场景角度） 有如下两点：
（1）如果你是一个写数据库场景比较多，而读数据场景比较少的业务需求，采用这种方案就会导致，数据压根还没读到，缓存就被频繁的更新，浪费性能。（2）如果你写入数据库的值，并不是直接写入缓存的，而是要经过一系列复杂的计算再写入缓存。那么，每次写入数据库后，都再次计算写入缓存的值，无疑是浪费性能的。显然，删除缓存更为适合。
接下来讨论的就是争议最大的，先删缓存，再更新数据库。还是先更新数据库，再删缓存的问题。
四 先删缓存，再更新数据库该方案会导致不一致的原因是。同时有一个请求A进行更新 *** 作，另一个请求B进行查询 *** 作。那么会出现如下情形:
（1）请求A进行写 *** 作，删除缓存（2）请求B查询发现缓存不存在（3）请求B去数据库查询得到旧值（4）请求B将旧值写入缓存（5）请求A将新值写入数据库 上述情况就会导致不一致的情形出现。而且，如果不采用给缓存设置过期时间策略，该数据永远都是脏数据。
那么，如何解决呢？采用延时双删策略 伪代码如下
public void write(String key,Object data){
redis.delKey(key);
db.updateData(data);
Thread.sleep(1000);
redis.delKey(key);
}
转化为中文描述就是
（1）先淘汰缓存（2）再写数据库（这两步和原来一样）（3）休眠1秒，再次淘汰缓存 这么做，可以将1秒内所造成的缓存脏数据，再次删除。
那么，这个1秒怎么确定的，具体该休眠多久呢？
针对上面的情形，读者应该自行评估自己的项目的读数据业务逻辑的耗时。然后写数据的休眠时间则在读数据业务逻辑的耗时基础上，加几百ms即可。这么做的目的，就是确保读请求结束，写请求可以删除读请求造成的缓存脏数据。
如果你用了mysql的读写分离架构怎么办？
ok，在这种情况下，造成数据不一致的原因如下，还是两个请求，一个请求A进行更新 *** 作，另一个请求B进行查询 *** 作。
（1）请求A进行写 *** 作，删除缓存（2）请求A将数据写入数据库了，（3）请求B查询缓存发现，缓存没有值（4）请求B去从库查询，这时，还没有完成主从同步，因此查询到的是旧值（5）请求B将旧值写入缓存（6）数据库完成主从同步，从库变为新值 上述情形，就是数据不一致的原因。还是使用双删延时策略。只是，睡眠时间修改为在主从同步的延时时间基础上，加几百ms。
采用这种同步淘汰策略，吞吐量降低怎么办？
ok，那就将第二次删除作为异步的。自己起一个线程，异步删除。这样，写的请求就不用沉睡一段时间后了，再返回。这么做，加大吞吐量。
第二次删除,如果删除失败怎么办？
这是个非常好的问题，因为第二次删除失败，就会出现如下情形。还是有两个请求，一个请求A进行更新 *** 作，另一个请求B进行查询 *** 作，为了方便，假设是单库：
（1）请求A进行写 *** 作，删除缓存（2）请求B查询发现缓存不存在（3）请求B去数据库查询得到旧值（4）请求B将旧值写入缓存（5）请求A将新值写入数据库（6）请求A试图去删除请求B写入对缓存值，结果失败了。 ok,这也就是说。如果第二次删除缓存失败，会再次出现缓存和数据库不一致的问题。 如何解决呢？ 具体解决方案，且看博主对第(3)种更新策略的解析。 五 先更新数据库，再删缓存
首先，先说一下。老外提出了一个缓存更新套路，名为《Cache-Aside pattern》。其中就指出
- 失效：应用程序先从cache取数据，没有得到，则从数据库中取数据，成功后，放到缓存中。命中：应用程序从cache中取数据，取到后返回。更新：先把数据存到数据库中，成功后，再让缓存失效。
另外，知名社交网站facebook也在论文《Scaling Memcache at Facebook》中提出，他们用的也是先更新数据库，再删缓存的策略。
这种情况不存在并发问题么？
不是的。假设这会有两个请求，一个请求A做查询 *** 作，一个请求B做更新 *** 作，那么会有如下情形产生
（1）缓存刚好失效
（2）请求A查询数据库，得一个旧值
（3）请求B将新值写入数据库
（4）请求B删除缓存
（5）请求A将查到的旧值写入缓存 ok，如果发生上述情况，确实是会发生脏数据。
然而，发生这种情况的概率又有多少呢？
发生上述情况有一个先天性条件，就是步骤（3）的写数据库 *** 作比步骤（2）的读数据库 *** 作耗时更短，才有可能使得步骤（4）先于步骤（5）。
可是，大家想想，数据库的读 *** 作的速度远快于写 *** 作的（不然做读写分离干嘛，做读写分离的意义就是因为读 *** 作比较快，耗资源少），因此步骤（3）耗时比步骤（2）更短，这一情形很难出现。 假设，有人非要抬杠，有强迫症，一定要解决怎么办？
如何解决上述并发问题？
首先，给缓存设有效时间是一种方案。其次，采用策略（2）里给出的异步延时删除策略，保证读请求完成以后，再进行删除 *** 作。
还有其他造成不一致的原因么？
有的，这也是缓存更新策略（2）和缓存更新策略（3）都存在的一个问题，如果删缓存失败了怎么办，那不是会有不一致的情况出现么。比如一个写数据请求，然后写入数据库了，删缓存失败了，这会就出现不一致的情况了。这也是缓存更新策略（2）里留下的最后一个疑问。
如何解决？ 提供一个保障的重试机制即可，这里给出两套方案。
方案一： 如下图所示
流程如下所示
（1）更新数据库数据；（2）缓存因为种种问题删除失败（3）将需要删除的key发送至消息队列（4）自己消费消息，获得需要删除的key（5）继续重试删除 *** 作，直到成功 然而，该方案有一个缺点，对业务线代码造成大量的侵入。于是有了方案二，在方案二中，启动一个订阅程序去订阅数据库的binlog，获得需要 *** 作的数据。在应用程序中，另起一段程序，获得这个订阅程序传来的信息，进行删除缓存 *** 作。
方案二：
流程如下图所示：
（1）更新数据库数据（2）数据库会将 *** 作信息写入binlog日志当中（3）订阅程序提取出所需要的数据以及key（4）另起一段非业务代码，获得该信息（5）尝试删除缓存 *** 作，发现删除失败（6）将这些信息发送至消息队列（7）重新从消息队列中获得该数据，重试 *** 作。
**备注说明：**上述的订阅binlog程序在mysql中有现成的中间件叫canal，可以完成订阅binlog日志的功能。至于oracle中，博主目前不知道有没有现成中间件可以使用。另外，重试机制，博主是采用的是消息队列的方式。如果对一致性要求不是很高，直接在程序中另起一个线程，每隔一段时间去重试即可，这些大家可以灵活自由发挥，只是提供一个思路。
缓存的收益与成本 1.1 受益1 加速读写
2 降低后端负载：后端服务器通过前端缓存降低负载，业务端使用redis降低后端mysql负载
1 数据不一致：缓存层和数据层有时间窗口不一致，和更新策略有关
2 代码维护成本：多了一层缓存逻辑
3 运维成本：比如使用了Redis Cluster
1 降低后端负载：对高消耗的sql，join结果集/分组统计的结果做缓存
2 加速请求响应：利用redis优化io响应时间
3 大量写合并为批量写：如计数器先redis累加再批量写入db
1 LRU/LFU/FIFO算法剔除：例如maxmemory-policy(到了最大内存，对应的应对策略)
LRU -Least Recently Used,没有被使用时间最长的
LFU -Least Frequenty User,一定时间段内使用次数最少的
FIFO -First In First Out
LIRS (Low Inter-reference Recency Set)是一个页替换算法，相比于LRU(Least Recently Used)和很多其他的替换算法，LIRS具有较高的性能。这是通过使用两次访问同一页之间的距离（本距离指中间被访问了多少非重复块）作为一种尺度去动态地将访问页排序，从而去做一个替换的选择
配置文件中设置：
># LRU配置 >maxmemory-policy:volatile-lru >（1）noeviction: 如果内存使用达到了maxmemory，client还要继续写入数据，那么就直接报错给客户端 >（2）allkeys-lru: 就是我们常说的LRU算法，移除掉最近最少使用的那些keys对应的数据，ps最长用的策略 >（3）volatile-lru: 也是采取LRU算法，但是仅仅针对那些设置了指定存活时间（TTL）的key才会清理掉 >（4）allkeys-random: 随机选择一些key来删除掉 >（5）volatile-random: 随机选择一些设置了TTL的key来删除掉 >（6）volatile-ttl: 移除掉部分keys，选择那些TTL时间比较短的keys
># LFU配置 Redis4.0之后为maxmemory_policy淘汰策略添加了两个LFU模式： >volatile-lfu：对有过期时间的key采用LFU淘汰算法 >allkeys-lfu：对全部key采用LFU淘汰算法 ># 还有2个配置可以调整LFU算法： >lfu-log-factor 10 >lfu-decay-time 1 ># lfu-log-factor可以调整计数器counter的增长速度，lfu-log-factor越大，counter增长的越慢。 ># lfu-decay-time是一个以分钟为单位的数值，可以调整counter的减少速度
2 超时剔除：例如expire，设置过期时间
3 主动更新：开发控制生命周期
策略
一致性
维护成本
LRU/LIRS算法剔除
最差
低
超时剔除
较差
低
主动更新
强
高
1 低一致性：最大内存和淘汰策略
2 高一致性：超时剔除和主动更新结合，最大内存和淘汰策略兜底
1 从mysql获取用户信息：select * from user where id=100
2 设置用户信息缓存：set user:100 select * from user where id=100
3 缓存粒度： 缓存全部属性 比较 缓存部分重要属性
1 通用性：全量属性更好
2 占用空间：部分属性更好
3 代码维护：表面上全量属性更好
### 缓存穿透 #描述： 缓存穿透是指缓存和数据库中都没有的数据，而用户不断发起请求，如发起为id为“-1”的数据或id为特别大不存在的数据。这时的用户很可能是攻击者，攻击会导致数据库压力过大。 #解决方案： 1 接口层增加校验，如用户鉴权校验，id做基础校验，id<=0的直接拦截； 2 从缓存取不到的数据，在数据库中也没有取到，这时也可以将key-value对写为key-null，缓存有效时间可以设置短点，如30秒（设置太长会导致正常情况也没法使用）。这样可以防止攻击用户反复用同一个id暴力攻击 3 通过布隆过滤器实现 ### 缓存击穿 #描述： 缓存击穿是指缓存中没有但数据库中有的数据（一般是缓存时间到期），这时由于并发用户特别多，同时读缓存没读到数据，又同时去数据库去取数据，引起数据库压力瞬间增大，造成过大压力 #解决方案： 设置热点数据永远不过期。 ### 缓存雪崩 #描述： 缓存雪崩是指缓存中数据大批量到过期时间，而查询数据量巨大，引起数据库压力过大甚至down机。和缓存击穿不同的是， 缓存击穿指并发查同一条数据，缓存雪崩是不同数据都过期了，很多数据都查不到从而查数据库。 # 解决方案： 1 缓存数据的过期时间设置随机，防止同一时间大量数据过期现象发生。 2 如果缓存数据库是分布式部署，将热点数据均匀分布在不同搞得缓存数据库中。 3 设置热点数据永远不过期。MySQL主从搭建基于docker 一 主从配置原理
mysql主从配置的流程大体如图：
1）master会将变动记录到二进制日志里面；
2）master有一个I/O线程将二进制日志发送到slave;
3) slave有一个I/O线程把master发送的二进制写入到relay日志里面；
4）slave有一个SQL线程，按照relay日志处理slave的数据；
我们准备两台装好mysql的服务器（我在此用docker模拟了两台机器）
环境 mysql版本 ip地址:端口号 主库（master） 5.7 172.16.209.100:33307 从库（slave） 5.7 172.16.209.100:33306
用docker拉起两个mysql容器，步骤如下（对docker不熟悉的同学可以查看docker快速入门章节）：
# 拉取mysql5.7镜像 docker pull mysql:5.7 #在home目录下创建mysql文件夹，下面创建data和conf.d文件夹 mkdir /home/mysql mkdir /home/mysql/conf.d mkdir /home/mysql/data/ 创建my.cnf配置文件 touch /home/mysql/my.cnf mkdir /home/mysql2 mkdir /home/mysql2/conf.d mkdir /home/mysql2/data/ touch /home/mysql2/my.cnf my.cnf添加如下内容： [mysqld] user=mysql character-set-server=utf8 default_authentication_plugin=mysql_native_password secure_file_priv=/var/lib/mysql expire_logs_days=7 sql_mode=STRICT_TRANS_TABLES,NO_ZERO_IN_DATE,NO_ZERO_DATE,ERROR_FOR_DIVISION_BY_ZERO,NO_ENGINE_SUBSTITUTION max_connections=1000 ##主库----start--- 同一局域网内注意要唯一 server-id=100 ## 开启二进制日志功能，可以随便取（关键） log-bin=mysql-bin ##主库----end--- ##从库----start--- ## 设置server_id,注意要唯一 server-id=101 ## 开启二进制日志功能，以备Slave作为其它Slave的Master时使用 log-bin=mysql-slave-bin ## relay_log配置中继日志 relay_log=edu-mysql-relay-bin ##从库----end--- [client] default-character-set=utf8 [mysql] default-character-set=utf8 #启动主库容器（挂载外部目录，端口映射成33307，密码设置为123456） docker run -di -v /home/mysql/data/:/var/lib/mysql -v /home/mysql/conf.d:/etc/mysql/conf.d -v /home/mysql/my.cnf:/etc/mysql/my.cnf -p 33307:3306 --name mysql-master -e MYSQL_ROOT_PASSWORD=123456 mysql:5.7 #启动从库容器（挂载外部目录，端口映射成33306，密码设置为123456） docker run -di -v /home/mysql2/data/:/var/lib/mysql -v /home/mysql2/conf.d:/etc/mysql/conf.d -v /home/mysql2/my.cnf:/etc/mysql/my.cnf -p 33306:3306 --name mysql-slave -e MYSQL_ROOT_PASSWORD=123456 mysql:5.72.2 远程连接入主库和从库
#连接主库 mysql -h 172.16.209.100 -P 33307 -u root -p123456 #在主库创建用户并授权 ##创建test用户 create user 'test'@'%' identified by '123'; ##授权用户 grant all privileges on *.* to 'test'@'%' ; ###刷新权限 flush privileges; #查看主服务器状态(显示如下图) show master status;
#连接从库 mysql -h 172.16.209.100 -P 33306 -u root -p123456 #配置详解 /* change master to master_host='MySQL主服务器IP地址', master_user='之前在MySQL主服务器上面创建的用户名'， master_password='之前创建的密码', master_log_file='MySQL主服务器状态中的二进制文件名', master_log_pos='MySQL主服务器状态中的position值'; */ #命令如下 change master to master_host='101.133.225.166',master_port=33307,master_user='test',master_password='123',master_log_file='mysql-bin.000003',master_log_pos=0; #启用从库 start slave; #查看从库状态（如下图） show slave statusG;2.3 测试主从同步
#在主库上创建数据库test1 create database test1; use test1; #创建表 create table tom (id int not null,name varchar(100)not null ,age tinyint); #插入数据 insert tom (id,name,age) values(1,'xxx',20),(2,'yyy',7),(3,'zzz',23);
#在从库上查看是否同步成功 #查看数据库 show database; use test1; #查看表 show tables; #查看数据 select * from test1;
可以看到大功告成
django实现读写分离# 0 主从搭建好了
#1 在setting中配置
DATAbaseS = {
# 主库
'default': {
'ENGINE': 'django.db.backends.mysql',
'NAME': 'lqz1',
'USER': 'root',
'PASSWORD': '123456',
'HOST': '101.133.225.166',
'PORT': 33307,
},
# 从库
'db1': {
'ENGINE': 'django.db.backends.mysql',
'NAME': 'lqz1',
'USER': 'root',
'PASSWORD': '123456',
'HOST': '101.133.225.166',
'PORT': 33306,
},
}
# 2 手动指定
####手动来做
# 向default库写，主库
# res=models.Book.objects.using('default').create(name='金瓶梅',price=33.4)
# 去从库查
# res=models.Book.objects.using('db1').all().first()
# print(res.name)
# 3 自动指定（写router和配置setting）
class Router1:
def db_for_read(self, model, **hints):
return 'db1'
def db_for_write(self, model, **hints):
return 'default'
# 在setting中注册
# 注册一下
DATAbase_ROUTERS = ['db_router.Router1',]
# 4 以后只要是写 *** 作，就会用default，只要是读 *** 作自动去db1
# 5 更细粒度（）
class Router1:
def db_for_read(self, model, **hints):
if model._meta.model_name == 'book':
return 'db1'
else:
return 'default'
def db_for_write(self, model, **hints):
return 'default'
# 6 在数据库迁移时，可以指定把哪个app的表结构迁移到哪个库
python manage.py migrate app01 --database=default
欢迎分享，转载请注明来源：内存溢出
微信扫一扫
支付宝扫一扫
评论列表（0条）