Redis 分布式锁笔记

Redis 分布式锁笔记,第1张

Redis 分布式锁笔记 Redis 分布式锁笔记

(公众号:水滴与银d)深度剖析:Redis分布式锁到底安全吗?

一、初识分布式锁 1、什么是分布式锁

​ 分布式环境下,我们在写多线程程序时,避免同时 *** 作一个共享变量产生数据问题,通常会使用分布式锁来「互斥」,以保证共享变量的正确性。

2、具体使用

​ 想要实现分布式锁,必须借助一个外部系统,所有进程都去这个系统上申请「加锁」。

​ 而这个外部系统,必须要实现「互斥」的能力,即两个请求同时进来,只会给一个进程返回成功,另一个返回失败(或等待)。

​ 这个外部系统,可以是 MySQL,也可以是 Redis 或 Zookeeper。但为了追求更好的性能,我们通常会选择使用 Redis 或 Zookeeper 来做。

二、Redis 实现分布式锁 1、实现的 *** 作

想要实现分布式锁,必须要求 Redis 有「互斥」的能力,我们可以使用 SETNX 命令,这个命令表示 SET if not exists,即如果 key 不存在,才会设置它的值,否则什么也不做。

两个客户端进程可以执行这个命令,达到互斥,就可以实现一个分布式锁。

Redis 命令

  • 添加锁命令:SETNX lock 1
  • 释放锁命令:DEL lock

Java API

  • redisTemplate.opsForValue().setIfAbsent(lockId, "lock");
    
  • redisTemplate.delete(lockId);
    
2、如何解决死锁

当某个客户端拿到锁后,如果发生下面的场景,无法继续正常运行,就会造成「死锁」:

  • 程序处理业务逻辑异常,没及时释放锁
  • 进程挂了,没机会释放锁

可以在申请锁时,给这把锁设置一个「租期」。

在 Redis 中实现时,就是给这个 key 设置一个「过期时间」。

Redis 命令

  • 添加锁命令:SET lock 1 EX 10 NX // Redis 2.6.12 后,保证 *** 作的原子性
  • 释放锁命令:DEL lock

Java API

  • redisTemplate.opsForValue().setIfAbsent(lockId, "lock", 10 * 1000, TimeUnit.MILLISECONDS);
    
  • redisTemplate.delete(lockId);
    
3、锁的释放问题

试想这样一种场景:

  1. 客户端 1 加锁成功,开始 *** 作共享资源。
  2. 客户端 1 *** 作共享资源的时间,「超过」了锁的过期时间,锁被「自动释放」。
  3. 客户端 2 加锁成功,开始 *** 作共享资源。
  4. 客户端 1 *** 作共享资源完成,释放锁(但释放的是客户端 2 的锁)。

看到了么,这里存在两个严重的问题:

  1. 锁过期:客户端 1 *** 作共享资源耗时太久,导致锁被自动释放,之后被客户端 2 持有。
  2. 释放别人的锁:客户端 1 *** 作共享资源完成后,却又释放了客户端 2 的锁。

第一个问题,可能是我们评估 *** 作共享资源的时间不准确导致的。

第二个问题在于,一个客户端释放了其它客户端持有的锁。

3.1 如何防止锁被其他客户端释放

解决方案:客户端在加锁时,设置一个只有自己知道的「唯一标识」进去。

1. 设置锁
SET lock $uuid EX 20 NX

2. 释放锁
lua 脚本:
    // 判断锁是自己的,才释放
    if redis.call("GET",KEYS[1]) == ARGV[1]
    then
        return redis.call("DEL",KEYS[1])
    else
        return 0
    end

这里释放锁使用的是 GET + DEL 两条命令,这时,又会遇到我们前面讲的原子性问题了。

  1. 客户端 1 执行 GET,判断锁是自己的。
  2. 客户端 2 执行了 SET 命令,强制获取到锁(虽然发生概率比较低,但我们需要严谨地考虑锁的安全性模型)。
  3. 客户端 1 执行 DEL,却释放了客户端 2 的锁。

由此可见,这两个命令还是必须要原子执行才行。

lua 脚本:

​ 因为 Redis 处理每一个请求是「单线程」执行的,在执行一个 Lua 脚本时,其它请求必须等待,直到这个 Lua 脚本处理完成,这样可以保证命令的原子执行。

3.2 如何正确评估锁的过期时间

解决方案:加锁时,先设置一个过期时间,然后我们开启一个「守护线程」,定时去检测这个锁的失效时间,如果锁快要过期了, *** 作共享资源还未完成,那么就自动对锁进行「续期」,重新设置过期时间。

Redisson 是一个 Java 语言实现的 Redis SDK 客户端,在使用分布式锁时,它就采用了「自动续期」的方案来避免锁过期,这个守护线程我们一般也把它叫做「看门狗」线程。

除此之外,这个 SDK 还封装了很多易用的功能:

  • 可重入锁
  • 乐观锁
  • 公平锁
  • 读写锁
  • Redlock(红锁,下面会详细讲)
三、Redlock 红锁 1、Redis 集群环境

​ 我们在使用 Redis 时,一般会采用主从集群 + 哨兵的模式部署,这样做的好处在于,当主库异常宕机时,哨兵可以实现「故障自动切换」,把从库提升为主库,继续提供服务,以此保证可用性。

主从切换时可能发生的问题

可能出现的场景:

  1. 客户端 1 在主库上执行 SET 命令,加锁成功
  2. 此时,主库异常宕机,SET 命令还未同步到从库上(主从复制是异步的)
  3. 从库被哨兵提升为新主库,这个锁在新的主库上,丢失了!

为此,Redis 的作者提出一种解决方案,就是我们经常听到的 Redlock(红锁)。

2、 Redlock 实现的前提

Redlock 的方案基于 2 个前提:

  1. 不再需要部署从库和哨兵实例,只部署主库
  2. 但主库要部署多个,官方推荐至少 5 个实例

也就是说,想用使用 Redlock,你至少要部署 5 个 Redis 实例,而且都是主库,它们之间没有任何关系,都是一个个孤立的实例。

注意:不是部署 Redis Cluster,就是部署 5 个简单的 Redis 实例。

3、Redlock 的具体使用

整体的流程是这样的,一共分为 5 步:

  1. 客户端先获取**「当前时间戳 T1」**。
  2. 客户端依次向这 5 个 Redis 实例发起加锁请求(用前面讲到的 SET 命令),且每个请求会设置超时时间(毫秒级,要远小于锁的有效时间),如果某一个实例加锁失败(包括网络超时、锁被其它人持有等各种异常情况),就立即向下一个 Redis 实例申请加锁。
  3. 如果客户端从 >=3 个(大多数)以上 Redis 实例加锁成功,则再次获取「当前时间戳 T2」,如果 T2 - T1 < 锁的过期时间,此时,认为客户端加锁成功,否则认为加锁失败。
  4. 加锁成功,去 *** 作共享资源(例如修改 MySQL 某一行,或发起一个 API 请求)。
  5. 加锁失败,向「全部节点」发起释放锁请求(前面讲到的 Lua 脚本释放锁)。

我简单帮你总结一下,有 4 个重点:

  1. 客户端在多个 Redis 实例上申请加锁。
  2. 必须保证大多数节点加锁成功。
  3. 大多数节点加锁的总耗时,要小于锁设置的过期时间。
  4. 释放锁,要向全部节点发起释放锁请求。
4、详解各项 *** 作的意义 1) 为什么要在多个实例上加锁?

本质上是为了「容错」,部分实例异常宕机,剩余的实例加锁成功,整个锁服务依旧可用。

2) 为什么大多数加锁成功,才算成功?

多个 Redis 实例一起来用,其实就组成了一个「分布式系统」。

在分布式系统中,总会出现「异常节点」,所以,在谈论分布式系统问题时,需要考虑异常节点达到多少个,也依旧不会影响整个系统的「正确性」。

这是一个分布式系统「容错」问题,这个问题的结论是:如果只存在「故障」节点,只要大多数节点正常,那么整个系统依旧是可以提供正确服务的。

3) 为什么步骤 3 加锁成功后,还要计算加锁的累计耗时?

因为 *** 作的是多个节点,所以耗时肯定会比 *** 作单个实例耗时更久,而且,因为是网络请求,网络情况是复杂的,有可能存在延迟、丢包、超时等情况发生,网络请求越多,异常发生的概率就越大。

所以,即使大多数节点加锁成功,但如果加锁的累计耗时已经「超过」了锁的过期时间,那此时有些实例上的锁可能已经失效了,这个锁就没有意义了。

4) 为什么释放锁,要 *** 作所有节点?

在某一个 Redis 节点加锁时,可能因为「网络原因」导致加锁失败。

例如,客户端在一个 Redis 实例上加锁成功,但在读取响应结果时,网络问题导致读取失败,那这把锁其实已经在 Redis 上加锁成功了。

所以,释放锁时,不管之前有没有加锁成功,需要释放「所有节点」的锁,以保证清理节点上「残留」的锁。

四、Redlock 的争论 (分布式系统专家 Martin vs Redis 作者 Antirez)

五、基于 ZooKeeper 的锁 1、初始 ZooKeeper 分布式锁

如果你有了解过 Zookeeper,基于它实现的分布式锁是这样的:

  1. 客户端 1 和 2 都尝试创建「临时节点」,例如 /lock
  2. 假设客户端 1 先到达,则加锁成功,客户端 2 加锁失败
  3. 客户端 1 *** 作共享资源
  4. 客户端 1 删除 /lock 节点,释放锁

你应该也看到了,Zookeeper 不像 Redis 那样,需要考虑锁的过期时间问题,它是采用了「临时节点」,保证客户端 1 拿到锁后,只要连接不断,就可以一直持有锁。

而且,如果客户端 1 异常崩溃了,那么这个临时节点会自动删除,保证了锁一定会被释放。

2、可能发生的「失联」导致的问题

​ 拿到锁的客户端会与 Zookeeper 服务器维护一个 Session,这个 Session 会依赖客户端「定时心跳」来维持连接。如果 Zookeeper 长时间收不到客户端的心跳,就认为这个 Session 过期了,也会把这个临时节点删除。

基于此问题,我们也讨论一下 GC 问题对 Zookeeper 的锁有何影响:

  1. 客户端 1 创建临时节点 /lock 成功,拿到了锁
  2. 客户端 1 发生长时间 GC
  3. 客户端 1 无法给 Zookeeper 发送心跳,Zookeeper 把临时节点「删除」
  4. 客户端 2 创建临时节点 /lock 成功,拿到了锁
  5. 客户端 1 GC 结束,它仍然认为自己持有锁(冲突)

可见,即使是使用 Zookeeper,也无法保证进程 GC、网络延迟异常场景下的安全性。

这就是前面 Redis 作者在反驳的文章中提到的:如果客户端已经拿到了锁,但客户端与锁服务器发生「失联」(例如 GC),那不止 Redlock 有问题,其它锁服务都有类似的问题,Zookeeper 也是一样!

所以,这里我们就能得出结论了:一个分布式锁,在极端情况下,不一定是安全的。

3、优缺点 优点
  1. 不需要考虑锁的过期时间
  2. watch 机制,加锁失败,可以 watch 等待锁释放,实现乐观锁
缺点
  1. 性能不如 Redis
  2. 部署和运维成本高
  3. 客户端与 Zookeeper 的长时间失联,锁被释放问题
六、Kaito 的建议 1、要不要用 Redlock?

Redlock 只有建立在「时钟正确」的前提下,才能正常工作,如果你可以保证这个前提,那么可以拿来使用。

但保证时钟正确,我认为并不是你想的那么简单就能做到的。

第一,从硬件角度来说,时钟发生偏移是时有发生,无法避免。

例如,CPU 温度、机器负载、芯片材料都是有可能导致时钟发生偏移的。

第二,从我的工作经历来说,曾经就遇到过时钟错误、运维暴力修改时钟的情况发生,进而影响了系统的正确性,所以,人为错误也是很难完全避免的。

所以,我对 Redlock 的个人看法是,尽量不用它,而且它的性能不如单机版 Redis,部署成本也高,我还是会优先考虑使用主从+ 哨兵的模式 实现分布式锁。

2、如何正确使用分布式锁?

1、使用分布式锁,在上层完成「互斥」目的,虽然极端情况下锁会失效,但它可以最大程度把并发请求阻挡在最上层,减轻 *** 作资源层的压力。

2、但对于要求数据绝对正确的业务,在资源层一定要做好「兜底」,设计思路可以借鉴 fecing token 的方案来做。

七、面试相关

gitee 库森

1、什么是分布式锁?为什么使用?如何使用?

​ (锁在程序中的作用就是同步工具,保证共享资源在同一时刻只能被一个线程访问,在 Java 中,我们常用 synchronized 、Lock 来保证资源的同步访问,但是 Java 的锁只能保证单机环境下有效。)因此,如果想在分布式集群环境实现共享资源的同步访问,就需要用到分布式锁。

​ 实现的思路是:在整个系统提供一个全局、唯一的获取锁的中间件,然后每个系统在需要加锁时,都去问这个中间件拿到一把锁,这样不同的系统拿到的就可以认为是同一把锁。至于这个中间件,可以是 Redis、Zookeeper,也可以是数据库。

2、分布式锁的特点

1、互斥性:在任何时刻,对于同一项数据,只有一个客户端可以获取到分布式锁;

2、高可用性:在分布式场景下,一小部分服务器宕机不影响正常使用,这种情况就需要将提供分布式锁的服务以集群的方式部署。

3、防止锁超时:如果客户端没有主动释放锁,服务器会在一段时间之后自动释放锁,防止客户端宕机或者网络不可达时产生死锁;

4、独占性:加锁解锁必须由同一个客户端进行,也就是锁的持有者才可以释放锁,不能出现非持有者解锁的情况。

3、分布式锁的解决方案

主流的有三种:关系型数据库、Redis、ZooKeeper。

关系型数据库

如 MySQL ,是依赖数据库的唯一性来实现资源锁定,比如主键和唯一索引等。

缺点
  • 数据库是一个单点,一旦数据库挂掉,会导致业务系统不可用。
  • 锁没有失效时间。
  • 锁只能是非阻塞的,因为数据的 insert *** 作,一旦插入失败就会直接报错。没有获得锁的线程并不会进入排队队列,要想再次获得锁就要再次触发获得锁 *** 作。
  • 锁是非重入的,同一个线程在没有释放锁之前无法再次获得该锁。因为数据中数据已经存在了。
Redis 优点
  • Redis 锁实现简单,理解逻辑简单,性能好,可以支撑高并发的获取、释放锁 *** 作。
  • Java 中,可以使用 Redisson 通过「自动续期」的方案来避免锁过期。
缺点
  • Redis 容易单点故障,需要集群部署,并不是强一致性的,锁的不够健壮;
ZooKeeper 优点
  • 不需要考虑锁的过期时间。
  • watch 机制,加锁失败,可以 watch 等待锁释放,实现乐观锁。
缺点
  • 性能不如 Redis。
  • 部署和运维成本高。
  • 客户端与 Zookeeper 的长时间失联,锁被释放问题。
4、Redlock

欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/zaji/5635167.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-12-16
下一篇 2022-12-15

发表评论

登录后才能评论

评论列表(0条)

保存