手把手超详细Docker部署MongoDB集群

手把手超详细Docker部署MongoDB集群,第1张

mongodb 集群搭建的方式有三种:

​ 首先我们先来了解一下Mongo集群的概念,Mongo集群有3个主要组件

​ ConfigServer:在集群中扮演存储整个集群的配置信息,负责配置存储,如果需要高可用的ConfigServer那么需要3个节点

​ Shard:分片,存储真实的数据,每一个Shard分片都负责存储集群中的数据,例如一个集群有3个分片,然后我们定义分片规则为哈希,那么整个集群的数据就会(分割)到3个分片中的某一个分片,那么分片是特别重要的,如果集群中的一个分片全部崩溃了那么集群将不可用,所以我们要保证集群的高可用,那么我们需要一个分片配置3个节点,2个副本集一个仲裁节点,仲裁节点类似于Redis的哨兵模式,如果发现主节点挂了那么让另一个副本集进行数据存储。

​ Mongos:Mongos我们可以理解为整个集群的入口,类似于Kafka的Broker代理,也就是客户端,我们通过客户端连接集群进行查询。

​ 下面是MongoDB的官方集群架构图,我们看到Mongos是一个路由,他们的信息都存储在ConfigServer中,我们通过Mongos进行添加,然后根据条件将数据进行分片到分片的副本集中

首先我们搭建两个config-server

创建两个config-server的配置文件

然后配置文件中配置端口

然后启动容器

然后进入容器初始化

如果ok为1表示成功

下面我们给每个server创建2个分片

创建挂载文件

创建配置文件

然后启动容器

进入第一个分片

进入第二个分片

创建挂载文件

然后启动Mongo

mongo添加分片组

新建数据启用分片

那么我们先来总结一下我们搭建一个高可用集群需要多少个Mongo

mongos : 3台

configserver : 3台

shard: 3片

每一片shard 分别 部署两个副本集和一个仲裁节点 : 3台

那么就是 3 + 3 + 3 * 3 = 15 台,我这里演示采用3台服务器

​ 114.67.80.169 4核16g 部署一个configserver,一个mongos,2个分片组

​ 182.61.2.16 2核4g 部署一个configserver,一个mongos,1个分片组

​ 106.12.113.62 1核2g 部署一个configserver,一个mongos,不搭建分片组

由于此处服务器原因所以不是均衡分布,请根据自身实际情况搭建

​ 我们先来搭建ConfigServer,因为我们知道搭建的话一定要高可用而且一定要权限这里mongo之间通信采用秘钥文件,所以我们先进行生成

创建挂载文件目录

写入配置文件

然后生成keyFile

文件如下,我们,之后我们所以key都采用这个(请采用自己生成的key)

写入key文件

然后启动config-server1容器

创建挂载文件目录

写入配置文件

写入配置文件

文件如下,我们,之后我们所以key都采用这个(请采用自己生成的key)

写入key文件

然后启动config-server2容器

创建挂载文件目录

写入配置文件

文件如下,我们,之后我们所以key都采用这个(请采用自己生成的key)

写入key文件

然后启动config-server3容器

进入第一台容器

输入

如果返回ok则成功

然后我们创建用户

​ 由于mongos是客户端,所以我们先搭建好config以及shard之后再搭建mongos。

在同一台服务器上初始化一组分片

创建挂载文件

配置配置文件

创建keyfile

运行shard1分片组

并且制定第三个副本集为仲裁节点

返回ok后创建用户

然后退出,分片组1搭建完成

在同一台服务器上初始化一组分片

创建挂载文件

配置配置文件

创建keyfile

运行shard2分片组

并且制定第三个副本集为仲裁节点

返回ok后创建用户

然后退出,分片组2搭建完成

在同一台服务器上初始化一组分片

创建挂载文件

配置配置文件

创建keyfile

运行shard3分片组

并且制定第三个副本集为仲裁节点

返回ok后创建用户

然后退出,分片组3搭建完成

创建配置文件

填入配置文件,这里我们删除了认证的信息,因为mongos是不能设置认证的,他也是用的前面使用的密码即可,如configserver的密码

创建keyfile

运行mongos1

创建配置文件

填入配置文件,这里我们删除了认证的信息,因为mongos是不能设置认证的,他也是用的前面使用的密码即可,如configserver的密码

创建keyfile

运行mongos2

创建配置文件

填入配置文件,这里我们删除了认证的信息,因为mongos是不能设置认证的,他也是用的前面使用的密码即可,如configserver的密码

创建keyfile

运行mongos3

进入第一台mongos

先登录(使用前面设置的root用户密码)

进行配置分片信息

全部返回ok则成功

去其他两台mongos执行

mongos2

mongos3

创建用户

插入数据

openssl rand -base64 756 >mongo.key

清空server1两个分片数据

清空server2两个分片数据

顾名思义,副本集是一个集合,即MongoDB实例的集合,集合中的每个成员拥有相同的数据集合;一个副本集包含多个数据节点和一个可选的仲裁节点,在数据节点中,只有一个可以作为主节点(Primary Node),其他节点只能是第二节点(Secondary Nodes)。

主节点接收所有的写 *** 作,一个副本集只能有一个能够确认写入的主节点(Primary Node),如下图:

第二节点复制主节点的 *** 作日志并且将所有的 *** 作应用到自己的数据集合中,复制过程是异步的,如果主节点不可用,一个可以被选举的第二节点将会被选举为主节点,所以在副本集中,即使一个或者多个成员没有正常运行,但整个副本集仍然可以正常工作;主副节点关系如下图:

在某些情况下(比如受硬件条件所限,只有一个主节点和一个副节点,无法添加更多的副节点),你可以选择将mongod实例添加进副本集,并作为仲裁者(仲裁者只负责选举新的主节点,不持有数据),在副本集中,如果主节点与其他节点无法通信的时间超过配置的时间值( electionTimeoutMillis ),那么副本集将视主节点出现故障,此时将会重新选举一个正常副节点来作为新的主节点,从而让整个副本集系统正常工作,如下图:

副本集的搭建的步骤为:同时启动多个mongod实例(可以在一台服务器上,也可以在不同的服务器上),然后在每个实例的配置文件中配置相应的配置项,最后启动实例后,登录并且在做一次配置即可。

注意: 文中都是通过配置文件的方式来启动mongod实例的,你也可以通过启动参数来启动实例,同时本文中的mongod实例是通过 supervisor 来管理的,关于如何通过supervisor管理进程,可以自行查阅相关资料或者参考 这里

对于每一个配置项,如果不明白每个配置项的释义,请参考: mongo配置文件 。另外,如果实例在同一台机器上,则针对每个实例,需要区分 path , pidFilePath , port , dbPath 这几个的配置值,并且每个配置文件中的 replSetName 必须相同。

在supervisorctl中执行update,此时三个实例便启动成功。

分片是将MongoDB中的数据集分割成多个数据片,每片数据存放在不同的MongoDB实例中,可以理解为将一个MongoDB数据集拆分成多个小型数据集,而小数据集分布在相同或者不同的物理机器上,分割只是从物理层面进行分割,逻辑上仍然属于同一个数据集合。

分片包含三部分, 如下图所示:

注意: 不同的分片集群必须使用不同的配置服务器(Config Servers),不能使用同一个配置服务器(Config Servers)

分片实例的搭建与副本集类似,都是配置不同的配置文件,然后启动相应的实例:

这里只给出了关键配置项,其他配置项根据自己的实际情况配置,图中的 replSetName 表示当前实例属于哪个副本集,该副本集中的每个节点的该配置项必须一致, clusterRole 表示当前节点在分片中的的角色,可选值有: shardsvr 和 configsvr , shardsvr 表示该节点是作为Shards节点提供服务,而 configsvr 表示该节点作为Config Server节点提供服务。

至此,分片搭建完成。


欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/bake/11944115.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-05-19
下一篇 2023-05-19

发表评论

登录后才能评论

评论列表(0条)

保存