zookeeper集群配置

zookeeper集群配置,第1张

zookeeper集群只有超过半数节点OK集群才能正常工作,所以集群内节点数量最好为奇数

第一步:主机名称到IP地址映射配置(不做映射也可以直接写ip)

ZooKeeper集群中具有两个关键的角色:Leader和Follower。集群中所有的结点作为一个整体对分布式应用提供服务,集群中每个结点之间都互相连 接,所以,在配置的ZooKeeper集群的时候,每一个结点的host到IP地址的映射都要配置上集群中其它结点的映射信息。

例如:

19216836101 slave-01

19216836102 slave-02

19216836103 slave-03

第二步:修改ZooKeeper配置文件

解压出一个zookeeper程序,然后修改配置文件zoocfg

tickTime=2000 # Zookeeper 服务器之间或客户端与服务器之间维持心跳的时间间隔,每个 tickTime 时间就会发送一个心跳。 dataDir=/home/hadoop/storage/zookeeper #Zookeeper 保存数据的目录,默认情况下,Zookeeper 将写数据的日志文件也保存在这个目录里

clientPort=2181 #zookeeper提供服务的接口也就是监听客户端连接的端口

initLimit=5 #用来配置 Zookeeper 接受客户端初始化连接时最长能忍受多少个心跳时间间隔数。5就表示最长接受52000=10秒间隔

syncLimit=2 #Leader 与 Follower 之间发送消息,请求和应答时间长度,最长不能超过多少个 tickTime 的时间长度,总的时间长度就是 22000=4 秒

server1=127001:2887:3887

server2=127001:2888:3888

server3=127001:2889:3889

1表示这是第几号服务器/127001是服务器ip/2883是集群Leader交换信息的端口/Leader挂了重新选举Leader的端口

第三步:复制分发安装文件

如果各个zookeeper在不同服务器,集群中的zookeeper 配置文件都是跟上面相同的,所以只需要复制然后放在需要的主机上就可以

还有修改dataDir 和logDir 保证各自使用自己的配置文件

例如:

server1=127001:2887:3887

server2=127001:2888:3888

server3=127001:2889:3889

第四步:设置myid

在我们配置的dataDir指定的目录下面,创建一个myid文件,里面内容为一个数字,用来标识当前主机,对应于conf/zoocfg文件中配置的serverX中的X,例如:server1的dataDir下应该建立一个myid的文件,其中写入1

第五步:启动ZooKeeper集群

第六步:验证

由于前面的节点在启动时候会尝试去连接其他节点,所以先启动的节点会有报错信息,这是正常的不用理会,等到leader选举出来了就可以正常工作了

计算机网络是计算机应用的一个重要领域,是信息高速公路的重要组成部分。计算机网络空前活跃,几乎渗透到社会的每个角落。
网络的基本概念
计算机网络是一种地理上分散的多台独立工作的计算机,通过通信电路互相连接起来,在配有相应的网络软件的情况下,实现资源共享和信息交换的系统。
计算机网络的功能主要体现在三个方面:信息交换、资源共享和分布式处理。
计算机网络有各种各样的分类方法,但常用的分类方法是按网络规模、距离远近分类。通常把计算机网络分成两大类:局域网LAN(Local Area Network),广域网WAN(Wide Area Network)。广域网也叫远程网RCN(Remote Computer Network)。
局域网是指在几百米到10公里范围之内连成的网络。如一栋楼内、一所学校的校园网、一家公司的企业网等都是局域网。网络连接距离在10公里以上便称为广域网,因特网就是最典型的广域网。在这一节里,重点介绍局域网。
计算机局域网
局域网一般由传输介质及附属设备、网络适配器、网络服务器、用户工作站和网络软件等组成。
传输介质及附属设备
局域网所使用的传输介质主要有三种:双绞线、同轴电缆、光导纤维。
在局域网中双绞线是用得最多的一种。100米以内的连接可用双绞线。
同轴电缆有细缆和粗缆之分,细缆阻抗为50W,粗缆阻抗为75W,二者不能直接相连。一般,185米以内可采用细缆,大于这个距离则采用粗缆。
光导纤维俗称光缆,与电缆有本质的区别,光缆传输的是光信号,电缆传输的是电信号。光缆由一束光导纤维组成,光纤中有一根导光的细丝,通常用硅制成。光缆是传输率最高的传输介质,一般用在主干线上。
附属设备随局域网使用的传输介质而定。就双绞线而言,有RJ45;就同轴电缆而言,一般包括BNC插头、T型插头、终端匹配器、增音器和调质解调器等。若网络采用星形结构,还需有集线器Hub。Hub分为共享式Hub和交换式Hub。Hub的功能是接收和转发信号。
网络适配器
网络适配器NIC(Network Interface Card)也称网卡,通过它将用户工作站的PC机连接到网络上。随着网络技术的飞速发展,网卡也经历了频繁的更新换代,其品种、类型日益繁多,功能也日趋复杂、完善。有支持ISA总线的16位网卡,有支持PCI总线的32位网卡;有传输率为10Mbps(即每秒传送10兆位)的网卡,有传输率为100Mbps的网卡,也有传输率为10/100Mbps的自适应网卡。
网卡的主要作用是:
实现工作站PC机和局域网传输介质的物理连接和电信号匹配,接收和执行工作站主机送来的各种控制命令;
实现局域网数据链路层的功能,包括传输介质的送取控制、信息帧的发送和接收、差错校验、串并行代码转换等;
提供数据缓冲能力;
实现某些接口功能等。
注意:若要将计算机连接到广域网上,必须有Modem,即调制解调器,而不是网卡。
网络服务器
网络服务器是用来管理系统中共享资源的,例如大容量的磁盘、高速打印机和数据文件等。由于网络服务器对这些设备的管理和访问都是按文件形式进行的,所以又称之为文件服务器。一个局域网可以有多个服务器,以实现共享资源的分布配置。局域网的许多功能是通过服务器来实现的,网络 *** 作系统等软件也主要驻留在服务器上。因此,网络服务器的性能直接影响到局域网的性能。
网络服务器可以是高性能的微机、小型机或大型机。不管选用哪种设备,服务器都必须具备适当的通讯处理能力、快速访问能力和安全容错能力。
用户工作站
用户通过工作站来访问网络的共享资源。在局域网中,用户工作站一般采用PC机。除了访问网络资源外,工作站本身具有一定的处理能力。根据应用的需要,工作站也可以是无盘的,被称为无盘工作站。
网络软件
网络软件包括网络协议软件、通信软件和网络 *** 作系统等。网络软件功能的强弱直接影响到网络的性能。
局域网的网络拓朴结构
连接在网络上的计算机、大容量磁盘、高速打印机等部件均可看作是网络上的一个节点,又称为工作站。网络拓朴是指网络中各节点相互连接的方法或形式。在设计一个网络时,选择合适的网络拓朴结构是非常重要的,它将直接关系到该网络的性能。局域网拓朴结构主要有星形、环形和总线型三种结构(见图41)。
图41 总线 环形 星形
总线拓朴结构
总线拓朴结构是局域网中使用最广泛的一种拓朴结构。在这种结构中各节点都通过相应的硬件接口直接接至传输介质上,各节点间的通信可通过公共的介质直接进行。该种结构的优点是当某一个结点发生故障时,不会影响网络的正常工作,且也允许新的结点顺利入网而不影响网络的现行状态。
环形拓朴结构
环形结构是一种闭合的总线结构。网络中各结点通过中继器连接到闭环上。所谓中继器是一比较简单的设备,它具有单方向的传输能力,即由一条链路上接收数据后不加缓冲地以同样的速率沿本身的另一条链路传输出去,因此在网络环上数据就以一定方向沿环传输。由于环形网上的各中继器是相互串接的,因此任一中继器出现故障均会导致数据传输的失败。
星形拓朴结构
在星形拓朴结构的局域网中,各个结点通过点到点的线路与中央结点相连。中央结点由性能较好的计算机来实现,其余各结点之间的通信均是由中央结点来沟通,这样整个网络基本上不受外围结点的入网、退网的影响,且外围结点承担数据处理的工作量较小,而大量的数据处理工作由中央结点来完成,因而造成这种结构的中央结点的负荷较重,易出quot;瓶颈"现象,系统可靠性较差。
网络传输协议
在网络传输中,采用分层模式进行传输。分层约定使得各层所完成的功能是相互独立的。因此,当某层要改变约定时,就不会对其他层造成影响。
在计算机网络中,将计算机网络同等层间的通信约定称为网络协议。OSI(国际标准化组织)网络分层模型中,有七层通信协议,如图42所示。
发送站 (逻辑信道)同层协议 接收站
⑦ 应用层 ⑦ 应用层
⑥ 表示层 ⑥ 表示层
⑤ 会话层 ⑤ 会话层
④ 传输层 ④ 传输层
③ 网络层 ③ 网络层
② 数据链路层 ② 数据链路层
① 物理层 ① 物理层
互连物理介质
图42 局域网的七层协议
1 物理层
主要提供与传输介质的接口、与物理介质相连接所涉及到的机械的、电气的功能和规程方面的特性,最终达到物理的连接。它提供了位传送的物理通路。该类协议有RS-232A、RS-232B、RS-232C等。
2 数据链路层
通过一定格式及差错控制、信息流控制送出数据帧,保证报文以帧为单位在链路上可靠的传输。为网络层提供接口服务。这类协议典型的例子是ISO推荐的高级链路控制远程HDLC。
3 网络层
它是用来处理路径选择和分组交换技术,提供报文分组从源节点至目的节点间可靠的逻辑通路,且担负着连接的建立、维持和拆除。该类协议有IP协议。
4 传输层
用于主机同主机间的连接,为主机间提供透明的传输通路,传输单位为报文。该类协议有TCP协议。
5 会话层
它的功能是要在数据交换的各种应用进程间建立起逻辑通路,我们将两应用进程间建立起一次联络称为一次会话,而会话层就是用来维持这种联络。
6 表示层
该层提供一套格式化服务。如报文压缩、文件传输协议FTP。
7 应用层
也称为用户层。为面向用户的各种软件的传输协议。如SMTP、POP3、Telnet等。
值得说明的是,OSI模型虽然被国际所公认,但迄今为止尚无一个局域网能全部符合上述七层协议。

根服务器就那几个。
全球共有13台根域名服务器。这13台根域名服务器中名字分别为“A”至“M”,其中10台设置在美国,另外各有一台设置于英国 瑞士 日本 根服务器主要用来管理互联网的主目录,全世界只有13台。1个为主根服务器,放置在美国。其余12个均为辅根服务器,其中9个放置在美国,欧洲2个,位于英国和瑞典,亚洲1个,位于日本。

搭建一个集群我们需要考虑如下几个问题:

备注:集群规划满足当前数据规模+适量增长规模即可,后续可按需扩展。

配置说明:
1)IP访问限制、默认端口修改9200
IP访问限制可以限定具体的IP访问服务器,这有一定的安全过滤作用。

如果设置成0000则是不限制任何IP访问。一般在生产的服务器可能会限定几台IP,通常用于管理使用。
es实例的默认端口号9200:

  这里的9300是集群内部通讯使用的端口,这个也可以修改掉。因为连接集群的方式有两种,通过扮演集群node也是可以进入集群的,所以还是安全起见,修改掉默认的端口。
说明:记得修改安装了ES的3台虚拟机(三个节点)的相同配置,要不然节点之间无法建立连接工作,也会报错。

让它去发现131,132的机器,以此内推,完成剩下的131和132机器的配置。
配置下集群名称,就是你当前节点所在集群的名称,这有助于你规划你的集群。集群中的所有节点的集群名称必须一样,只有集群名称一样才能组成一个逻辑集群。

配置你当前节点的名称:

  以此类推,完成另外两个节点的配置。clustername的名称必须保持一样。然后分别设置nodename。
说明:
  这里搭建的是一个简单的集群,没有做集群节点角色的区分,所以3个节点默认的角色有主节点、数据节点、协调节点
选举ES主节点的逻辑:
  选举的大概逻辑,它会根据分片的数据的前后新鲜程度来作为选举的一个重要逻辑。(日志、数据、时间都会作为集群master全局的重要指标)
  因为考虑到数据一致性问题,当然是用最新的数据节点作为master,然后进行新数据的复制和刷新其他node。

>

欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/zz/13325528.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-07-15
下一篇 2023-07-15

发表评论

登录后才能评论

评论列表(0条)

保存