大数据组件-Hive部署基于MySQL作为元数据存储

大数据组件-Hive部署基于MySQL作为元数据存储,第1张

👨🏻‍🎓博主介绍:大家好,我是芝士味的椒盐,一名在校大学生,热爱分享知识,很高兴在这里认识大家🌟
🌈擅长领域:Java、大数据、运维、电子
🙏🏻如果本文章各位小伙伴们有帮助的话,🍭关注+👍🏻点赞+🗣评论+📦收藏,相应的有空了我也会回访,互助!!!
🤝另本人水平有限,旨在创作简单易懂的文章,在文章描述时如有错,恳请各位大佬指正,在此感谢!!!


文章目录 MySQL安装安装Hive配置元数据到MySQLHiveJDBC访问

MySQL安装 准备如下安装包 MySQL-client-5.6.24-1.el6.x86_64.rpmmysql-connector-java-5.1.27.tar.gzMySQL-server-5.6.24-1.el6.x86_64.rpm

*** 作步骤:

使用rpm指令查询是否安装有mariadbpostfix,有就卸载

rpm -qa |grep mariadb
rpm -qa |grep postfix
#卸载发现的,否则mysql将安装不上
sudo rpm -e --nodeps mariadb-libs-5.5.64-1.el7.x86_64

安装MySQL-server-5.6.24-1.el6.x86_64.rpm

rpm -ivh MySQL-server-5.6.24-1.el6.x86_64.rpm
rpm -ivh MySQL-client-5.6.24-1.el6.x86_64.rpm

启动mysql服务

seriver mysql start

/root/.mysql_secret 中查看随机密码,并记录随机密码

sudo cat /root/.mysql_secret

登录mysql

mysql -uroot -p[随机密码]

设置新的密码以及远程登录,并且刷新

mysql>set password=password('root');
#配置任何主机可以远程登录
mysql>use mysql
mysql>update user set host='%' where user='root;
#刷新sql配置
mysql>flush privileges;
安装Hive配置元数据到MySQL

mysql-connector-java-5.1.27.tar.gz 进行解压

tar -zxvf mysql-connector-java-5.1.27.tar.gz

将解压出来中的mysql-connector-java-5.1.27-bin.jar复制到/usr/local/src/hive/lib下

cp mysql-connector-java-5.1.27-bin.jar /usr/local/src/hive/lib/

配置Metastore到MySQL

在/hive/conf下创建一个hive-site.xml

touch hive-site.xml

并配置hive-site.xml中的参数



<configuration>

	<property>
	  <name>javax.jdo.option.ConnectionURLname>
	  <value>jdbc:mysql://slave2:3306/metastore?createDatabaseIfNotExist=truevalue>
	  <description>JDBC connect string for a JDBC metastoredescription>
	property>

	<property>
	  <name>javax.jdo.option.ConnectionDriverNamename>
	  <value>com.mysql.jdbc.Drivervalue>
	  <description>Driver class name for a JDBC metastoredescription>
	property>

	<property>
	  <name>javax.jdo.option.ConnectionUserNamename>
	  <value>rootvalue>
	  <description>username to use against metastore databasedescription>
	property>

	<property>
	  <name>javax.jdo.option.ConnectionPasswordname>
	  <value>rootvalue>
	  <description>password to use against metastore databasedescription>
	property>
configuration>
若启动hive异常需要重新启动机器

多窗口启动hive测试

先启动mysql,并查看有几个数据库

------mysql -uroot -proot
mysql>show databases;

再次打开多个窗口,分别启动hive

hive

启动hive之后,返回mysql窗口查看数据库数量,会显示增加了metastore数据库

HiveJDBC访问

因为hadoop不允许直接用户 *** 纵hadoo层,会有一个伪装机制,而是使用将控制权交由超级代理,需要在hadoop的core-site.xml中配置

				<property>
                 <name>hadoop.proxyuser.hadoop.hostsname>
                 <value>*value>
        property>
        <property>
                <name>hadoop.proxyuser.hadoop.groupsname>
                <value>*value>
        property>

先开启 Metastore,再开启hiveserver2

nohup hive --service metastore  >>  log.out 2>&1 &

nohup hive --service hiveserver2  >> log.out 2>&1 &

连接hiveserver2

beeline> !connect jdbc:hive2://本机的hive的ip或域名:10000(回车)
Connecting to jdbc:hive2://本机的hive的ip或域名:10000
Enter username for jdbc:hive2://本机的hive的ip或域名:10000: hadoop(回车)
Enter password for jdbc:hive2://本机的hive的ip或域名:10000: (直接回车)
Connected to: Apache Hive (version 1.2.1)
Driver: Hive JDBC (version 1.2.1)
Transaction isolation: TRANSACTION_REPEATABLE_READ
0: jdbc:hive2://本机的hive的ip或域名:10000> show databases;
+----------------+--+
| database_name  |
+----------------+--+
| default        |
| hive_db2       |
+----------------+--+

欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/sjk/991004.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-05-21
下一篇 2022-05-21

发表评论

登录后才能评论

评论列表(0条)

保存