`
sunbin
  • 浏览: 353011 次
  • 性别: Icon_minigender_1
  • 来自: 深圳
社区版块
存档分类
最新评论

hive环境搭建

 
阅读更多

export JAVA_HOME=/usr/local/runtime/jdk

export HADOOP_PREFIX=/usr/local/runtime/hadoop

export HIVE_HOME=/usr/local/runtime/hive

export HBASE_HOME=/usr/local/runtime/hbase

export ZOOKEEPER_HOME=/usr/local/runtime/zookeeper

export JRE_HOME=/usr/local/runtime/jdk/jre

export CLASSPATH=$CLASSPATH:.:$JAVA_HOME/lib:$JAVA_HOME/jre/lib

export HDFS_NAMENODE_USER=root

export HDFS_DATANODE_USER=root

export HDFS_SECONDARYNAMENODE_USER=root

export PATH=$PATH:$JAVA_HOME/bin:$ZOOKEEPER_HOME/bin:$HADOOP_PREFIX/bin:$HIVE_HOME/bin:$HBASE_HOME/bin:$HADOOP_PREFIX/sbin

 

 

hive运行在hadoop基础上。选择一个hadoop服务器、安装hadoop。

1、拷贝mysql驱动包mysql-connector-java-5.1.32-bin

/usr/local/apache-hive-3.1.1-bin/lib

2、修改配置

3、初始化系统schematool -dbType mysql -initSchema

3、启动服务

     单机方式:hive --service metastore &

     服务器方式:服务器  hive --service metastore   客户端  hive

                      服务端启动   hiveserver2

                       客户端通过beeline两种方式连接到hive

                   1、beeline -u jdbc:hive2://localhost:10000/default -n root
                   2、beeline
                      beeline> !connect jdbc:hive2://<host>:<port>/<db>;auth=noSasl root 123
                      默认 用户名、密码不验证,命令行使用命令前面加!
                        退出使用:!quit

4、问题:/usr/local/hadoop-2.6.5/share/hadoop/yarn/lib   下jar包jline-0.9.94.jar 比较老导致  将hive下jline拷贝到hadoop下就可以了

 

 

-----------------------------------------------------------------------------
cp hive-default.xml.template hive-site.xml
按以下模式进行配置

1、单机版,没有客户端,直接在服务器端操作

#修改配置hive-site.xml
<!--hive数据上传到HDFS中的目录-->
<property>  
  <name>hive.metastore.warehouse.dir</name>  
  <value>/root/hive_remote/warehouse</value>  
</property>
<!--hive是否本地模式-->
<property>  
  <name>hive.metastore.local</name>  
  <value>false</value>  
</property>
<!--hive连接mysql地址-->
<property>  
  <name>javax.jdo.option.ConnectionURL</name>  
  <value>jdbc:mysql://PCS101/hive_remote?createDatabaseIfNotExist=true</value> 
</property> 
<!--hive连接mysql驱动类-->
<property>  
  <name>javax.jdo.option.ConnectionDriverName</name>  
  <value>com.mysql.jdbc.Driver</value>  
</property>  
<!--hive连接mysql用户名-->
<property>  
  <name>javax.jdo.option.ConnectionUserName</name>  
  <value>root</value>  
</property>  
<!--hive连接mysql 密码-->
<property>  
  <name>javax.jdo.option.ConnectionPassword</name>  
  <value>123456</value>  
</property>


:.,$-1d  删除当前行到倒数第二行

 

 

 

2、服务器/客户端版,服务器和客户端在同一台机器上,在服务器上操作数据和“1”类似

PCS101:mysql服务端
PCS102:hive服务端和客户端

PCS102 配置文件:hive-site.xml

 

<configuration>
<!--hive数据上传到HDFS中的目录-->
<property> 
<name>hive.metastore.warehouse.dir</name> 
<value>/root/hive_remote/warehouse</value> 
</property>
<!--hive是否本地模式-->
<property> 
<name>hive.metastore.local</name> 
<value>false</value> 
</property>
<!--hive连接mysql地址-->
<property> 
<name>javax.jdo.option.ConnectionURL</name> 
<value>jdbc:mysql://PCS101/hive_remote?createDatabaseIfNotExist=true</value> 
</property> 
<!--hive连接mysql驱动类-->
<property> 
<name>javax.jdo.option.ConnectionDriverName</name> 
<value>com.mysql.jdbc.Driver</value> 
</property> 
<!--hive连接mysql用户名-->
<property> 
<name>javax.jdo.option.ConnectionUserName</name> 
<value>root</value> 
</property> 
<!--hive连接mysql 密码-->
<property> 
<name>javax.jdo.option.ConnectionPassword</name> 
<value>123456</value> 
</property>
<!--hive meta store client地址-->
<property> 
<name>hive.metastore.uris</name> 
<value>thrift://PCS102:9083</value> 
</property> 
</configuration>

 

 

 

3、服务端和客户端在不同节点(客户端 服务端都要依赖hadoop)

PCS101:mysql服务端
PCS102:hive服务端
PCS103:hive客户端

PCS102:hive服务端配置文件:hive-site.xml

 

 

服务端
<configuration>
<!--hive数据上传到HDFS中的目录-->
<property> 
<name>hive.metastore.warehouse.dir</name> 
<value>/root/hive_remote/warehouse</value> 
</property>
<!--hive连接mysql地址-->
<property> 
<name>javax.jdo.option.ConnectionURL</name> 
<value>jdbc:mysql://PCS101/hive_remote?createDatabaseIfNotExist=true</value> 
</property> 
<!--hive连接mysql驱动类-->
<property> 
<name>javax.jdo.option.ConnectionDriverName</name> 
<value>com.mysql.jdbc.Driver</value> 
</property> 
<!--hive连接mysql用户名-->
<property> 
<name>javax.jdo.option.ConnectionUserName</name> 
<value>root</value> 
</property> 
<!--hive连接mysql 密码-->
<property> 
<name>javax.jdo.option.ConnectionPassword</name> 
<value>123456</value> 
</property>
</configuration>

 

客户端
<configuration>
<!--hive数据上传到HDFS中的目录-->
<property> 
<name>hive.metastore.warehouse.dir</name> 
<value>/root/hive_remote/warehouse</value> 
</property>
<!--hive是否本地模式-->
<property> 
<name>hive.metastore.local</name> 
<value>false</value> 
</property>
<!--hive meta store client地址-->
<property> 
<name>hive.metastore.uris</name> 
<value>thrift://PCS102:9083</value> 
</property> 
</configuration>

 

 

 

分享到:
评论

相关推荐

    hive介绍和hive环境搭建

    hive介绍和hive环境搭建。。一、 安装mysql 1. 使用root用户: su root 2. 安装 yum install mysql yum install mysql-server yum install mysql-devel(可选) 3. 修改配置信息,添加: vim /etc/my.cnf ...

    hive环境搭建和建表加载数据

    标题“Hive环境搭建和建表加载数据”涉及了几个关键的知识点,包括Hive环境的搭建、创建表、加载数据以及执行Hive SQL作业。Hive是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张数据库表,并提供...

    大数据综合实验环境搭建(3个集群、Zookeeper、Hive、HBase)

    大数据综合实验环境搭建(3个集群、Zookeeper、Hive、HBase) 本资源摘要信息主要对大数据综合实验环境搭建进行了详细的介绍,涵盖了 JDK 的安装和配置、免密码登录的设置、Zookeeper 的安装、Hive 和 HBase 的安装...

    Hive环境搭建及基本操作指南

    本文档介绍了Hive环境的具体构建步骤及其常规操作演示。从软件安装、配置、测试直到最终的运行都进行了详细的说明。重点讲解如何正确设置Hive的相关参数避免冲突,如因jar包引起的兼容性故障,确保能够顺利完成Hive...

    HIVE环境搭建及常用操作

    用于HIVE入门的介绍,包括hive是什么,hive的安装部署详细步骤,hive的数据类型及常用的操作

    Hive总结.docx

    【Hive原理】 Hive是基于Hadoop平台的数据仓库解决方案,它主要解决了在大数据场景下,业务人员和数据科学...通过理解其原理、掌握SQL语法、优化技巧和解决数据倾斜问题,可以在大数据环境中高效地进行数据分析工作。

    大数据技术基础实验报告-Hive安装配置与应用.doc

    【大数据技术基础实验报告-Hive安装配置...总结,本实验报告详细介绍了如何在Linux环境下安装、配置Hive,并给出了Hive的基本应用示例。理解并掌握这些步骤和概念,将有助于进一步学习和应用Hive进行大数据处理和分析。

    hadoop全套配置详细步骤(基础环境搭建+hadoop集群搭建+hive搭建)

    本文件包含hadoop集群搭建的详细步骤,包含基础环境搭建,Hadoop集群搭建,Hive搭建。小白放心食用,无坑。 其中基础环境搭建包括虚拟机安装、centos7、网络配置、xshell、notepad等环境的安装。注:本文里安装的...

    Hadoop和Hive的安装配置

    1. **环境变量**:确保Hadoop和Hive的`PATH`、`HADOOP_HOME`、`HIVE_HOME`等环境变量已经设置。 2. **权限管理**:Hadoop和Hive的目录需要有适当的权限,避免运行时出现权限问题。 3. **防火墙**:如果是在集群...

    hive实验报告.docx

    - Hive需要依赖JDK和Hadoop环境,同时实验中还涉及了MySQL数据库的连接,因此需要安装JDBC驱动,如`mysql-connector-java-5.1.42-bin.jar`。 2. **启动Hadoop集群**: - 启动Zookeeper服务,它是Hadoop分布式协调...

    Mac 搭建 Hadoop和hive环境.pdf

    #### 标题:Mac 搭建 Hadoop和hive环境 #### 描述:手把手教你进行mac搭建hadoop和hive环境 #### 标签:hadoop, hive, mac, mysql #### 详细知识点解析: ##### 一、前言 在Mac环境下搭建Hadoop和Hive对于数据...

    Win10不需要Cygwin搭建大数据测试环境搭建hive的bin文件(包含官方版本中缺少的cmd文件)hive)

    在搭建Hive环境时,你需要做以下几步: 1. **下载Hive**: 获取包含缺失"cmd"文件的Hive版本,确保它是针对Windows优化的。 2. **配置环境变量**: 将Hive的安装路径添加到系统的PATH环境变量中,这样你就可以在任何...

    Linux搭建Hive开发环境

    尽管这里只提供了部分内容,但上述步骤大致勾勒出了Linux下Hive开发环境搭建的完整流程,这个过程不仅涉及到软件本身的部署,也包含了对操作系统环境的适当调整。值得一提的是,因为文档是通过OCR扫描得到的,因此在...

    hive配置相关文件.zip

    总的来说,这个压缩包提供了一套完整的Hive环境搭建基础,包括Hadoop、Hive、Java运行环境以及与MySQL交互的驱动。用户需要按照特定的步骤解压、配置这些组件,并根据实际需求调整`hive-site.xml`中的参数。对于初学...

    hive搭建及使用入门简介(内含PPT、各种表创建sql及hive搭建使用笔记)

    在“Hive搭建”部分,你将了解到如何在本地或集群环境中设置Hive。这通常包括安装Java环境、配置Hadoop、下载和安装Hive、创建Hive metastore服务,以及配置Hive-site.xml等步骤。确保所有依赖服务如HDFS、YARN和...

    《Hive数据仓库案例教程》教学大纲.pdf

    2. **Hive环境搭建**:这章介绍了Hive的安装、配置,包括MySQL的安装,Hive元数据的配置,以及如何使用HiveJDBC进行连接。实践环节让学生亲手操作Hive的部署,掌握配置过程。 3. **Hive基础**:本章涉及Hive的数据...

    大数据Hadoop+HBase+Spark+Hive集群搭建教程(七月在线)1

    在构建大数据处理环境时,Hadoop、HBase、Spark和Hive是四个核心组件,它们协同工作以实现高效的数据存储、处理和分析。本教程将详细介绍如何在Ubuntu系统上搭建这些组件的集群。 1. **Hadoop**:Hadoop是Apache...

    hive-part1-基础知识.pdf

    最后,Hive环境搭建部分涵盖了Hive安装和使用方式的介绍。Hive安装主要有内嵌Derby版本、外置MySQL版本,以及LinuxRPM方式安装MySQL。Hive的使用方式主要分为三种连接方式:CLI(命令行接口)、HiveServer2/beeline...

    hadoop、hive、spark实验

    6. Hive 环境搭建:学习 Hive 的基本概念和使用,例如创建 Hive 表、加载数据、执行查询等。 7. Spark 环境搭建:学习 Spark 的基本概念和使用,例如创建 Spark 程序、加载数据、执行查询等。 8. 逻辑回归和决策树...

Global site tag (gtag.js) - Google Analytics