`
cumtheima
  • 浏览: 256290 次
  • 性别: Icon_minigender_1
  • 来自: 南京
社区版块
存档分类
最新评论

hive学习总结(1)—Hive几种数据导入方式

    博客分类:
  • Hive
阅读更多

1.从本地文件系统中导入数据到hive表

 

(1)数据准备(/home/sopdm/test.dat):

 

  1,wyp,25,13188888888

  2,test,30,13899999999

  3,zs,34,89931412

 

(2)首先创建表

use sopdm;

drop table if exists sopdm.wyp;

create table if not exists sopdm.wyp(id int,name string,age int,tel string)

row format delimited

fields terminated by ','

stored as textfile;

 

(3)从本地文件系统中导入数据到Hive

 

load data local inpath ‘/home/sopdm/test.dat’ into table sopdm.wyp;

 

(4)可以到wyp表的数据目录下查看,如下命令

 

dfs  -ls  /user/sopdm/hive/warehouse/sopdm.db/wyp;

 

2.从HDFS上导入数据到Hive表

 

(1)现在hdfs中创建一个input目录存放HDFS文件

hadoop fs -mkdir input;     hadoop fs -mkdir /user/sopdm/input;

 

(2)把本地文件上传到HDFS,并重命名为test_hdfs.dat

hadoop fs -put /home/sopdm/test.dat /user/sopdm/input/test_hdfs.dat;

 

(3)查看文件

dfs -cat /user/sopdm/input/test_hdfs.dat;

 

(4)将内容导入hive表中

 

--拷贝“本地数据“hive”使用:load data local…

--转移“HDFS”“hive”(必须同一个集群)使用:load data…

load data inpath ‘/user/sopdm/input/test_hdfs.dat’ into table sopdm.wyp;

 

3.从别的Hive表中导入数据到Hive表中

 

create table if not exists sopdm.wyp2(id int,name string,tel string)

row format delimited

fields terminated by ','

stored as textfile;

 

--overwrite是覆盖,into是追加

insert into table sopdm.wyp2

select id,name,tel from sopdm.wyp;

 

--多表插入

--高效方式-查询语句插入多个分区

from sopdm.wyp w

insert overwrite table sopdm.wyp2

    select w.id,w.name,w.tel where w.age=25

insert overwrite table sopdm.wyp2

    select w.id,w.name,w.tel where w.age=27;

 

4.创建Hive表的同时导入查询数据

 

create table sopdm.wyp3

       as select id,name,tel,age from sopdm.wyp where age=25;

 

5.使用sqoop从关系数据库导入数据到Hive

    这个放在sqoop总结中去讲解。

 

1
0
分享到:
评论
1 楼 cumtheima 2014-11-21  
多多提问交流哦!

相关推荐

    Hive几种数据导入方式

    本文主要针对 Ambari 搭建的 Hadoop 环境下,Hive 的几种数据导入方式进行详细讲解,帮助读者更好地理解和掌握这些导入方式。 #### 1. 从本地文件系统导入数据至 Hive 表 这种方式涉及到将本地文件系统中的数据...

    datax数据从hive导入mysql数据缺失解决

    ### DataX 数据从 Hive 导入 MySQL 数据缺失解决 #### 背景介绍 在大数据处理领域,Hive 和 MySQL 分别作为数据仓库与关系型数据库的重要组成部分,在数据流转过程中承担着关键角色。Hive 通常用于存储海量数据并...

    建立Hive和Hbase的映射关系,通过Spark将Hive表中数据导入ClickHouse

    接下来,Spark作为一个分布式计算框架,提供了一种灵活且高性能的方式来处理数据。在Hive和ClickHouse之间传输数据时,Spark可以作为一个中间层,利用其强大的数据处理能力,将Hive表的数据转换为适合ClickHouse存储...

    大数据技术原理及应用课实验6 :熟悉Hive的基本操作

    在大数据处理领域,Hive是一种基于Hadoop的数据仓库工具,它允许用户使用SQL类的语言(称为HiveQL)对大规模数据进行分析和处理。在这个实验中,我们将深入理解Hive的角色以及如何执行基本操作。 首先,Hive在...

    Hive用户指南 Hive user guide 中文版

    Hive作为构建在Hadoop之上的数据仓库系统,其主要功能是提供一种简单易用的方式来处理存储在Hadoop HDFS中的大量数据。通过Hive,用户可以使用类似于SQL的查询语言(HiveQL)来查询数据,而不需要深入了解底层的...

    大数据-数据迁移-hive、hbase、kudu迁移

    本文档详细记录了一次从自建Hadoop集群到华为云MRS(Managed Service for Big Data)的大规模数据迁移项目,涉及到了Hive、Kudu和HBase这三种不同类型的数据存储系统。以下是针对这些系统的迁移策略、流程和解决方案...

    源码主要用于学习:1. Spring Boot+Hadoop+Hive+Hbase实现数据基本操作,Hive数据源使.zip

    Hadoop可能用于存储和处理大量原始数据,而Hive作为数据仓库层,提供了一种结构化的方式来管理和分析这些数据。HBase则可能被用于需要快速访问的特定数据子集,例如实时查询或更新。 项目中的具体实现可能包括以下...

    oracle,teradata,hive,gbase,db2数据库导出csv命令总结

    除了上述方法之外,Oracle 还提供了 `EXP` 命令用于数据备份,它可以通过以下几种方式导出数据: - **完全导出**:`EXP SYSTEM/MANAGER BUFFER=64000 FILE=C:\FULL.DMP FULL=Y`,需要特殊权限。 - **用户模式导出**...

    hive jdbc必用jar包

    1. **导入JAR包**:将压缩包中的`hive-jdbc.jar`及所有依赖的库文件添加到你的Java项目的类路径中。 2. **建立连接**:使用`java.sql.DriverManager`的`getConnection()`方法建立到Hive服务器的连接。你需要提供...

    Hive小表的测试数据

    在实际应用中,我们可能会遇到如下几种与Hive小表相关的知识点: 1. **数据加载**:Hive小表的数据通常通过`LOAD DATA`命令从本地文件系统、HDFS或者其他数据源导入。例如,提供的压缩包文件"10万条小表数据(id为9...

    hive进阶强化必备

    Hive支持多种数据导入方式,包括直接加载文件、插入查询结果以及追加分区等。 1. **直接加载文件**: - 使用`load data inpath '/path/to/data' into table tablename [partition(partcol=val)]`命令,其中`/path/...

    Hive 学习资料

    - **数据提取、转换、加载(ETL)**:Hive 提供了一种简单而高效的方式来处理大量数据的导入导出,能够支持各种数据格式之间的转换。 - **查询和分析能力**:HiveQL 支持大部分 SQL 功能,使得用户可以通过类 SQL ...

    Apache-Hive-Cookbook

    3. **数据加载与导出**:讲解如何将数据导入Hive,包括使用LOAD DATA命令,以及从其他数据源如CSV文件、数据库导入数据。同时,也会涉及如何将Hive数据导出到其他系统。 4. **分区与桶**:讨论如何通过分区和桶优化...

    HIVE数据库解析vc编写

    8. **数据导入导出**:VC程序可能需要与Hive之间进行数据交换,理解如何将本地数据加载到Hive,或者从Hive导出数据到本地文件系统,是另一个重要的方面。 通过深入理解以上知识点,VC程序员可以有效地编写代码来...

    一张图看懂Hive

    Hive是由Facebook开发并开源的一款数据仓库工具,它主要运行在Hadoop之上,为用户提供了一种更加便捷的方式来处理大规模数据集。通过Hive,用户可以通过类似SQL的查询语言(HQL)来进行数据的提取、转换和加载(ETL...

    HIVE操作注册表.rar

    在Hive中操作注册表,一般有以下几种场景: - **数据导入**:将Windows注册表中的数据转换为Hive可识别的格式,然后加载到Hive表中。这可能需要编写脚本或利用Hadoop的MapReduce功能来实现数据的预处理和导入。 - **...

    hbase与hive数据同步共4页.pdf.zip

    HBase与Hive的数据同步主要有两种常见方式:单向同步和双向同步。 1. 单向同步: - HBase到Hive:通常在需要进行复杂分析时,将HBase中的实时数据导出到Hive,利用Hive的SQL查询能力进行批量处理。这可以通过...

    hive综合应用案例-用户搜索日志分析.docx

    下面列举了几种典型的分析场景及其对应的SQL查询语句。 ##### 4.1 热门搜索词统计 统计每个搜索关键词的出现次数,找出热门搜索词: ```sql SELECT search_keyword, COUNT(*) AS search_count FROM search_logs ...

    Hive用户指南(Hive_user_guide)_中文版

    除了基本的数据存储和查询功能外,Hive还提供了丰富的数据管理功能,包括但不限于表的创建、修改、删除,以及数据的导入导出等操作。 #### 二、Hive基本操作 **2.1 createtable** - **总述**:`CREATE TABLE`命令...

Global site tag (gtag.js) - Google Analytics