`
cumtheima
  • 浏览: 256239 次
  • 性别: Icon_minigender_1
  • 来自: 南京
社区版块
存档分类
最新评论

hive学习总结(2)—Hive几种导出数据方式

    博客分类:
  • Hive
阅读更多

1.拷贝文件

 

如果数据文件恰好是用户需要的格式,那么只需要拷贝文件或文件夹就可以。

hadoop fs –cp source_path target_path

 

2.导出到本地文件系统

 

--不能使用insert into local directory来导出数据,会报错

--只能使用insert overwrite local directory来导出数据

 

--hive0.11版本之前,只能使用默认分隔符^A(ascii码是\00001)

insert overwrite local directory '/home/sopdm/wrk'

select id,name,tel,age from sopdm.wyp;

 

--hive0.11版本之后,可以指定分隔符

insert overwrite local directory '/home/sopdm/wrk'

row format delimited

fields terminated by ','

select id,name,tel,age from sopdm.wyp;

 

--导出数据到多个输出文件夹

from employees se

insert overwrite local directory ‘/tmp/or_employees’

     select * se where se.cty=’US’ and se.st=’OR’

insert overwrite local directory ‘/tmp/ca_employees’

     select * se where se.cty=’US’ and se.st=’CA’

 

3.导出到HDFS

 

--比导出文件到本地文件系统少了一个local

insert overwritedirectory '/home/sopdm/wrk'

select id,name,tel,age from sopdm.wyp;

 

--hive0.11版本之后,可以指定分隔符

insert overwritedirectory '/home/sopdm/wrk'

row format delimited

fields terminated by ','

select id,name,tel,age from sopdm.wyp;

 

4.导出到hive的另一张表


insert into table sopdm.wyp2

partition(age='25')

select id,name,tel,age from sopdm.wyp;

 

5.使用hive的-e和-f参数命令导出数据

 

--使用hive-e参数

hive –e “select * from wyp” >> /local/wyp.txt

 

--使用hive-f参数, wyp.hql中为hql语句

hive –f wyp.hql >> /local/wyp2.txt

 

6.导出到关系型数据库

    放在sqoop中讲。

1
0
分享到:
评论
1 楼 cumtheima 2014-11-21  
写的不好,请多包涵!

相关推荐

    Hive几种数据导出方式 – 过往记忆

    Hive几种数据导出方式,总结的几种方式希望能帮到大家

    oracle,teradata,hive,gbase,db2数据库导出csv命令总结

    除了上述方法之外,Oracle 还提供了 `EXP` 命令用于数据备份,它可以通过以下几种方式导出数据: - **完全导出**:`EXP SYSTEM/MANAGER BUFFER=64000 FILE=C:\FULL.DMP FULL=Y`,需要特殊权限。 - **用户模式导出**...

    datax数据从hive导入mysql数据缺失解决

    ### DataX 数据从 Hive 导入 MySQL 数据缺失解决 #### 背景介绍 在大数据处理领域,Hive 和 MySQL 分别作为数据仓库与关系型数据库的重要组成部分,在数据流转过程中承担着关键角色。Hive 通常用于存储海量数据并...

    大数据-数据迁移-hive、hbase、kudu迁移

    本文档详细记录了一次从自建Hadoop集群到华为云MRS(Managed Service for Big Data)的大规模数据迁移项目,涉及到了Hive、Kudu和HBase这三种不同类型的数据存储系统。以下是针对这些系统的迁移策略、流程和解决方案...

    HIVE从入门到精通

    为了解决这一问题,Hive应运而生,它提供了一种更高级别的SQL-like语言(HQL,Hive Query Language),使得非专业MapReduce程序员也能便捷地进行大数据分析。 【Hive的定义】 Hive的核心功能是将结构化的数据文件...

    Hive用户指南 Hive user guide 中文版

    Hive作为构建在Hadoop之上的数据仓库系统,其主要功能是提供一种简单易用的方式来处理存储在Hadoop HDFS中的大量数据。通过Hive,用户可以使用类似于SQL的查询语言(HiveQL)来查询数据,而不需要深入了解底层的...

    HIVE文件读写

    在IT行业中,Hive是一个基于Hadoop的数据仓库工具,它允许用户使用SQL(HQL,Hive查询语言)对大规模数据集进行分析和处理。Hive文件读写是Hive核心功能之一,使得数据分析师和数据科学家能够方便地对存储在HDFS...

    HIVE数据库解析vc编写

    8. **数据导入导出**:VC程序可能需要与Hive之间进行数据交换,理解如何将本地数据加载到Hive,或者从Hive导出数据到本地文件系统,是另一个重要的方面。 通过深入理解以上知识点,VC程序员可以有效地编写代码来...

    Hive 学习资料

    - **数据提取、转换、加载(ETL)**:Hive 提供了一种简单而高效的方式来处理大量数据的导入导出,能够支持各种数据格式之间的转换。 - **查询和分析能力**:HiveQL 支持大部分 SQL 功能,使得用户可以通过类 SQL ...

    Apache-Hive-Cookbook

    《Apache Hive Cookbook》是针对大数据处理领域中Apache Hive的一款实用指南,主要面向数据分析师、数据科学家以及对大数据处理感兴趣的IT专业人员。这本书的英文版在2016年发布,提供了一个全面且深入的视角来理解...

    源码主要用于学习:1. Spring Boot+Hadoop+Hive+Hbase实现数据基本操作,Hive数据源使.zip

    Hadoop可能用于存储和处理大量原始数据,而Hive作为数据仓库层,提供了一种结构化的方式来管理和分析这些数据。HBase则可能被用于需要快速访问的特定数据子集,例如实时查询或更新。 项目中的具体实现可能包括以下...

    《企业级Hive实战课程》大纲

    - 几种Join方式(ReduceJoin、MapJoin、SMBJoin)的工作原理与适用场景; - PredicatePushdown(PPD)的作用与实现; - 数据倾斜现象的诊断与解决策略; - 分区使用的优化方法。 2. **实战案例** - 通过具体的...

    hbase与hive数据同步共4页.pdf.zip

    HBase与Hive的数据同步主要有两种常见方式:单向同步和双向同步。 1. 单向同步: - HBase到Hive:通常在需要进行复杂分析时,将HBase中的实时数据导出到Hive,利用Hive的SQL查询能力进行批量处理。这可以通过...

    hive综合应用案例-用户搜索日志分析.docx

    下面列举了几种典型的分析场景及其对应的SQL查询语句。 ##### 4.1 热门搜索词统计 统计每个搜索关键词的出现次数,找出热门搜索词: ```sql SELECT search_keyword, COUNT(*) AS search_count FROM search_logs ...

    配置后的hive-1.1.0-cdh5.7.0.tar.gz

    Hive的主要功能包括数据导入、数据导出、数据转换以及复杂查询,它为大数据分析提供了一个便捷的接口。 Hive的核心组件主要有以下几个: 1. **Hive Metastore**:负责存储Hive表的元数据,如表结构、分区信息、...

    Hive用户指南(Hive_user_guide)_中文版

    除了基本的数据存储和查询功能外,Hive还提供了丰富的数据管理功能,包括但不限于表的创建、修改、删除,以及数据的导入导出等操作。 #### 二、Hive基本操作 **2.1 createtable** - **总述**:`CREATE TABLE`命令...

    大数据入门HIVE和MySQL安装包

    在大数据领域,Hive和MySQL是两种非常重要的数据存储和管理工具。Hive作为一个数据仓库工具,能够将结构化的数据文件映射为一张数据库表,并提供SQL(HQL)查询功能,适合处理大规模的数据集。而MySQL则是一种关系型...

    Hive on Spark 离线数仓生成的原始数据

    在大数据处理领域,Hive on Spark 是一种将 Apache Hive 的执行引擎替换为 Apache Spark 的解决方案,从而提升数据处理性能和效率。Hive 提供了一种SQL-like 的查询语言(HQL)来操作大规模数据,而Spark则是一个...

Global site tag (gtag.js) - Google Analytics