`
gaojingsong
  • 浏览: 1182271 次
  • 性别: Icon_minigender_1
  • 来自: 深圳
文章分类
社区版块
存档分类
最新评论

【Impala 介绍】

阅读更多

一、Impala介绍


 

Apache Impala (incubating) is the open source, native analytic database

for Apache Hadoop. Impala is shipped by Cloudera, MapR, Oracle, and Amazon.

 

Impala是Cloudera公司主导开发的新型查询系统,它提供SQL语义,能查询存储在Hadoop的HDFS和HBase中的PB级大数据。已有的Hive系统虽然也提供了SQL语义,但由于Hive底层执行使用的是MapReduce引擎,仍然是一个批处理过程,难以满足查询的交互性。相比之下,Impala的最大特点也是最大卖点就是它的快速。

 

二、Impala优点

Impala不需要把中间结果写入磁盘,省掉了大量的I/O开销。

省掉了MapReduce作业启动的开销。MapReduce启动task的速度很慢(默认每个心跳间隔是3秒钟),Impala直接通过相应的服务进程来进行作业调度,速度快了很多。

Impala完全抛弃了MapReduce这个不太适合做SQL查询的范式,而是像Dremel一样借鉴了MPP并行数据库的思想另起炉灶,因此可做更多的查询优化,从而省掉不必要的shuffle、sort等开销。

通过使用LLVM来统一编译运行时代码,避免了为支持通用编译而带来的不必要开销。

用C++实现,做了很多有针对性的硬件优化,例如使用SSE指令。

使用了支持Data locality的I/O调度机制,尽可能地将数据和计算分配在同一台机器上进行,减少了网络开销。

  • 大小: 21.3 KB
0
1
分享到:
评论

相关推荐

    impala基础介绍

    ### Impala基础知识详解 #### 一、Impala简介与核心价值 **Impala**是由Cloudera开发的一款高性能、水平可扩展的SQL查询引擎,它为Hadoop平台提供了实时数据分析的能力。Impala的设计目的是为了弥补传统Hadoop ...

    impala介绍ppt

    Impala是基于Hive的大数据实时分析查询引擎,直接使用Hive的元数据库Metadata,意味着impala元数据都存储在Hive的metastore中。并且impala兼容Hive的sql解析,实现了Hive的SQL语义的子集,功能还在不断的完善中

    大数据基础操作说明-HADOOP HIVE IMPALA

    Impala 介绍 Impala 是一个基于 Hadoop 的一个分布式SQL查询引擎,用于快速查询和分析大规模数据。Impala 提供了一个 SQL like 的查询语言,用于查询和分析数据。 支持的命令 Impala 支持多种类型的命令,包括 ...

    10-1+Impala+落地&优化:神策数据多维分析平台构建实战.pdf

    1. **Impala介绍**:Impala是一个开源的、分布式的SQL查询引擎,用于分析存储在Hadoop生态系统中的大数据。它允许用户直接对HDFS或Kudu数据进行交互式查询,无需预先将数据导入到另一个系统,如Hive。 2. **BI和SDK*...

    大规模数据查询Hive及Impala技术原理及架构.pdf

    **一、IMPALA介绍** Impala 是 Cloudera 开发的一个查询引擎,它直接在 Hadoop 分布式文件系统 (HDFS) 上执行 SQL 查询,提供了比传统 MapReduce 更快的速度。 1. **特性** - **并行处理**:Impala 利用了 Hadoop...

    Apache Impala Guide impala-3.3.pdf

    在开始介绍Apache Impala之前,首先要了解它的优势。Impala带来了更快的查询速度,减少了对复杂性架构的依赖。它能够直接在Hadoop的分布式文件系统HDFS和HBase上运行,与Hive无缝协作,并充分利用Hadoop的资源管理器...

    impala-3.4.pdf

    “Impala Concepts and Architecture”和“Impala Features”部分则可能详细介绍了Impala的架构组成,例如Impala Server的各个组件:Impala Daemon(守护进程)、Impala Statestore(状态存储)和Impala Catalog ...

    impala cookbook详解版

    Impala Cookbook 是一本关于 Impala 的深入指南,涵盖了 Impala 的物理和 Schema 设计、内存使用量、物理设置等方面的详细介绍。下面是对 Impala Cookbook 的详细解释: 物理和 Schema 设计 在 Impala 中,物理和...

    impala实用参考手册

    8. Impala的主要特点:文档简要介绍了Impala的核心特点,这些特点包括对Hadoop生态系统的深度整合、实时查询能力、标准SQL支持以及高性能的架构设计等,这些都是Impala在大数据查询领域中作为关键优势的体现。...

    Impala安装,亲测

    在本文档中,我们将详细介绍 Impala 的安装过程,包括 MASTER 节点和 WORKER 节点的安装配置。 Impala 安装 在开始安装 Impala 之前,需要确保已经安装了 Hadoop 环境。 Impala 安装推荐使用 yum 安装,具体的安装...

    impala_jdbc.zip

    Cloudera提供的"Cloudera-JDBC-Driver-for-Impala-Install-Guide.pdf"安装指南详细介绍了如何下载、配置和使用Impala JDBC驱动。首先,你需要下载对应版本的JDBC驱动,如"Cloudera_ImpalaJDBC41_2.5.38"或"Cloudera_...

    jdbc 通过impala 连接hive库

    本篇文章将详细讲解如何通过Impala JDBC连接到Hive库,并介绍相关的POM配置。 首先,让我们理解JDBC。JDBC是Java中用于与各种数据库交互的一套标准API,它允许Java开发者使用SQL语句来操作数据库。对于Hive和Impala...

    BIEE配置ODBC连接impala

    本文将详细介绍如何在 Linux 环境下配置 BIEE 使用 DataDirect ODBC 连接至 Impala 数据库。 #### 二、配置环境概述 - **BIEE 版本**:OBIEE 12.2.1 或 12.2.1.1 - **ODBC 版本**:DataDirect 7.1.4 或 7.1.5 - **...

    impala3.0参考英文版

    对于已经使用Impala的用户,升级指南详细介绍了如何升级到Impala 3.0,包括升级过程中需要考虑的因素,例如保留字列表的更新、默认的Decimal V2的使用、列别名的行为变化以及PARQUET_ARRAY_RESOLUTION的默认设置变化...

    Getting Started with Impala 电子书

    它会介绍如何使用Impala进行数据建模,创建表和分区,以及如何管理元数据。此外,还会讨论如何结合Hive、Hue等其他Hadoop组件,构建一个完整的数据分析工作流。 在实际操作部分,书中的章节可能会涵盖使用Impala...

    impala-uuid创建教程

    本文将详细介绍如何在Impala中创建一个用户自定义函数(User Defined Function, UDF),用于生成不带连字符的UUID。 #### 二、环境准备与依赖配置 为了创建和使用Impala中的UDF,我们需要准备相应的开发环境,并...

    尚硅谷大数据技术之 Impala1

    【尚硅谷大数据技术之 ...通过以上介绍,我们可以了解到Impala作为大数据查询和分析工具的重要性和特点,以及如何在CDH环境中进行安装和管理。Impala的高性能和低延迟特性使其在大数据实时分析领域具有广泛的应用价值。

    利用Impala+Kudu构建准实时分析应用

    Kudu是Cloudera开源的新型列式存储系统,Apache Hadoop生态...本演讲主要对Kudu的动机、背景,以及架构进行简单介绍,并通过实际的应用场景介绍Impala+Kudu的组合实现通过SQL技术对快速变化的数据实现准实时分析的能力

    CDH4里的Impala安装使用文档

    通过以上介绍可以看出,Cloudera Impala 不仅是一款功能强大的实时查询引擎,而且其与 Hive 的高度集成特性也极大地简化了用户的学习曲线。对于需要处理大量结构化或半结构化数据的企业而言,Impala 的引入无疑是一...

    JDBC_Impala 2.5.43 jar包.zip

    本文将详细介绍如何使用JDBC连接Impala数据库,以及针对"JDBC_Impala 2.5.43 jar包.zip"这个压缩包中的内容进行解析。 Impala是Cloudera公司开发的一个开源、高性能的SQL查询引擎,它可以直接在Hadoop的数据集上...

Global site tag (gtag.js) - Google Analytics