`
半点玻璃心
  • 浏览: 27365 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

HBase 0.96配置 snappy(绝对有效哦亲)

阅读更多
通常情况下,snappy压缩算法无非是hbase 最好的伴侣,不过这里不介绍 snappy 算法,也不介绍如何安装 snappy,这里只记录如何给 hbase 0.96X-hadoop2版本开启 snappy 支持。如果你在尝试为 hbase 96+hadoop2开启 snappy 压缩的时候遇到
java.lang.RuntimeException: native snappy library not available: this version of libhadoop was built without snappy support.

恭喜你,本文就是你需要的良方妙药,全国包邮的!

网上介绍的资料大多是提供94版本的 hbase的解决方案,包括官方的 wiki,不幸的是小弟一一试过,没有一个是顶用的,诸如:
     在 hbase-env.sh 里面 export LD_LIBRARY_PATH或者HBASE_LIBRARY_PATH,这是不顶用的。
     把 hadoop的 lib/native/xxx和 libsnappy.XXX拷贝到 hbase 对应目录下,这也是不顶用的。
     下载 hadoop-snappy自行编译?完全没有必要,因为从hadoop 1.1.X 版本以后 hadoop-snappy 就已经是 hadoop-common 的一部分了。
     异常说的很清楚,你的 hadoop native 包不支持 snappy!需要重新编译你的 hadoop 才行。编译填坑指南见http://dennis-lee-gammy.iteye.com/admin/blogs/2009982,你唯一需要做的就是将
mvn package -Pdist,native -DskipTests -Dtar -rf :hadoop-common  
加上 -Drequire.snappy ,剩下的一切照旧。
     然后,打完,收工。
分享到:
评论
5 楼 pinkmoon 2015-05-06  
  
4 楼 半点玻璃心 2015-01-21  
dsx1013 写道
你好,我有snappy 源码安装,没有指定安装目录,默认安装路径/usr/local/lib
hadoop,我也用这个命令mvn package -Drequire.snappy -Pdist,native,src -DskipTests -Dtar 编译了64的成功了。
请问剩下我应该怎么做,配置那些地方,你说的哪些不顶用的我也说过,确实不顶用,请问剩下该如何操作呢

剩下的?剩下的就是吧 lib 包放到一个目录下,在 hbase-env.sh 里面配置 lib 路径就是,比如export JAVA_LIBRARY_PATH="$HBASE_HOME/lib/native/Linux-amd64:"$JAVA_LIBRARY_PATH
3 楼 dsx1013 2015-01-12  
你好,我有snappy 源码安装,没有指定安装目录,默认安装路径/usr/local/lib
hadoop,我也用这个命令mvn package -Drequire.snappy -Pdist,native,src -DskipTests -Dtar 编译了64的成功了。
请问剩下我应该怎么做,配置那些地方,你说的哪些不顶用的我也说过,确实不顶用,请问剩下该如何操作呢
2 楼 半点玻璃心 2014-12-08  
推文7 写道
你好,我也遇到了这个问题,能否麻烦把您编译的hadoop发给我一份吗。我的邮箱:1217478791@qq.com  谢谢

发给你了。刚看见你的留言,希望来得及
1 楼 推文7 2014-11-05  
你好,我也遇到了这个问题,能否麻烦把您编译的hadoop发给我一份吗。我的邮箱:1217478791@qq.com  谢谢

相关推荐

    hadoop2.6及hbase0.96伪分布式安装配置文件

    在IT领域,Hadoop和HBase是大数据处理和存储的重要工具。Hadoop 2.6是Apache Hadoop的第2个主要版本,它提供了一种分布式文件系统...熟悉这些步骤和配置文件将帮助你有效地搭建和管理Hadoop和HBase的开发或测试环境。

    Hadoop2.2+Zookeeper3.4.5+HBase0.96集群环境搭建

    为搭建Hadoop2.2+Zookeeper3.4.5+HBase0.96集群环境,需要至少3台Linux机器,建议使用Centos6.4 64位操作系统,每台机器建议配置不低于4G内存和10G磁盘空间。 软件方面,需要安装jdk-7u55-linux-x64.rpm、apache-...

    hadoop2.2+hbase0.96+hive0.12 安装文档

    综合以上信息,用户在进行hadoop2.2+hbase0.96+hive0.12的集成安装时,应该详细检查各个组件的版本兼容性,确保系统权限设置正确,按照实践指南执行相关配置步骤,并正确设置和使用MySQL数据库作为元数据存储。...

    hbase 的java代码 集合 hbase 0.96

    1. **连接HBase**:在Java代码中,我们使用`HBaseConfiguration.create()`来创建一个配置对象,然后可以设置各种配置参数,如Zookeeper的地址(`HBASE_ZOOKEEPER_QUORUM`),端口(`HBASE_ZOOKEEPER_CLIENT_PORT`)...

    HBase0.96+zookeeper3.4.5安装配置(基于HADOOP2.2)

    本篇内容将详细讲解如何在Hadoop 2.2的基础上安装配置HBase 0.96和ZooKeeper 3.4.5。首先,我们需要了解这两个组件的基本概念和作用。 **ZooKeeper的安装与配置** 1. **下载与解压**:首先,从官方网站获取...

    hadoop2.2.0+Hbase0.96+hive0.12详细配置

    本文将详细介绍如何在Linux环境下搭建Hadoop2.2.0、HBase0.96和Hive0.12的集群环境。 首先,我们从Hadoop的安装开始。Hadoop2.2.0是Apache官方稳定版,可以从官方网站或镜像站点下载。下载完成后,将其上传到Linux...

    Hadoop HBase 配置 安装 Snappy 终极教程

    本文将深入探讨如何配置和安装Hadoop HBase以及集成Snappy,以优化大数据处理的效率。 首先,我们需要理解Hadoop的环境配置。Hadoop的配置涉及多个文件,如`core-site.xml`、`hdfs-site.xml`和`mapred-site.xml`。...

    hadoop2完全分布式及整合hbase0.96安装文档

    资源名称:hadoop2完全分布式及整合hbase0.96安装文档   内容简介:  首先说一下这个安装过程需要注意的地方一、使用新建用户可能会遇到的问题(1)权限问题:对于新手经常使用root,刚开始可以使用,...

    hadoop2.2 hbase0.96 hive0.12安装整合详细高可靠文档及经验总结

    ### hadoop2.2、hbase0.96与hive0.12的安装整合及高可靠部署 #### 一、Hadoop2.2的安装与配置 **1.1 安装前准备** - **操作系统环境**: Linux系统(推荐CentOS 6.x) - **JDK安装**: Hadoop依赖于JDK运行,需先...

    hbase-0.96 jar包

    这个“hbase-0.96 jar包”是HBase 0.96版本的二进制发行版,它包含了运行和开发HBase应用所需的所有库文件。HBase 0.96是一个重要的里程碑,因为它在性能和稳定性上都有显著提升,特别是在处理大规模数据集时。 ...

    hadoop2.2+hbase0.96+hive0.12安装整合详细高可靠文档及经验总结

    ### hadoop2.2+hbase0.96+hive0.12安装整合详细高可靠文档及经验总结 #### 一、Hadoop2.2的安装 **问题导读:** 1. Hadoop的安装需要安装哪些软件? 2. Hadoop与HBase整合需要注意哪些问题? 3. Hive与HBase的...

    VMware10+CentOS6.5+Hadoop2.2+Zookeeper3.4.6+HBase0.96安装过程详解

    VMware10+CentOS6.5+Hadoop2.2+Zookeeper3.4.6+HBase0.96安装过程详解 用于解决分布式集群服务器

    王家林hadoop2完全分布式最新高可靠安装文档及整合hbase0.96安装指导

    本文档由王家林老师详细的介绍了 hadoop2.2完全分布式 及整合hbase0.96 安装步骤,图文并茂。

    hadoop2完全分布式最新高可靠安装文档及整合hbase0.96安装

    hadoop2完全分布式最新高可靠安装文档及整合hbase0.96中文安装详解,新手必备!

    Hbase设置Snappy压缩测试

    标题中的“Hbase设置Snappy压缩测试”表明我们要探讨的是如何在HBase中配置Snappy压缩,这是一种常见的数据压缩技术,常用于提升大数据存储和处理的效率。Snappy以其较高的解压速度和较低的压缩率著称,尤其适用于...

    VMware10+CentOS6.5+Hadoop2.2+Zookeeper3.4.6+HBase0.96安装过程详解.pdf

    VMware10+CentOS6.5+Hadoop2.2+Zookeeper3.4.6+HBase0.96安装过程详解.pdf

    HBase集群配置SNAPPY压缩

    1 介绍 大数据时代,海量数据的存储和分析是一个巨大的挑战...主流的HBase压缩方式有LZO和Snappy,Snappy的压缩比会稍微优于LZO,具体的对比,可参考这篇文章:http://www.cnblogs.com/zhengrunjian/p/4527165.html Sna

    CentOS-6.4 64位系统下hadoop-2.2.0+hbase-0.96+zookeeper-3.4.5 分布式安装配置

    在本文中,我们将深入探讨如何在CentOS-6.4 64位操作系统上配置一个基于Hadoop 2.2.0、HBase 0.96和Zookeeper 3.4.5的分布式环境。这个过程涉及到多个步骤,包括系统设置、软件安装、配置以及服务启动。 首先,为了...

    大数据技术基础实验报告-HBase安装配置和应用实践.doc

    【大数据技术基础实验报告-HBase安装配置和应用实践】 这篇实验报告主要涵盖了HBase的安装、配置以及基本应用,这是大数据技术中一个重要的组件,它是一个分布式的、面向列的数据库,尤其适合处理大规模的数据。 1...

    hbase 权限配置.docx

    HBase 权限配置详解 HBase 权限配置是指在 HBase 中对用户的访问控制和权限管理。通过配置 HBase 权限,可以对不同的用户或组授予不同的权限,以确保数据的安全和可靠性。 一、HBase 权限配置的重要性 HBase 权限...

Global site tag (gtag.js) - Google Analytics