`
jianzong2000
  • 浏览: 56065 次
  • 性别: Icon_minigender_1
  • 来自: 南京
文章分类
社区版块
存档分类
最新评论

hbase的snappy安装

 
阅读更多

自己编译了hbase的snappy包,出现了几个问题。

主要是报UnsatisfiedLinkError: org.apache.hadoop.util.NativeCodeLoader.buildSupportsSnappy

 

参考http://grokbase.com/t/hbase/user/13435f3f02/failing-to-get-snappy-working-hours-now-native-snappy-library-not-available-help

其中提到

Make sure the path to the libhadoop SO is on LD_LIBRARY_PATH。

也就是libhadoopsnappy.so要依赖于libhadoop.so并且要配置上面提到的路径,并且要在安装 snappy后再编译libhadoop,否则也会报错。

另外还提到了libhadoopsnappy.a不是必须的。

分享到:
评论

相关推荐

    Hadoop HBase 配置 安装 Snappy 终极教程

    本文将深入探讨如何配置和安装Hadoop HBase以及集成Snappy,以优化大数据处理的效率。 首先,我们需要理解Hadoop的环境配置。Hadoop的配置涉及多个文件,如`core-site.xml`、`hdfs-site.xml`和`mapred-site.xml`。...

    Hbase设置Snappy压缩测试

    标题中的“Hbase设置Snappy压缩测试”表明我们要探讨的是如何在HBase中配置Snappy压缩,这是一种常见的数据压缩技术,常用于提升大数据存储和处理的效率。Snappy以其较高的解压速度和较低的压缩率著称,尤其适用于...

    Hadoop集群上Snappy压缩算法的安装配置

    七、 验证 Snappy 在 HBase 中是否安装成功 1. 在 HBase 中,使用 Snappy 压缩算法压缩数据。 2. 验证压缩后的数据是否正确。 Snappy 压缩算法的安装配置在 Hadoop 集群上是一个复杂的过程,需要满足前置条件,并...

    hadoop3.x带snappy(可用于windows本地开发)

    【描述】"编译过的hadoop3.0版本,安装了snappy压缩"意味着这个版本的Hadoop已经集成了Snappy压缩库,这使得用户可以在处理大数据时利用Snappy的优势来优化性能。Snappy以其低开销和快速的压缩与解压缩速度而闻名,...

    hadoop snappy编译安装包

    对于Hadoop 2.4.1和HBase 0.98.3,你需要确保你的环境中已经正确安装了Snappy库。这通常涉及以下几个步骤: 1. 下载Snappy源代码,如snappy-1.1.1。 2. 解压并进入源码目录。 3. 配置编译环境,可能需要安装必要的...

    hadoop-snappy-0.0.1-SNAPSHOT.tar.gz

    本文将深入探讨"Hadoop hbase支持snappy压缩jar包"的相关知识,包括Snappy的特性、如何编译以及如何在HBase中集成和使用。 一、Snappy压缩库介绍 Snappy是由Google开发的一种快速、轻量级的压缩和解压缩库,主要...

    HBase集群配置SNAPPY压缩

    1 介绍 大数据时代,海量数据的存储和分析是一个巨大的挑战...主流的HBase压缩方式有LZO和Snappy,Snappy的压缩比会稍微优于LZO,具体的对比,可参考这篇文章:http://www.cnblogs.com/zhengrunjian/p/4527165.html Sna

    Hbase 的shell基本操作

    - 修改customer表的base列族下的内容使用snappy压缩:`alter 'ns1:customer', {NAME => 'base'}, {COMPRESSION => 'snappy'}`。 在使用压缩功能前,需要先禁用表,修改完成后使用enable命令恢复。 以上操作涵盖了...

    hadoop2.7.4-snappy

    不过,HBase在默认配置下不支持Snappy压缩算法,由于版权问题,HBase在安装时并不包含所有可能的压缩库。例如,使用Hadoop自带的checknative工具可以发现系统当前支持哪些压缩库。通常情况下,snappy的so文件不会被...

    Hadoop2.7.1+Hbase1.2.1集群环境搭建(7)hbase 性能优化

    HBase支持多种压缩算法,如GZ、LZO、Snappy等。 6. **并行操作**:通过MapReduce或Spark等工具进行批量数据处理,利用并行计算提升效率。 7. **HBase运维参考**:在提供的“hbase运维参考手册(项目实战).docx”文...

    Hbase中文文档

    SNAPPY C.6. Changing Compression Schemes D. YCSB: The Yahoo! Cloud Serving Benchmark and HBase E. HFile format version 2 E.1. Motivation E.2. HFile format version 1 overview E.3. HBase file format ...

    Hbase_2.0.3免费下载

    下载并安装HBase 2.0.3后,用户可以通过配置文件设置HBase与Hadoop、Zookeeper的连接,并创建表、插入数据。在使用过程中,应注意合理规划表结构,选择合适的分区策略,以及优化数据访问模式,以充分利用HBase的优势...

    HBase应用最佳实践详解.pdf

    * 启用压缩:使用GZIP、Snappy、LZO等压缩算法可以提高HBase的性能 * MemStore缓存配置: MemStore缓存可以提高HBase的性能 * Region拆分和合并:预建分区可以避免自动split,提高HBase的响应速度 * Region均衡:...

    HBase应用最佳实践详解.pptx

    HBase的安装涉及到多个步骤,首先需要安装Hadoop,确保HBase与Zookeeper、Hadoop版本兼容。在本地模式下,所有守护进程都在单个节点上运行,适用于学习和测试。而在集群模式下,守护进程分布于不同的物理节点,以...

    docker-snappy-test:使用Docker运行针对不同分支和构建类型的快照基准测试的测试

    docker-snappy-test 使用Docker运行针对不同分支和构建类型的快照基准测试的测试如何使用为了使测试运行,只需运行命令docker build . 在同一文件夹下。

    HBase多表关联查找资料

    * 压缩算法:可以使用 Snappy 算法,相比 LZO 算法,压缩率接近,压缩效率稍高,解压效率高很多。 * inmemory:表在内存中存放,可以提高查询速度,但需要注意内存使用率。 * bloomfilter:根据应用需求,判断是否...

    谷歌官网的snappy

    Snappy is a compression/decompression library. It does not aim for maximum compression, or compatibility with any other compression library; instead, it aims for very high speeds and reasonable ...

    浅谈HBASE数据结构设计.pdf

    - 压缩:HBase支持多种数据压缩算法(如Snappy、GZIP等),能够显著减少存储空间,提高读写性能。 - 高可用性:HBase利用Hadoop的高可用性机制和ZooKeeper来保证集群服务的持续可用性,即使***r或RegionServer宕机,...

    hbase学习笔记

    - `compression`: 列族的压缩类型,如GZ或SNAPPY。 - `dataBlockEncoding`: 数据块的编码方式。 - `inMemory`和`blockCacheEnabled`: 是否将数据存储在内存或缓存中。 - `blocksize`: 存储文件的块大小。 - `...

    hbase技术分享

    压缩配置则可以用来减少存储空间和提高I/O效率,HBase提供了多种压缩算法,如Snappy和GZip等。 此外,HBase的Demo程序能够实现数据的导入导出,常见的操作包括: - CellCounter:统计HBase表中的单元格数量。 - ...

Global site tag (gtag.js) - Google Analytics