`

hdfs mount为linux本地文件系统

 
阅读更多

1、软件下载

hdfs-webdav.war

http://code.google.com/p/hdfs-webdav/downloads/list

把war包放到tomcat下面,启动tomcat会自动解压该war包,在/usr/tomcat6/webapps/hdfs-webdav/linux_mount_lib/目录下有fuse-2.7.4.tar.gz和neon-0.28.3.tar.gz,所以下面的包也可以不用下载

 

neon

http://www.webdav.org/neon/neon-0.29.6.tar.gz

fuse

http://sourceforge.net/projects/fuse/files/fuse-2.X/2.8.7/

2、软件安装

yum install gcc

yum install libxml*

tar -zxvf neon-0.28.3.tar.gz

cd /usr/tomcat6/webapps/hdfs-webdav/linux_mount_lib/neon-0.28.3

./configure

make

make install

 

cd ..

tar zxvf davfs2-1.3.3.tar.gz

cd davfs2-1.3.3

./configure

make

make install

 

cd ..

tar zxvf fuse-2.7.4.tar.gz

cd fuse-2.7.4
./configure
make
make install


vim /usr/tomcat6/webapps/hdfs-webdav/WEB-INF/classes/hadoop-site.xml

 <property>
   <name>fs.default.name</name>
   <value>hdfs://10.0.30.235:9000/</value>
   <description>namenode</description>
 </property>

 

scp 10.0.30.151:/download/hadoop-0.20.203.0/hadoop-core-0.20.203.0.jar /usr/tomcat6/webapps/hdfs-webdav/WEB-INF/lib/

并删除掉lib目录下旧的hadoop jar包

 

scp 10.0.30.151:/download/hadoop-0.20.203.0/lib/commons-configuration-1.6.jar /usr/tomcat6/webapps/hdfs-webdav/WEB-INF/lib

 

启动hadoop集群

 

启动tomcat

访问http://113.105.131.240/hdfs-webdav



 

在tomcat服务器上创建一下信息

mkdir /download/hdfs
groupadd davfs2
useradd -g davfs2 davfs2
mount -t davfs http://10.0.30.151/hdfs-webdav /download/hdfs
cd /download/hdfs

ls


 

至此,扩展hadoop hdfs,实现WebDav协议,并将hdfs mount为linux本地文件系统成功!

  • 大小: 42.4 KB
  • 大小: 7.1 KB
分享到:
评论
1 楼 rmn190 2012-08-26  
不错, 多谢分享!

相关推荐

    hdfs-mount:将HDFS挂载为本地Linux文件系统的工具

    允许将远程HDFS挂载为本地Linux文件系统,并允许任意应用程序/ Shell脚本以有效且安全的方式将HDFS作为普通文件和目录进行访问。 功能(计划中) 高性能 使用协议缓冲区直接为FUSE和HDFS连接Linux内核(不需要Java...

    Linux系统设计-hdfs-mount 把hdfs文件系统挂载到Linux本地文件系统,实现了大部分的操作

    它继承了Unix以网络为核心的设计思想,是一个性能稳定的多用户网络操作系统,Linux是许多企业和服务提供商的首选操作系统,用于部署Web服务器、数据库服务器、邮件服务器等。Linux系统具有高效的网络功能和稳定的...

    hdfs-webdav.rar_hadoop_hadoop webdav_hadoop 系统_hadoop2.0 d_hdfs

    6. linux_mount_lib:可能包含Linux系统下挂载HDFS或WebDAV的相关脚本和库文件。 综上所述,这个压缩包可能包含如何在Hadoop 2.0环境下,通过WebDAV实现HDFS的远程访问和挂载为NFS的详细步骤、源代码示例、配置文件...

    nfs-utils-1.1.1.tar.gz_nfs utils_nfs-utils

    2. `nfsd`:这是NFS服务器的主要组件,处理来自客户端的文件系统请求,并将这些请求转发到本地文件系统。 3. `/etc/exports`:这是NFS服务器的配置文件,定义了哪些目录可以被共享,以及对这些目录的访问控制规则。...

    大数据教程-Hadoop伪分布式安装.pdf

    根据提供的文件内容,知识点可以从以下...- 格式化HDFS文件系统。 - 启动Hadoop集群。 以上知识点涵盖了操作系统准备工作、配置yum源、Linux命令操作和网络信息提供等多个方面,是安装Hadoop伪分布式环境的必要步骤。

    如何编译fuse-dfs

    完成上述步骤后,就可以将HDFS挂载到本地文件系统上了。 1. 进入`$HADOOP_HOME/build/contrib/fuse_dfs`目录。 2. 执行挂载命令。 ```bash ./fuse_dfs_wrapper.sh dfs://namenodeIP地址:9000/mnt/dfs ``` 其中`...

    Hadoop on redhat enterprise 5.4部署安装手记

    9. 初始化HDFS文件系统,执行`hadoop namenode -format`。 10. 启动Hadoop服务,包括DataNode、NameNode、ResourceManager和NodeManager。 11. 测试Hadoop集群,如运行WordCount示例程序验证安装是否成功。 在实际...

    2013年中国数据库大会-04-小米hadoop/hbase微实践

    而在操作系统层面,小米使用了Linux内核版本2.6.32,调整了ulimit设置,对ext4文件系统进行了微调,设置了mount参数,关闭了文件系统的访问时间记录,使用了tune2fs命令进行优化,并启用了NTP服务。此外,还关闭了...

    hadoop迁移数据应用实例详解

    接着使用`mkfs -t ext4 /dev/sdc1`将分区格式化为ext4文件系统,最后使用`mount /dev/sdc1 /disk5`将分区挂载到指定目录(如/disk5)。 二、Hadoop命令的使用 1. **配置环境变量** 要在终端中使用Hadoop命令,...

    Ubuntu 14.04下NFS安装配置

    Ubuntu 14.04 下 NFS 安装配置 NFS(Network File System)是一种允许不同主机之间共享文件...NFS 是一种文件目录共享模式,以本地方式进行访问,而 HDFS 是一种分布式的文件系统,能够在服务器中进行数据的负载均衡。

Global site tag (gtag.js) - Google Analytics