`

(转)hadoop hdfs常用命令

 
阅读更多
hadoop hdfs常用命令
 
hadoop常用命令: 
hadoop fs 
查看Hadoop HDFS支持的所有命令 
 
hadoop fs –ls 
列出目录及文件信息 
 
hadoop fs –lsr 
循环列出目录、子目录及文件信息 
 
hadoop fs –put test.txt /user/sunlightcs 
将本地文件系统的test.txt复制到HDFS文件系统的/user/sunlightcs目录下 
 
hadoop fs –get /user/sunlightcs/test.txt . 
将HDFS中的test.txt复制到本地文件系统中,与-put命令相反 
 
hadoop fs –cat /user/sunlightcs/test.txt 
查看HDFS文件系统里test.txt的内容 
 
hadoop fs –tail /user/sunlightcs/test.txt 
查看最后1KB的内容 
 
hadoop fs –rm /user/sunlightcs/test.txt 
从HDFS文件系统删除test.txt文件,rm命令也可以删除空目录 
 
hadoop fs –rmr /user/sunlightcs 
删除/user/sunlightcs目录以及所有子目录 
 
hadoop fs –copyFromLocal test.txt /user/sunlightcs/test.txt 
从本地文件系统复制文件到HDFS文件系统,等同于put命令 
 
hadoop fs –copyToLocal /user/sunlightcs/test.txt test.txt 
从HDFS文件系统复制文件到本地文件系统,等同于get命令 
 
hadoop fs –chgrp [-R] /user/sunlightcs 
修改HDFS系统中/user/sunlightcs目录所属群组,选项-R递归执行,跟linux命令一样 
 
hadoop fs –chown [-R] /user/sunlightcs 
修改HDFS系统中/user/sunlightcs目录拥有者,选项-R递归执行 
 
hadoop fs –chmod [-R] MODE /user/sunlightcs 
修改HDFS系统中/user/sunlightcs目录权限,MODE可以为相应权限的3位数或+/-{rwx},选项-R递归执行 
 
hadoop fs –count [-q] PATH 
查看PATH目录下,子目录数、文件数、文件大小、文件名/目录名 
 
hadoop fs –cp SRC [SRC …] DST      
将文件从SRC复制到DST,如果指定了多个SRC,则DST必须为一个目录 
 
hadoop fs –du PATH 
显示该目录中每个文件或目录的大小 
 
hadoop fs –dus PATH 
类似于du,PATH为目录时,会显示该目录的总大小 
 
hadoop fs –expunge 
清空回收站,文件被删除时,它首先会移到临时目录.Trash/中,当超过延迟时间之后,文件才会被永久删除 
 
hadoop fs –getmerge SRC [SRC …] LOCALDST [addnl]     
获取由SRC指定的所有文件,将它们合并为单个文件,并写入本地文件系统中的LOCALDST,选项addnl将在每个文件的末尾处加上一个换行符 
 
hadoop fs –touchz PATH  
创建长度为0的空文件 
 
hadoop fs –test –[ezd] PATH    
对PATH进行如下类型的检查: 
-e PATH是否存在,如果PATH存在,返回0,否则返回1 
-z 文件是否为空,如果长度为0,返回0,否则返回1 
-d 是否为目录,如果PATH为目录,返回0,否则返回1 
 
hadoop fs –text PATH 
显示文件的内容,当文件为文本文件时,等同于cat,文件为压缩格式(gzip以及hadoop的二进制序列文件格式)时,会先解压缩 
 
hadoop fs –help ls 
查看某个[ls]命令的帮助文档
 
原文地址:http://www.2cto.com/database/201303/198460.html  原文作者:mainmonkey
分享到:
评论

相关推荐

    Hadoop-HDFS常用命令

    Hadoop-HDFS常用命令

    Hadoop HDFS分布式文件系统 常用命令汇总

    Hadoop HDFS分布式文件系统常用命令汇总 Hadoop HDFS分布式文件系统是大数据存储和处理的核心组件。作为一个分布式文件系统,HDFS提供了高可靠性、高可扩展性和高性能的存储解决方案。在使用HDFS时,经常需要执行...

    Hadoop HDFS_Shell命令详解.pdf

    #### 其他常用命令 ##### get **使用方法**: `hadoop fs -get URI <localdst>` 该命令用于从 HDFS 下载文件到本地文件系统。 ##### getmerge **使用方法**: `hadoop fs -getmerge <src> <dst>` 合并多个文件为一个...

    大数据技术基础实验报告-HDFS常用操作命令.doc

    本实验报告主要关注HDFS的常用操作命令,这些命令是管理员和数据分析师日常工作中不可或缺的工具。 实验开始时,通过执行`start-dfs.sh`命令启动HDFS服务。这是在Hadoop集群中启动所有DataNode和NameNode节点的关键...

    I001-hadoophdfs-mkdirs.7z

    其他常用命令还包括: - `-ls`:列出目录内容。 - `-put`:将本地文件系统上的文件或目录上传到HDFS。 - `-get`:将HDFS上的文件或目录下载到本地文件系统。 - `-rm`:删除HDFS上的文件或目录。 - `-mv`:移动或...

    Hadoop HDFS初级部分

    **常用命令**: - `hdfs dfs -ls /`:列出根目录下的文件和目录。 - `hdfs dfs -put localfile /`:将本地文件`localfile`上传到HDFS的根目录下。 - `hdfs dfs -cat /filename`:查看HDFS中的文件内容。 - `hdfs dfs...

    Hadoop中一些hdfs的命令

    下面详细介绍一些常用的HDFS命令及其用法: ##### 2.1 创建目录 - **语法**: `hdfs dfs -mkdir [-p] <path>` - `-mkdir`: 创建指定的目录。 - `-p`: 如果指定,则允许创建多级目录。 **示例**: ```shell # ...

    hadoop大数据常用命令

    ### Hadoop大数据常用命令知识点详解 #### 一、启动与关闭Hadoop集群 **启动Hadoop** - **步骤**: 进入HADOOP_HOME目录,然后执行`sh bin/start-all.sh`。 - **作用**: 启动Hadoop集群,包括DataNodes和NameNode。...

    数据科学导论实验报告 实验2:熟悉常用的HDFS操作

    实验内容包括编程实现HDFS操作以及使用Hadoop的Shell命令来完成相同任务。 首先,我们需要理解HDFS的基本操作,如上传文件、追加内容和覆盖文件。这些操作在大数据处理场景中至关重要,因为它们允许我们高效地管理...

    hadoop的hdfs笔记

    ### Hadoop HDFS模块知识点详解 #### 一、HDFS简介 Hadoop Distributed ...以上就是关于Hadoop HDFS模块的基础知识和常用命令的详细介绍。掌握这些命令将有助于我们在实际工作中更加高效地使用Hadoop进行数据处理。

    hadoop常用命令

    这篇文档将详细介绍Hadoop的常用命令,以及如何在Windows环境下进行Hadoop的开发和操作。 首先,我们来了解一下Hadoop的基本命令。`hadoop fs`是Hadoop文件系统(HDFS)的交互接口,用于执行文件系统操作,如`ls`...

    HDFS_HBaseShell的常用命令

    HDFS常用命令: 1. 将磁盘上的文件放到HDFS上:Hadoop fs -put /local /hdfs 2. 将HDFS上的文件放到磁盘上:Hadoop dfs -get /hdfs /local 3. 列出HDFS上的目录内容:Hadoop dfs –ls /hdfsDir 4. 删除HDFS下的文档...

    高级软件人才培训专家-Hadoop课程资料-2-第二章 - 分布式存储 Hadoop HDFS

    常用命令包括: - `hdfs dfs -put <localfile> <remotedir>`:将本地文件上传到HDFS指定路径。 - `hdfs dfs -get <remotedir> <localdir>`:将HDFS中的文件下载到本地。 - `hdfs dfs -ls <remotedir>`:列出HDFS...

    实验二:熟悉常用的HDFS操作

    实验二:“熟悉常用的HDFS操作”旨在帮助学习者深入理解Hadoop分布式文件系统(HDFS)在大数据处理中的核心地位,以及如何通过Shell命令和Java API进行高效操作。HDFS在Hadoop架构中扮演着存储大数据的核心角色,为...

    HDFS基本命令.docx

    在HDFS中,基本命令是最基础也是最常用的命令,掌握这些命令是使用HDFS的基础。本节我们将详细介绍HDFS中的基本命令。 -help命令 HDFS中的-help命令用于显示HDFS的帮助信息。该命令可以显示所有可用的命令和参数。...

    大数据教程-HDFS常用Shell命令.md.zip

    使用`hadoop fs -pwd`命令可以显示当前工作目录,它类似于Linux中的`pwd`命令,帮助用户了解当前在HDFS中的位置。 2. **列出目录内容(ls)**: 类似于Linux的`ls`命令,`hadoop fs -ls`用于列出指定目录下的文件...

    Hadoop Shell命令大全

    下面将详细介绍一些常用命令的使用方法和示例: 1. cat命令:用于查看HDFS文件内容,命令格式为hadoop fs -cat URI [URI …]。例如,查看文件的内容,可以使用命令: ``` hadoop fs -cat hdfs://host1:port1/file...

    Hadoop(HDFS文件系统)命令操作

    **2.3 常用命令实操** - **-help**:输出这个命令的参数帮助信息。例如: ```bash bin/hdfs dfs -help rm ``` - **-ls**:显示目录信息。例如: ```bash hadoop fs -ls / ``` - **-mkdir**:在 HDFS 上创建...

    为hdfs配置kerberos

    本文档记录了为 Hadoop 的 HDFS 配置 Kerberos 的过程,Hadoop 的版本是 2.4.1。Kerberos 是一种常用的身份验证协议,用于提供安全的身份验证机制。在 Hadoop 中,Kerberos 可以用于 HDFS 和 MapReduce 的安全认证。...

    大数据实验二-HDFS编程实践

    2. **Shell命令的掌握**:熟练掌握了HDFS常用Shell命令后,可以在日常运维或数据处理过程中快速高效地执行任务。 3. **Java API的应用**:Java API提供了更高级的功能支持,如并发处理、错误恢复等,对于开发高性能...

Global site tag (gtag.js) - Google Analytics