hadoop hdfs常用命令
hadoop常用命令:
hadoop fs
查看Hadoop HDFS支持的所有命令
hadoop fs –ls
列出目录及文件信息
hadoop fs –lsr
循环列出目录、子目录及文件信息
hadoop fs –put test.txt /user/sunlightcs
将本地文件系统的test.txt复制到HDFS文件系统的/user/sunlightcs目录下
hadoop fs –get /user/sunlightcs/test.txt .
将HDFS中的test.txt复制到本地文件系统中,与-put命令相反
hadoop fs –cat /user/sunlightcs/test.txt
查看HDFS文件系统里test.txt的内容
hadoop fs –tail /user/sunlightcs/test.txt
查看最后1KB的内容
hadoop fs –rm /user/sunlightcs/test.txt
从HDFS文件系统删除test.txt文件,rm命令也可以删除空目录
hadoop fs –rmr /user/sunlightcs
删除/user/sunlightcs目录以及所有子目录
hadoop fs –copyFromLocal test.txt /user/sunlightcs/test.txt
从本地文件系统复制文件到HDFS文件系统,等同于put命令
hadoop fs –copyToLocal /user/sunlightcs/test.txt test.txt
从HDFS文件系统复制文件到本地文件系统,等同于get命令
hadoop fs –chgrp [-R] /user/sunlightcs
修改HDFS系统中/user/sunlightcs目录所属群组,选项-R递归执行,跟linux命令一样
hadoop fs –chown [-R] /user/sunlightcs
修改HDFS系统中/user/sunlightcs目录拥有者,选项-R递归执行
hadoop fs –chmod [-R] MODE /user/sunlightcs
修改HDFS系统中/user/sunlightcs目录权限,MODE可以为相应权限的3位数或+/-{rwx},选项-R递归执行
hadoop fs –count [-q] PATH
查看PATH目录下,子目录数、文件数、文件大小、文件名/目录名
hadoop fs –cp SRC [SRC …] DST
将文件从SRC复制到DST,如果指定了多个SRC,则DST必须为一个目录
hadoop fs –du PATH
显示该目录中每个文件或目录的大小
hadoop fs –dus PATH
类似于du,PATH为目录时,会显示该目录的总大小
hadoop fs –expunge
清空回收站,文件被删除时,它首先会移到临时目录.Trash/中,当超过延迟时间之后,文件才会被永久删除
hadoop fs –getmerge SRC [SRC …] LOCALDST [addnl]
获取由SRC指定的所有文件,将它们合并为单个文件,并写入本地文件系统中的LOCALDST,选项addnl将在每个文件的末尾处加上一个换行符
hadoop fs –touchz PATH
创建长度为0的空文件
hadoop fs –test –[ezd] PATH
对PATH进行如下类型的检查:
-e PATH是否存在,如果PATH存在,返回0,否则返回1
-z 文件是否为空,如果长度为0,返回0,否则返回1
-d 是否为目录,如果PATH为目录,返回0,否则返回1
hadoop fs –text PATH
显示文件的内容,当文件为文本文件时,等同于cat,文件为压缩格式(gzip以及hadoop的二进制序列文件格式)时,会先解压缩
hadoop fs –help ls
查看某个[ls]命令的帮助文档
原文地址:http://www.2cto.com/database/201303/198460.html 原文作者:mainmonkey
相关推荐
Hadoop-HDFS常用命令
Hadoop HDFS分布式文件系统常用命令汇总 Hadoop HDFS分布式文件系统是大数据存储和处理的核心组件。作为一个分布式文件系统,HDFS提供了高可靠性、高可扩展性和高性能的存储解决方案。在使用HDFS时,经常需要执行...
#### 其他常用命令 ##### get **使用方法**: `hadoop fs -get URI <localdst>` 该命令用于从 HDFS 下载文件到本地文件系统。 ##### getmerge **使用方法**: `hadoop fs -getmerge <src> <dst>` 合并多个文件为一个...
本实验报告主要关注HDFS的常用操作命令,这些命令是管理员和数据分析师日常工作中不可或缺的工具。 实验开始时,通过执行`start-dfs.sh`命令启动HDFS服务。这是在Hadoop集群中启动所有DataNode和NameNode节点的关键...
其他常用命令还包括: - `-ls`:列出目录内容。 - `-put`:将本地文件系统上的文件或目录上传到HDFS。 - `-get`:将HDFS上的文件或目录下载到本地文件系统。 - `-rm`:删除HDFS上的文件或目录。 - `-mv`:移动或...
**常用命令**: - `hdfs dfs -ls /`:列出根目录下的文件和目录。 - `hdfs dfs -put localfile /`:将本地文件`localfile`上传到HDFS的根目录下。 - `hdfs dfs -cat /filename`:查看HDFS中的文件内容。 - `hdfs dfs...
下面详细介绍一些常用的HDFS命令及其用法: ##### 2.1 创建目录 - **语法**: `hdfs dfs -mkdir [-p] <path>` - `-mkdir`: 创建指定的目录。 - `-p`: 如果指定,则允许创建多级目录。 **示例**: ```shell # ...
### Hadoop大数据常用命令知识点详解 #### 一、启动与关闭Hadoop集群 **启动Hadoop** - **步骤**: 进入HADOOP_HOME目录,然后执行`sh bin/start-all.sh`。 - **作用**: 启动Hadoop集群,包括DataNodes和NameNode。...
实验内容包括编程实现HDFS操作以及使用Hadoop的Shell命令来完成相同任务。 首先,我们需要理解HDFS的基本操作,如上传文件、追加内容和覆盖文件。这些操作在大数据处理场景中至关重要,因为它们允许我们高效地管理...
### Hadoop HDFS模块知识点详解 #### 一、HDFS简介 Hadoop Distributed ...以上就是关于Hadoop HDFS模块的基础知识和常用命令的详细介绍。掌握这些命令将有助于我们在实际工作中更加高效地使用Hadoop进行数据处理。
这篇文档将详细介绍Hadoop的常用命令,以及如何在Windows环境下进行Hadoop的开发和操作。 首先,我们来了解一下Hadoop的基本命令。`hadoop fs`是Hadoop文件系统(HDFS)的交互接口,用于执行文件系统操作,如`ls`...
HDFS常用命令: 1. 将磁盘上的文件放到HDFS上:Hadoop fs -put /local /hdfs 2. 将HDFS上的文件放到磁盘上:Hadoop dfs -get /hdfs /local 3. 列出HDFS上的目录内容:Hadoop dfs –ls /hdfsDir 4. 删除HDFS下的文档...
常用命令包括: - `hdfs dfs -put <localfile> <remotedir>`:将本地文件上传到HDFS指定路径。 - `hdfs dfs -get <remotedir> <localdir>`:将HDFS中的文件下载到本地。 - `hdfs dfs -ls <remotedir>`:列出HDFS...
实验二:“熟悉常用的HDFS操作”旨在帮助学习者深入理解Hadoop分布式文件系统(HDFS)在大数据处理中的核心地位,以及如何通过Shell命令和Java API进行高效操作。HDFS在Hadoop架构中扮演着存储大数据的核心角色,为...
在HDFS中,基本命令是最基础也是最常用的命令,掌握这些命令是使用HDFS的基础。本节我们将详细介绍HDFS中的基本命令。 -help命令 HDFS中的-help命令用于显示HDFS的帮助信息。该命令可以显示所有可用的命令和参数。...
使用`hadoop fs -pwd`命令可以显示当前工作目录,它类似于Linux中的`pwd`命令,帮助用户了解当前在HDFS中的位置。 2. **列出目录内容(ls)**: 类似于Linux的`ls`命令,`hadoop fs -ls`用于列出指定目录下的文件...
下面将详细介绍一些常用命令的使用方法和示例: 1. cat命令:用于查看HDFS文件内容,命令格式为hadoop fs -cat URI [URI …]。例如,查看文件的内容,可以使用命令: ``` hadoop fs -cat hdfs://host1:port1/file...
**2.3 常用命令实操** - **-help**:输出这个命令的参数帮助信息。例如: ```bash bin/hdfs dfs -help rm ``` - **-ls**:显示目录信息。例如: ```bash hadoop fs -ls / ``` - **-mkdir**:在 HDFS 上创建...
本文档记录了为 Hadoop 的 HDFS 配置 Kerberos 的过程,Hadoop 的版本是 2.4.1。Kerberos 是一种常用的身份验证协议,用于提供安全的身份验证机制。在 Hadoop 中,Kerberos 可以用于 HDFS 和 MapReduce 的安全认证。...
2. **Shell命令的掌握**:熟练掌握了HDFS常用Shell命令后,可以在日常运维或数据处理过程中快速高效地执行任务。 3. **Java API的应用**:Java API提供了更高级的功能支持,如并发处理、错误恢复等,对于开发高性能...