`

HDFS fs命令

 
阅读更多

 

启动hadoop

[root@centos local]# start-all.sh
 查看进程
[root@centos local]# jps
3310 JobTracker
3008 NameNode
3120 DataNode
3471 TaskTracker
3230 SecondaryNameNode
3562 Jps
 hdfs命令都是以hadoop fs开头的,-ls表示查看hdfs目录,hdfs://centos:9000/是配置文件core-site.xml中所配置的地址,“/“表示根路径
[root@centos local]# hadoop fs -ls hdfs://centos:9000/
Warning: $HADOOP_HOME is deprecated.

Found 1 items
drwxr-xr-x   - root supergroup          0 2015-05-19 11:08 /usr
更简单的查询方式是省略路径,会通过core-site.xml自行查找hdfs路径
root@centos /]# hadoop fs -ls /
递归查看文件目录结构
[root@centos /]# hadoop fs -lsr hdfs://centos:9000/
arning: $HADOOP_HOME is deprecated.

drwxr-xr-x   - root supergroup          0 2015-05-19 11:08 /usr
drwxr-xr-x   - root supergroup          0 2015-05-19 11:08 /usr/local
drwxr-xr-x   - root supergroup          0 2015-05-19 11:08 /usr/local/hadoop
drwxr-xr-x   - root supergroup          0 2015-05-19 11:08 /usr/local/hadoop/tmp
drwxr-xr-x   - root supergroup          0 2015-05-20 04:18 /usr/local/hadoop/tmp/mapred
drwx------   - root supergroup          0 2015-05-20 04:18 /usr/local/hadoop/tmp/mapred/system
-rw-------   1 root supergroup          4 2015-05-20 04:18 /usr/local/hadoop/tmp/mapred/system/jobtracker.info
 创建一个文件夹,名称为file1
[root@centos /]# hadoop fs -mkdir /file1
Warning: $HADOOP_HOME is deprecated.

[root@centos /]# hadoop fs -ls /
Warning: $HADOOP_HOME is deprecated.
Found 2 items
drwxr-xr-x   - root supergroup          0 2015-05-20 04:48 /file1
drwxr-xr-x   - root supergroup          0 2015-05-19 11:08 /us
 上传文件,使用-put <源文件> <目标路径>
[root@centos /]# hadoop fs -put /usr/local/hadoop-1.1.2/conf/core-site.xml /file1
[root@centos /]# hadoop fs -ls /file1
Warning: $HADOOP_HOME is deprecated.
Found 1 items
-rw-r--r--   1 root supergroup        409 2015-05-20 04:54 /file1/core-site.xml
 下载文件,使用-get <源文件> <目标路径>
[root@centos /]# hadoop fs -get /file1/core-site.xml /root/Desktop
Warning: $HADOOP_HOME is deprecated.
 查看文件内容
[root@centos /]# hadoop fs -text /file1/core-site.xml
Warning: $HADOOP_HOME is deprecated.
<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<!-- Put site-specific property overrides in this file. -->

<configuration>
    <property>
        <name>fs.default.name</name>
        <value>hdfs://192.168.56.101:9000</value>
    </property>
    <property>
        <name>hadoop.tmp.dir</name>
        <value>/usr/local/hadoop/tmp</value>
    </property>
</configuration>
 删除文件,-rm只能删文件,不能删目录,递归删除-rmr
[root@centos /]# hadoop fs -rm/file1/core-site.xml
[root@centos /]# hadoop fs -rmr/file1 
 命令帮助,查看ls命令
[root@centos /]# hadoop fs -help ls
Warning: $HADOOP_HOME is deprecated.

-ls <path>:     List the contents that match the specified file pattern. If
                path is not specified, the contents of /user/<currentUser>
                will be listed. Directory entries are of the form
                        dirName (full path) <dir>
                and file entries are of the form
                        fileName(full path) <r n> size
                where n is the number of replicas specified for the file
                and size is the size of the file, in bytes.
 
总结
-help [cmd]	//显示命令的帮助信息
-ls(r) <path>	//显示当前目录下所有文件
-du(s) <path>	//显示目录中所有文件大小
-count[-q] <path>	//显示目录中文件数量
-mv <src> <dst>	//移动多个文件到目标目录
-cp <src> <dst>	//复制多个文件到目标目录
-rm(r)		//删除文件(夹)
-put <localsrc> <dst>	//本地文件复制到hdfs
-copyFromLocal	//同put
-moveFromLocal	//从本地文件移动到hdfs
-get [-ignoreCrc] <src> <localdst>	//复制文件到本地,可以忽略crc校验
-getmerge <src> <localdst>		//将源目录中的所有文件排序合并到一个文件中
-cat <src>	//在终端显示文件内容
-text <src>	//在终端显示文件内容
-copyToLocal [-ignoreCrc] <src> <localdst>	//复制到本地
-moveToLocal <src> <localdst>
-mkdir <path>	//创建文件夹
-touchz <path>	//创建一个空文件
 
 
 
 
 
分享到:
评论

相关推荐

    HDFSShell命令综合练习.pdf

    `hadoop fs -put`命令用于将本地文件上传到HDFS,例如`hadoop fs -put 文件 HDFS目录`。如`vi a.txt`编辑本地文件后,用`hadoop fs -put a.txt /opt/data`将其上传至HDFS。 4. **下载文件**: 可以通过`hadoop fs...

    HDFS基本命令.docx

    HDFS基本命令 HDFS(Hadoop Distributed File System)是一种分布式文件系统,提供了对大规模数据的存储和管理能力。在HDFS中,基本命令是最基础也是最常用的命令,掌握这些命令是使用HDFS的基础。本节我们将详细...

    第二章 HDFS的Shell操作.pptx

    HDFS的Shell操作,bin/hadoop fs 具体命令 OR bin/hdfs dfs 具体命令 dfs是fs的实现类等等。

    HDFS部署与Shell命令使用

    其中,`fs`命令用于基本的文件操作,`dfsadmin`用于管理HDFS集群的状态,`fsck`用于检查和维护文件系统的健康状态,而`balancer`则用于优化数据分布,提高系统的整体性能。这些工具和技术对于高效管理和使用HDFS至关...

    Hadoop HDFS_Shell命令详解.pdf

    FSShell 提供了一系列的文件系统命令,用于管理HDFS中的文件和目录。调用这些命令的基本格式为 `bin/hadoop fs &lt;args&gt;`。这里的 `&lt;args&gt;` 参数指代的是具体的命令选项。所有命令都接受 URI 形式的路径参数,其格式为...

    Hdfs基本操作1

    ` 和 `hdfsFS my_hdfsfs;` 初始化 HDFS 连接。 2. 设置 NameNode 信息:使用 `hdfsBuilderSetNameNode(pbld,masterip.c_str());` 和 `hdfsBuilderSetNameNodePort(pbld,masterport);` 设置 NameNode 的信息。 3. ...

    精品课程推荐 大数据与云计算教程课件 优质大数据课程 07.HDFS Shell命令(共21页).pptx

    - `hadoop fs` 和 `hadoop dfs` 是命令前缀,其中`fs`代表文件系统,`dfs`通常指代HDFS。在本地环境中,`fs`可能指的是本地文件系统,而`dfs`则特指HDFS。 - 命令参数通常是文件的URI路径,如`hadoop fs -ls /path...

    Hadoop fs命令详解.docx

    Hadoop fs命令是Hadoop分布式文件系统(HDFS)的命令行接口,提供了丰富的文件操作命令,方便用户管理和维护HDFS文件系统。本文将详细介绍Hadoop fs命令的使用方法和实践操作。 基本命令 hadoop fs命令的基本语法...

    HDFS文件系统基本文件命令、编程读写HDFS

    HDFS 文件系统基本文件命令、编程读写 HDFS HDFS(Hadoop Distributed File System)是一种分布式文件系统,用于存储和管理大规模数据。它是 Hadoop 云计算平台的核心组件之一,提供了高效、可靠、可扩展的数据存储...

    hdfs命令大全

    ### hdfs命令大全知识点 #### 一、概述 HDFS(Hadoop Distributed File System)是Hadoop项目的核心子项目之一,旨在为海量数据提供存储。HDFS有着高容错性的特点,并且设计用来部署在低廉的硬件上;而且它提供高...

    HDFS_HBaseShell的常用命令

    1. 将磁盘上的文件放到HDFS上:Hadoop fs -put /local /hdfs 2. 将HDFS上的文件放到磁盘上:Hadoop dfs -get /hdfs /local 3. 列出HDFS上的目录内容:Hadoop dfs –ls /hdfsDir 4. 删除HDFS下的文档:Hadoop dfs -...

    实验2模板-HDFS环境搭建及基本命令的使用

    实验2模板——HDFS环境搭建及基本命令的使用 实验目标: 本实验旨在帮助学生掌握Hadoop分布式文件系统(HDFS)的搭建过程,以及在HDFS环境中执行基本的文件操作命令。通过实践,学生将熟悉伪分布式环境的配置,学习...

    大数据教程-HDFS常用Shell命令.md.zip

    使用`hadoop fs -pwd`命令可以显示当前工作目录,它类似于Linux中的`pwd`命令,帮助用户了解当前在HDFS中的位置。 2. **列出目录内容(ls)**: 类似于Linux的`ls`命令,`hadoop fs -ls`用于列出指定目录下的文件...

    HDFS与管理命令手册.docx

    - **基础命令**:`bin/hadoop fs` 和 `bin/hdfs dfs` 均可用于执行HDFS的Shell命令。`dfs` 是 `fs` 的实现类。 - **查看命令描述**:使用 `-help` 参数可以查看命令的帮助信息。例如,`hadoop fs -help ls` 可以...

    HDFS实例基本操作

    1. 使用hadoop fs命令行工具:在命令行中,你可以使用`hadoop fs -put`命令将本地文件系统中的文件上传到HDFS。例如,`hadoop fs -put localfile hdfs://namenode:port/remote/path`将把`localfile`复制到HDFS的指定...

    hdfs,hbase命令原理介绍

    此外,还可以通过 `hadoop fs -setrep` 命令手动调整特定文件或目录的副本数。 - **数据均衡**:使用 `start-balancer.sh` 脚本启动数据均衡器,帮助优化数据分布。数据均衡可能因为多种原因而失败,如集群已平衡、...

    实验二:熟悉常用的HDFS操作

    实验二:“熟悉常用的HDFS操作”旨在帮助学习者深入理解Hadoop分布式文件系统(HDFS)在大数据处理中的核心地位,以及如何通过Shell命令和Java API进行高效操作。HDFS在Hadoop架构中扮演着存储大数据的核心角色,为...

    HDFS判断文件或目录是否存在——Shell命令实现 + Java代码实现

    一、Shell命令实现 第一步,启动Hadoop: start-dfs.sh 第二步,检测文件或目录是否存在: hdfs dfs -test -e 文件或目录名 第三步,查看检测结果: echo $? 若输出结果为0,则说明文件或目录存在,若为1,则说明...

    HDFS常用Shell命令

    本篇文章只是简单阐述一下HDFS中常用命令, 在实际开发中可使用 bin/hadoop fs查看命令详情 使用HDFS基本语法: bin/hadoop fs OR bin/hdfs dfs 注:为帮助快速理解并使用本文中使用T表示target 基本命令 1.启动...

Global site tag (gtag.js) - Google Analytics