启动hadoop
[root@centos local]# start-all.sh
查看进程
[root@centos local]# jps
3310 JobTracker
3008 NameNode
3120 DataNode
3471 TaskTracker
3230 SecondaryNameNode
3562 Jps
hdfs命令都是以hadoop fs开头的,-ls表示查看hdfs目录,hdfs://centos:9000/是配置文件core-site.xml中所配置的地址,“/“表示根路径
[root@centos local]# hadoop fs -ls hdfs://centos:9000/
Warning: $HADOOP_HOME is deprecated.
Found 1 items
drwxr-xr-x - root supergroup 0 2015-05-19 11:08 /usr
更简单的查询方式是省略路径,会通过core-site.xml自行查找hdfs路径
root@centos /]# hadoop fs -ls /
递归查看文件目录结构
[root@centos /]# hadoop fs -lsr hdfs://centos:9000/
arning: $HADOOP_HOME is deprecated.
drwxr-xr-x - root supergroup 0 2015-05-19 11:08 /usr
drwxr-xr-x - root supergroup 0 2015-05-19 11:08 /usr/local
drwxr-xr-x - root supergroup 0 2015-05-19 11:08 /usr/local/hadoop
drwxr-xr-x - root supergroup 0 2015-05-19 11:08 /usr/local/hadoop/tmp
drwxr-xr-x - root supergroup 0 2015-05-20 04:18 /usr/local/hadoop/tmp/mapred
drwx------ - root supergroup 0 2015-05-20 04:18 /usr/local/hadoop/tmp/mapred/system
-rw------- 1 root supergroup 4 2015-05-20 04:18 /usr/local/hadoop/tmp/mapred/system/jobtracker.info
创建一个文件夹,名称为file1
[root@centos /]# hadoop fs -mkdir /file1
Warning: $HADOOP_HOME is deprecated.
[root@centos /]# hadoop fs -ls /
Warning: $HADOOP_HOME is deprecated.
Found 2 items
drwxr-xr-x - root supergroup 0 2015-05-20 04:48 /file1
drwxr-xr-x - root supergroup 0 2015-05-19 11:08 /us
上传文件,使用-put <源文件> <目标路径>
[root@centos /]# hadoop fs -put /usr/local/hadoop-1.1.2/conf/core-site.xml /file1
[root@centos /]# hadoop fs -ls /file1
Warning: $HADOOP_HOME is deprecated.
Found 1 items
-rw-r--r-- 1 root supergroup 409 2015-05-20 04:54 /file1/core-site.xml
下载文件,使用-get <源文件> <目标路径>
[root@centos /]# hadoop fs -get /file1/core-site.xml /root/Desktop
Warning: $HADOOP_HOME is deprecated.
查看文件内容
[root@centos /]# hadoop fs -text /file1/core-site.xml
Warning: $HADOOP_HOME is deprecated.
<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<!-- Put site-specific property overrides in this file. -->
<configuration>
<property>
<name>fs.default.name</name>
<value>hdfs://192.168.56.101:9000</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/usr/local/hadoop/tmp</value>
</property>
</configuration>
删除文件,-rm只能删文件,不能删目录,递归删除-rmr
[root@centos /]# hadoop fs -rm/file1/core-site.xml
[root@centos /]# hadoop fs -rmr/file1
命令帮助,查看ls命令
[root@centos /]# hadoop fs -help ls
Warning: $HADOOP_HOME is deprecated.
-ls <path>: List the contents that match the specified file pattern. If
path is not specified, the contents of /user/<currentUser>
will be listed. Directory entries are of the form
dirName (full path) <dir>
and file entries are of the form
fileName(full path) <r n> size
where n is the number of replicas specified for the file
and size is the size of the file, in bytes.
总结
-help [cmd] //显示命令的帮助信息
-ls(r) <path> //显示当前目录下所有文件
-du(s) <path> //显示目录中所有文件大小
-count[-q] <path> //显示目录中文件数量
-mv <src> <dst> //移动多个文件到目标目录
-cp <src> <dst> //复制多个文件到目标目录
-rm(r) //删除文件(夹)
-put <localsrc> <dst> //本地文件复制到hdfs
-copyFromLocal //同put
-moveFromLocal //从本地文件移动到hdfs
-get [-ignoreCrc] <src> <localdst> //复制文件到本地,可以忽略crc校验
-getmerge <src> <localdst> //将源目录中的所有文件排序合并到一个文件中
-cat <src> //在终端显示文件内容
-text <src> //在终端显示文件内容
-copyToLocal [-ignoreCrc] <src> <localdst> //复制到本地
-moveToLocal <src> <localdst>
-mkdir <path> //创建文件夹
-touchz <path> //创建一个空文件
分享到:
相关推荐
`hadoop fs -put`命令用于将本地文件上传到HDFS,例如`hadoop fs -put 文件 HDFS目录`。如`vi a.txt`编辑本地文件后,用`hadoop fs -put a.txt /opt/data`将其上传至HDFS。 4. **下载文件**: 可以通过`hadoop fs...
HDFS基本命令 HDFS(Hadoop Distributed File System)是一种分布式文件系统,提供了对大规模数据的存储和管理能力。在HDFS中,基本命令是最基础也是最常用的命令,掌握这些命令是使用HDFS的基础。本节我们将详细...
HDFS的Shell操作,bin/hadoop fs 具体命令 OR bin/hdfs dfs 具体命令 dfs是fs的实现类等等。
其中,`fs`命令用于基本的文件操作,`dfsadmin`用于管理HDFS集群的状态,`fsck`用于检查和维护文件系统的健康状态,而`balancer`则用于优化数据分布,提高系统的整体性能。这些工具和技术对于高效管理和使用HDFS至关...
FSShell 提供了一系列的文件系统命令,用于管理HDFS中的文件和目录。调用这些命令的基本格式为 `bin/hadoop fs <args>`。这里的 `<args>` 参数指代的是具体的命令选项。所有命令都接受 URI 形式的路径参数,其格式为...
` 和 `hdfsFS my_hdfsfs;` 初始化 HDFS 连接。 2. 设置 NameNode 信息:使用 `hdfsBuilderSetNameNode(pbld,masterip.c_str());` 和 `hdfsBuilderSetNameNodePort(pbld,masterport);` 设置 NameNode 的信息。 3. ...
- `hadoop fs` 和 `hadoop dfs` 是命令前缀,其中`fs`代表文件系统,`dfs`通常指代HDFS。在本地环境中,`fs`可能指的是本地文件系统,而`dfs`则特指HDFS。 - 命令参数通常是文件的URI路径,如`hadoop fs -ls /path...
Hadoop fs命令是Hadoop分布式文件系统(HDFS)的命令行接口,提供了丰富的文件操作命令,方便用户管理和维护HDFS文件系统。本文将详细介绍Hadoop fs命令的使用方法和实践操作。 基本命令 hadoop fs命令的基本语法...
### hdfs命令大全知识点 #### 一、概述 HDFS(Hadoop Distributed File System)是Hadoop项目的核心子项目之一,旨在为海量数据提供存储。HDFS有着高容错性的特点,并且设计用来部署在低廉的硬件上;而且它提供高...
1. 将磁盘上的文件放到HDFS上:Hadoop fs -put /local /hdfs 2. 将HDFS上的文件放到磁盘上:Hadoop dfs -get /hdfs /local 3. 列出HDFS上的目录内容:Hadoop dfs –ls /hdfsDir 4. 删除HDFS下的文档:Hadoop dfs -...
实验2模板——HDFS环境搭建及基本命令的使用 实验目标: 本实验旨在帮助学生掌握Hadoop分布式文件系统(HDFS)的搭建过程,以及在HDFS环境中执行基本的文件操作命令。通过实践,学生将熟悉伪分布式环境的配置,学习...
使用`hadoop fs -pwd`命令可以显示当前工作目录,它类似于Linux中的`pwd`命令,帮助用户了解当前在HDFS中的位置。 2. **列出目录内容(ls)**: 类似于Linux的`ls`命令,`hadoop fs -ls`用于列出指定目录下的文件...
HDFS 文件系统基本文件命令、编程读写 HDFS HDFS(Hadoop Distributed File System)是一种分布式文件系统,用于存储和管理大规模数据。它是 Hadoop 云计算平台的核心组件之一,提供了高效、可靠、可扩展的数据存储...
- **基础命令**:`bin/hadoop fs` 和 `bin/hdfs dfs` 均可用于执行HDFS的Shell命令。`dfs` 是 `fs` 的实现类。 - **查看命令描述**:使用 `-help` 参数可以查看命令的帮助信息。例如,`hadoop fs -help ls` 可以...
1. 使用hadoop fs命令行工具:在命令行中,你可以使用`hadoop fs -put`命令将本地文件系统中的文件上传到HDFS。例如,`hadoop fs -put localfile hdfs://namenode:port/remote/path`将把`localfile`复制到HDFS的指定...
此外,还可以通过 `hadoop fs -setrep` 命令手动调整特定文件或目录的副本数。 - **数据均衡**:使用 `start-balancer.sh` 脚本启动数据均衡器,帮助优化数据分布。数据均衡可能因为多种原因而失败,如集群已平衡、...
实验二:“熟悉常用的HDFS操作”旨在帮助学习者深入理解Hadoop分布式文件系统(HDFS)在大数据处理中的核心地位,以及如何通过Shell命令和Java API进行高效操作。HDFS在Hadoop架构中扮演着存储大数据的核心角色,为...
一、Shell命令实现 第一步,启动Hadoop: start-dfs.sh 第二步,检测文件或目录是否存在: hdfs dfs -test -e 文件或目录名 第三步,查看检测结果: echo $? 若输出结果为0,则说明文件或目录存在,若为1,则说明...
本篇文章只是简单阐述一下HDFS中常用命令, 在实际开发中可使用 bin/hadoop fs查看命令详情 使用HDFS基本语法: bin/hadoop fs OR bin/hdfs dfs 注:为帮助快速理解并使用本文中使用T表示target 基本命令 1.启动...