`
501311837
  • 浏览: 18444 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

Hadoop常用命令

阅读更多

笔者所用的版本是hadoop-2.2.0

1、列出所有Hadoop Shell支持的命令
  $ bin/hdfs fs -help

2、显示关于某个命令的详细信息
  $ bin/hdfs dfs -help ls(查看ls命令的详细信息)

3、 格式化一个新的分布式文件系统:
  $ bin/hdfs namenode -format

4、 将zkstop.sh文件放入到hadoop集群中

$ bin/hdfs dfs -put /home/hadoop/zkstop.sh /input

5.将集群置于安全模式  

$ bin/hdfs dfsadmin -safemode enter

6.显示Datanode详细列表  

$ bin/hdfs dfsadmin -report

7.使Datanode节点 datanodename退役   

  $ bin/hdfs dfsadmin -decommission datanodename

8.$ bin/hdfs dfsadmin -help 命令能列出所有当前支持的命令。比如:

    * -report:报告HDFS的基本统计信息。有些信息也可以在NameNode Web服务首页看到。

    * -safemode:虽然通常并不需要,但是管理员的确可以手动让NameNode进入或离开安全模式。

 

    * -finalizeUpgrade:删除上一次升级时制作的集群备份。

9.运行HDFS文件系统检查工具(fsck tools)

用法:hdfs fsck [GENERIC_OPTIONS] <path> [-move | -delete | -openforwrite] [-files [-blocks [-locations | -racks]]]
命令选项     描述
<path>      检查的起始目录。
-move             移动受损文件到/lost+found
-delete     删除受损文件。
-openforwrite     打印出写打开的文件。
-files             打印出正被检查的文件。
-blocks     打印出块信息报告。
-locations     打印出每个块的位置信息。
-racks             打印出data-node的网络拓扑结构。

10、将hadoop上某个文件down至本地已有目录下

hdfs dfs -get [文件目录] [本地目录]

hdfs dfs –get /user/t/ok.txt /home/t

11、删除hadoop上指定文件 

hdfs dfs –rm [文件地址]

hdfs dfs –rm /user/t/ok.txt

12、将正在运行的hadoop作业kill掉

hdfs job –kill [job-id]

分享到:
评论

相关推荐

    Hadoop常用命令.pdf

    &gt; hadoop jar test-1.0-SNAPSHOT-jar-with-dependencies.jar /user/test/input /user/test/out 2.运行Jar包指定类中的主函数 &gt; java -cp test-1.0-SNAPSHOT-jar-with-dependencies.jar com.test.main.MainTest

    hadoop常用命令详解,配有例子说明

    hadoop的常用命令详解,并配有例子说明详细信息

    hadoop常用命令

    这篇文档将详细介绍Hadoop的常用命令,以及如何在Windows环境下进行Hadoop的开发和操作。 首先,我们来了解一下Hadoop的基本命令。`hadoop fs`是Hadoop文件系统(HDFS)的交互接口,用于执行文件系统操作,如`ls`...

    Hadoop Shell命令大全

    下面将详细介绍一些常用命令的使用方法和示例: 1. cat命令:用于查看HDFS文件内容,命令格式为hadoop fs -cat URI [URI …]。例如,查看文件的内容,可以使用命令: ``` hadoop fs -cat hdfs://host1:port1/file...

    Hadoop的xmind的入门笔记

    【Hadoop的xmind入门笔记概述】 Hadoop是Apache软件基金会开发的一个开源分布式计算框架,主要处理和存储大规模数据。这个“Hadoop的xmind入门笔记”系列涵盖了从基础概念到高级应用的全面学习路径,旨在帮助初学者...

    hadoop大数据常用命令

    ### Hadoop大数据常用命令知识点详解 #### 一、启动与关闭Hadoop集群 **启动Hadoop** - **步骤**: 进入HADOOP_HOME目录,然后执行`sh bin/start-all.sh`。 - **作用**: 启动Hadoop集群,包括DataNodes和NameNode。...

    hadoop和HBase常用shell命令

    Hadoop 和 HBase 常用 shell 命令 在大数据处理中,Hadoop 和 HBase 是两个非常重要的组件。Hadoop 是一个分布式计算框架,用于处理大规模数据,而 HBase 是一个基于 Hadoop 的分布式数据库,用于存储和处理大规模...

    Hadoop shell常用命令

    该文档记录了在linux的shell环境下执行的hadoop的相关操作命令,包括多hafs文件的相关操作

    Hadoop集群部署、实战等相关培训资料

    接下来是《Hadoop常用命令.docx》,这是一份实用的工具文档,列举了Hadoop生态系统中常用的命令行工具,如hdfs dfs、hadoop fs、hadoop jar等,这些命令对于日常操作Hadoop集群至关重要。通过学习这些命令,用户可以...

    Hadoop-HDFS常用命令

    Hadoop-HDFS常用命令

    Hadoop HDFS分布式文件系统 常用命令汇总

    Hadoop HDFS分布式文件系统常用命令汇总 Hadoop HDFS分布式文件系统是大数据存储和处理的核心组件。作为一个分布式文件系统,HDFS提供了高可靠性、高可扩展性和高性能的存储解决方案。在使用HDFS时,经常需要执行...

    Linux常用的操作命令+hadoop安装指导.docx

    ### Linux常用的操作命令+hadoop安装指导 #### Linux用户与权限管理相关知识点 ##### 了解Linux用户与权限管理的重要性 在Linux系统中,用户管理和权限控制是确保系统安全性和稳定性的重要手段之一。通过合理地...

    【大数据】Hadoop常用启动命令.pdf

    本文主要讨论了在Hadoop环境中常用的启动和停止命令,这对于管理和维护Hadoop集群至关重要。Hadoop的组件主要包括HDFS(Hadoop分布式文件系统)和MapReduce,它们通过一系列守护进程协同工作。 Hadoop的启动和停止...

    hadoop 命令大全

    #### 二、常用Hadoop命令详解 **1. 查看支持的命令** 通过命令`$bin/hadoop fs -help`可以列出所有Hadoop Shell支持的命令及其简短的描述。 **2. 显示特定命令的帮助信息** 如果想要了解某个命令的具体使用方法...

    hadoop操作命令设置

    为了提升工作效率,简化Hadoop的日常操作,可以通过设置别名(alias)来将Hadoop的常用操作命令调整为更加熟悉、易于记忆的格式。下面,我们将详细探讨如何通过设置别名来优化Hadoop的操作体验。 ### 设置Hadoop...

    Hadoop面试45个题目及答案.pdf

    Hadoop常用命令 * `jps` 命令可以检查Namenode、Datanode、Task Tracker、Job Tracker是否正常工作。 * `fsck` 命令可以检查文件系统的完整性。 * `etc init.d` 命令可以检查守护进程(服务)的位置或状态。 ...

    hadoop大数据基础学习

    #### 五、Hadoop常用命令及操作 1. **HDFS命令**: - `hdfs dfs -ls`:列出目录下的文件。 - `hdfs dfs -put`:上传文件到HDFS。 - `hdfs dfs -get`:从HDFS下载文件。 2. **MapReduce命令**: - `hadoop jar ...

Global site tag (gtag.js) - Google Analytics