`
lxl8129
  • 浏览: 3101 次
  • 性别: Icon_minigender_1
  • 来自: 南京
最近访客 更多访客>>
社区版块
存档分类
最新评论
阅读更多
命令:
使用hadoop相关命令需要先进入hadoop安装的根目录。

在cygwin中访问windows盘,比如访问d盘命令:
cd /cygdrive/d

进入hadoop根目录:(我的安装目录:e:\hadoop\run)
cd /cygdrive/e/hadoop/run

然后就可以在cygwin提供的模拟linux环境下执行hadoop命令。

在运行hadoop命令的过程中:bin/hadoop version
结果出现形如“./bin/hadoop:Line 2:$'r':Command Not Found ”的错误,需要运行如下命令修复shell文件:
dos2unix bin/hadoop
dos2unix bin/*.sh
dos2unix conf/*.sh
如此,方可无错误的运行hadoop命令。


伪分布式模式的操作方法 [size=large][/size]
Hadoop 可以在单节点上以所谓的伪分布式模式运行,此时每一个Hadoop 守护进
程都作为一个独立的Java 进程运行。
配置
使用如下的 conf/hadoop-site.xml:
<configuration>
  <property>
    <name>fs.default.name</name>
    <value>localhost:9000</value>
  </property>
  <property>
    <name>mapred.job.tracker</name>
    <value>localhost:9001</value>
  </property>
  <property>
    <name>dfs.replication</name>
    <value>1</value>
  </property>
</configuration>
免密码 ssh 设置
现在确认能否不输入口令就用ssh 登录 localhost:
$ ssh localhost 
如果不输入口令就无法用ssh 登陆 localhost,执行下面的命令
$ ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa 
$ cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys 
执行
格式化一个新的分布式文件系统:
$ bin/hadoop namenode -format 
启动Hadoop 守护进程:
$ bin/start-all.sh 
Hadoop 守护进程的日志写入到 ${HADOOP_LOG_DIR} 目录 (默认是
${HADOOP_HOME}/logs).
浏览NameNode 和 JobTracker 的网络接口,它们的地址默认为:
  NameNode - http://localhost:50070/ 
  JobTracker - http://localhost:50030/  
可以分别进入其管理界面
分享到:
评论

相关推荐

    Hadoop命令手册

    在使用Hadoop命令时,有一些通用选项适用于大多数命令: - `--config confdir`: 该选项允许用户指定一个替代的配置目录,默认情况下,配置文件位于`${HADOOP_HOME}/conf`。 - `-conf &lt;configurationfile&gt;`: 指定一个...

    Hadoop命令使用手册中文版

    ### Hadoop命令使用手册中文版知识点详解 #### 一、Hadoop概述 Hadoop是一款开源软件框架,主要用于处理大规模数据集(通常在集群环境中)。它能够高效地存储和处理非常大的数据集,使得用户能够在相对较低成本的...

    hadoop 命令大全

    ### Hadoop命令大全详解 #### 一、Hadoop配置与环境变量设置 **1....Hadoop的配置文件对于整个系统的稳定...以上就是Hadoop命令大全的主要内容,通过对这些命令的学习和掌握,可以帮助用户更好地管理和使用Hadoop集群。

    hadoop命令手册

    用户可以把他们的 Map Reduce 代码捆绑到 jar 文件中,使用这个命令执行。用法:hadoop jar &lt;jar&gt; [mainClass] args...。 #### job job 命令用于和 Map Reduce 作业交互和命令。用法:hadoop job [GENERIC_OPTIONS...

    hadoop命令大全

    这些命令只是Hadoop命令库的一部分,实际使用中还需要结合具体的业务场景和需求进行选择和组合。通过熟练掌握这些命令,可以更有效地管理和操作Hadoop集群,提高大数据处理的效率和准确性。在学习和实践中,应结合...

    hadoop.dll & winutils.exe For hadoop-2.7.1

    在Linux上,我们通常使用hadoop命令来执行各种操作,如启动、停止Hadoop服务、管理HDFS等。而在Windows上,由于命令行工具不兼容,winutils.exe就扮演了这个角色,提供类似的管理功能。例如,你可以通过winutils.exe...

    hadoop window10 bin

    4. **使用Hadoop命令**: - `hadoop fs`系列命令:用于与HDFS交互,如`ls`列出目录内容,`put`上传文件,`get`下载文件。 - `hadoop jar`命令:运行MapReduce作业,例如`hadoop jar your-job.jar your.main.Class ...

    hadoop-2.8.4winutils.rar

    6. 重启终端或命令提示符,现在你应该能够使用Hadoop命令了。 这个过程解决了Hadoop在Windows环境下的主要兼容性问题,使得开发者和数据分析师能够在本地机器上进行Hadoop相关的开发和测试工作,而无需搭建完整的...

    本地调试所需hadoop包,hadoop-common-bin-master,winutils.exe

    然后,你需要设置HADOOP_HOME环境变量,指向解压后的Hadoop目录,并将bin目录添加到PATH环境变量中,这样就可以在命令行中直接使用Hadoop命令了。 对于“解压密码.docx”,这可能包含了解压缩文件的密码,如果你...

    hadoop-3.2.1.rar

    7. **使用Hadoop命令** - 你可以使用`hadoop fs`命令来与HDFS进行交互,如列出目录内容:`hadoop fs -ls /`。 以上就是关于`hadoop-3.2.1.rar`压缩包及其在Windows环境下配置使用的关键知识点。理解并熟练掌握这些...

    Hadoop Shell命令大全

    本文档将详细介绍如何使用Hadoop Shell命令来操作HDFS,包括命令的使用方法、示例及注意事项。 在Hadoop中,所有文件系统(FS)Shell命令都应以bin/hadoop fs 的形式调用。命令行中的URI路径用作参数,其格式为...

    Unbuntu16.04中Hadoop环境配置.doc

    1. 验证Hadoop环境配置是否正确,使用hadoop命令验证。 四、SSH免密码登录安装与配置 1. SSH相关包检查与安装,使用sudo rpm -qa | grep openssh命令检查openssh包是否安装,如果没有安装,使用sudo apt-get ...

    Hadoop命令

    本教程将深入探讨Hadoop命令,帮助你更好地理解和运用这个强大的工具。 首先,我们要了解Hadoop的核心组件:HDFS(Hadoop Distributed File System)和MapReduce。HDFS是分布式文件系统,用于存储大量数据;...

    hadoop入门经典书籍

    在确认有足够的存储空间后,可以使用hadoop命令对Hadoop文件系统(HDFS)进行格式化,格式化过程会初始化文件系统并返回一些操作信息。 在格式化HDFS后,可以启动Hadoop守护进程。Hadoop伪分布式配置中将启动5个...

    hadoop集群安装手册

    使用Hadoop命令进行基本的测试,如`hdfs dfs -put`上传文件,`hdfs dfs -ls`列出目录,确保HDFS正常工作。 ### 性能调优 安装完成后,还需要根据实际需求和硬件资源对Hadoop集群进行性能调优,包括内存分配、线程...

    hadoop命令大全.pdf

    根据所提供的文件内容,我们可以提炼出一系列...由于篇幅限制,未详细列出所有的命令和选项,但以上内容为Hadoop命令使用提供了重要的基础。对于想要深入了解和运用Hadoop的用户来说,掌握这些基本知识点是非常关键的。

    eclipse的hadoop2.7插件以及hadoop-common编译文件

    在Windows环境下,你需要解压这个文件,并将其路径添加到系统环境变量PATH中,这样就可以在命令行中直接使用Hadoop命令了。例如,`hdfs dfs`命令用于操作HDFS(Hadoop分布式文件系统),`hadoop fs`用于执行文件系统...

    linux下编译过的hadoop jar包--hadoop-2.7.2.zip

    1. 上传数据:使用Hadoop命令`hadoop fs -put`将本地文件系统中的数据上传到HDFS。 2. 查看数据:使用`hadoop fs -ls`列出HDFS中的文件和目录。 3. 删除数据:使用`hadoop fs -rm`删除HDFS中的文件或目录。 4. 运行...

Global site tag (gtag.js) - Google Analytics