hadoop-1.0.3单机配置
前提条件:
1. 安装jdk
2. ssh免密码输入访问
配置步骤:
1. 下载hadoop-1.0.3并解压到/home/ting/program/hadoop目录
2. 设置环境变量
vim ~/.bash_profile,添加如下内容:
export HADOOP_HOME=/home/ting/program/hadoop/hadoop-1.0.3
3. 在hadoop-1.0.3目录创建一个tmp目录
mkdir tmp
4. 修改conf/hadoop-env.sh
去掉JAVA_HOME前的#,并将其修改成自己安装的java路径。
# The java implementation to use. Required.
export JAVA_HOME=/home/ting/program/java/jdk1.6.0_34
5. 修改conf/core-site.xml
<configuration>
<property>
<name>fs.default.name</name>
<value>hdfs://127.0.0.1:9000</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/home/ting/program/hadoop/hadoop-1.0.3/tmp</value>
</property>
</configuration>
说明:127.0.0.1是单机环境下的本机地址,9000在搭建hbase集群环境时需要用到。
hadoop.tmp.dir设置为之前创建的tmp目录
6. 修改conf/hdfs-site.xml
<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
</configuration>
7. 修改conf/mapred-site.xml
<configuration>
<property>
<name>mapred.job.tracker</name>
<value>localhost:9001</value>
</property>
</configuration>
8. 修改conf/masters和conf/slaves,其内容都是localhost
localhost
9. 格式化HDFS
命令:./bin/hadoop namenode -format
说明:进行此步前最好先删除tmp目录下的所有数据,否则DataNode线程无法启动。
10. 运行hadoop
命令:sh start-all.sh
11. 测试hadoop是否启动成功
命令:jps
若出现如下6个名称的进程,则hadoop运行成功。
15125 SecondaryNameNode
15217 JobTracker
14984 DataNode
19072 Jps
14860 NameNode
15348 TaskTracker
12. 验证Hadoop是否安装成功。打开浏览器,分别输入一下网址:
http://localhost:50030 (MapReduce的Web页面)

http://localhost:50070 (HDfS的web页面)


- 大小: 57.8 KB

- 大小: 51.2 KB
分享到:
相关推荐
8. **Hadoop运行模式**:Hadoop有三种运行模式:本地模式(适合开发测试)、伪分布式模式(单机模拟分布式环境)和完全分布式模式(多节点集群)。 9. **HDFS操作**:了解如何使用Hadoop命令行工具进行文件上传、...
### Hadoop伪分布配置详解 #### 一、概述 Hadoop伪分布模式是一种在单台机器上模拟分布式环境的方式,通常用于开发测试阶段。...通过以上步骤,可以在单机上模拟分布式环境,便于进行Hadoop相关的学习和测试工作。
在Linux环境下安装Flink 1.18.1,需要遵循以下步骤,确保系统具备必要的环境并正确配置。 首先,确保你的Linux系统上已经安装了Java开发工具包(JDK)。Flink需要Java 8或更高版本才能运行。你可以通过执行`java -...
- **RPM包安装**:首先通过RPM包`hadoop-1.0.3-1.x86_64.rpm`安装Hadoop,这是针对Linux系统的常见安装方式之一。 - **环境变量设置**:修改`/etc/profile`文件,设置`JAVA_HOME`和`JRE_HOME`指向JDK安装路径,同时...
下载Hadoop 1.0.3的tarball,将其解压至 `/usr/hadoop`目录。如果没有这个目录,需要先创建它,如`mkdir hadoop`。然后,在非root用户下修改`hadoop-env.sh`文件,指定Java的安装路径,例如`export JAVA_HOME=/usr/...
#### 三、Hadoop单机安装配置 1. **Hadoop文件下载与解压**:从官方网站或其他可信源下载Hadoop压缩包,并将其解压至指定目录(如`/opt/modules/hadoop/hadoop-1.0.3/`)。 2. **配置Hadoop Common组件**: - 编辑...