角色 | 名称 | 端口 | 位置 | 描述 |
namenode | fs.default.name | 9000 | core-site.xml | namenodeRPC交互端口 |
namenode | dfs.http.address | 50070 | hdfs-site.xml | NameNodeweb管理端口 |
jobtracker | mapred.job.tracker | 9001 | mapred-site.xml | job tracker交互端口 |
jobtracker | mapred.job.tracker.http.address | 50030 | mapred-site.xml | job tracker的web管理端口 |
secondNamenode | dfs.secondary.http.address | 50090 | hdfs-site.xml | secondary NameNode web管理端口 |
tasktracker | mapred.task.tracker.http.address | 50060 | mapred-site.xml | task tracker的HTTP端口 |
datanode | dfs.datanode.http.address | 50075 | hdfs-site.xml | datanode的HTTP服务器和端口 |
datanode | dfs.datanode.address | 50010 | hdfs-site.xml | datanode 控制端口 |
datanode | dfs.datanode.ipc.address | 50020 | hdfs-site.xml | datanode的RPC服务器地址和端口 |
参考文献:http://www.cnblogs.com/ggjucheng/archive/2012/04/17/2454590.html
作者简介
昵称:澳洲鸟,猫头哥
姓名:朴海林
QQ:85977328
MSN:6301655@163.com
本文的研究,离不开《至高天》朋友们的支持
猫头哥:http://phl.iteye.com/
根根:http://blog.csdn.net/suileisl
芝麻的奋斗:http://sesame84.iteye.com/
wan560:http://blog.csdn.net/wan560/
terrily:http://terrily.iteye.com/
分享到:
相关推荐
### Hadoop默认端口清单详解 #### Hadoop概述 Hadoop是一个开源软件框架,用于分布式存储和处理大型数据集。其核心组件包括HDFS(Hadoop Distributed File System)、MapReduce和YARN(Yet Another Resource ...
文档中提到,与Hadoop 2.x相比,3.x版本在集群安装和配置方面基本变化不大,但具体到新版本的特性以及对默认端口的改变上,还是存在一些需要特别注意的地方。 #### 1. Hadoop 3.x集群安装知识 在集群安装知识部分,...
3. **配置Hadoop**:在Hadoop的conf目录下,编辑`core-site.xml`,设置HDFS的默认FS(如`fs.defaultFS`为`hdfs://localhost:9000`),以及临时目录(如`hadoop.tmp.dir`为`C:\Hadoop\tmp`)。然后编辑`hdfs-site.xml...
同时,也可以通过Hadoop的Web UI(默认端口50070)来跟踪更详细的作业执行情况。 9. **错误处理与调试**:如果作业遇到问题,Eclipse会显示错误信息,帮助开发者定位问题。同时,通过Hadoop的日志系统,可以获取到...
- 配置`etc/hadoop/core-site.xml`,设置HDFS的默认FS(FileSystem)为本地文件系统或HDFS。 - 配置`etc/hadoop/hdfs-site.xml`,设定副本数量、名称节点和数据节点等参数。 - 配置`etc/hadoop/mapred-site.xml`...
7. 端口范围:Hadoop 2.x中的一些默认端口位于Linux临时端口范围内,这可能会在启动时导致绑定问题。Hadoop 3.x已经解决了这个问题,端口不再位于短暂的范围内。 8. 工具兼容性:Hadoop 3.x兼容所有Hadoop 2.x支持...
1. 修改`etc/hadoop/core-site.xml`配置文件,设置HDFS的默认名称节点和临时目录: ```xml <name>fs.defaultFS <value>hdfs://master:9000 <name>hadoop.tmp.dir <value>/app/hadoop/tmp ``` 其中,`master`...
此外,还需要正确配置`hadoop-env.cmd`和`core-site.xml`等配置文件,以指定Hadoop的安装路径、HDFS的默认名称节点和数据节点等信息。 在Windows 7 64位环境下,用户需要注意兼容性问题,因为某些Hadoop版本可能不...
Hadoop Common是Hadoop生态系统中的核心组件,它提供了一系列通用工具和服务,为Hadoop分布式文件系统(HDFS)和MapReduce计算框架提供了基础支持。在这个特定的版本——hadoop-common-2.6.0-master.zip中,我们专注...
在Hadoop 2.x中,引入了YARN(Yet Another Resource Negotiator),负责集群资源管理和作业调度,提高了资源利用率和系统灵活性。 十、故障排查与维护 在集群运行过程中,可能会遇到各种问题,如节点宕机、数据丢失...
在Windows环境中,由于其默认支持Linux操作系统,因此需要一些额外的工具来使其正常运行,比如`winutils.exe`和`hadoop.dll`。 `winutils.exe`是Hadoop在Windows上的实用程序,它提供了类似于Linux环境下`hadoop`...
这个压缩包文件"细细品味Hadoop_Hadoop集群VSFTP安装配置.rar_hadoop"似乎属于一个系列教程,专注于Hadoop集群的构建与管理,特别是结合了VSFTP(Very Secure FTP)的安装配置。VSFTP是一个在Linux系统中常用的、...
本教程将深入探讨如何在单节点环境中部署Hadoop 2.x版本,这对于初学者理解和测试Hadoop功能非常有帮助。我们将关注四个关键配置文件——core-site.xml、yarn-site.xml、hdfs-site.xml和mapred-site.xml,它们是...
你可以通过Web界面(默认端口50070)监控HDFS的状态,或者使用Hadoop命令行工具进行数据操作。然而,这只是基础配置,实际生产环境中可能还需要考虑集群部署、安全性设置、资源调度策略等更高级的配置。 请注意,...
端口 作用 9000 fs.defaultFS,如:hdfs://172.25.40.171:9000 9001 dfs.namenode.rpc-address,DataNode会连接这个端口 50070 dfs.namenode.http-address 50470 dfs.namenode.https-address 50100 dfs.namenode....
Hadoop是一个开源的分布式存储和计算框架,它允许用户存储大量数据并进行分布式计算。Hadoop 2.9.0版本中的YARN(Yet Another Resource Negotiator)是Hadoop的核心组件之一,负责管理集群资源以及任务调度和监控。...
5. **配置core-site.xml**:编辑Hadoop的配置文件core-site.xml,添加HDFS默认FS(默认文件系统)的配置,例如: ```xml <name>fs.defaultFS <value>hdfs://localhost:9000 ``` 这里,localhost:9000应...
安装过程中还需要开放特定端口,比如9000和9001,这两个端口是Hadoop服务默认使用的。你需要确保防火墙允许这些端口的通信,特别是在多台机器之间进行通信时。如果遇到问题,记得关闭所有机器的防火墙。 常见问题的...
同时,需要注意的是,随着Hadoop版本的更新,某些默认配置和参数可能会有所变化,因此建议根据实际使用的Hadoop版本查阅相应的默认配置文件,如Apache官网提供的`core-default.xml`、`hdfs-default.xml`和`mapred-...
本文将深入解析Hadoop的常用配置,包括HDFS(Hadoop Distributed File System)和MapReduce的端口配置,以及一些核心的默认配置参数。 首先,让我们关注HDFS的端口配置: 1. **fs.default.name**: 这个参数定义了...