`

hadoop2集群非ha模式下搭建配置文件写法

 
阅读更多

 

 

 

1 关于防火墙配置,ssh这里没有在讲述, 这里仅仅是讲述hadoop配置文件写法,启动命令等也没有描述

 

 

2 写法如下:

 

 

hadoop 简答分布式安装:  非ha版:


a) 修改配置文件etc/hadoop/hadoop-env.sh
export JAVA_HOME=/usr/local/jdk1.7 

b) 修改配置文件etc/hadoop/core-site.xml: 

<configuration>
	<property>  
        <name>fs.defaultFS</name>  
        <value>hdfs://hadoop1:9000</value>  
    </property> 
	<property>  
        <name>hadoop.tmp.dir</name>  
        <value>/home/forkylin/hadoop-2.2.0/tmp</value>      
    </property>  
    <property>  
        <name>fs.trash.interval</name>  
        <value>1440</value>  
    </property> 
</configuration>


c) 修改配置文件etc/hadoop/hdfs-site.xml: 

<configuration>  

	<property>  
        <name>dfs.namenode.secondary.http-address</name>  
        <value>hadoop1:9001</value>  
    </property>
	<property>  
        <name>dfs.webhdfs.enabled</name>  
        <value>true</value>  
    </property>
    <property>  
        <name>dfs.replication</name>  
        <value>2</value>  
    </property>  
</configuration>  


e)拷贝模板文件并重命名:  
[root@h2single511-115 hadoop]# cp  mapred-site.xml.template   mapred-site.xml 

f) 修改配置文件etc/hadoop/mapred-site.xml: 
<configuration>  
    <property>  
        <name>mapreduce.framework.name</name>  
        <value>yarn</value>  
    </property>
    <property>  
        <name>mapreduce.jobhistory.address</name>  
        <value>hadoop1:10020</value>  
    </property>	

<property>  
        <name>mapreduce.map.memory.mb</name>  
        <value>5120</value>  
    </property>	
<property>  
        <name>mapreduce.reduce.memory.mb</name>  
        <value>5120</value>  
    </property>	

<property>  
        <name>yarn.app.mapreduce.am.resource.mb</name>  
        <value>2560</value>  
    </property>	




</configuration>  





g)修改配置文件etc/hadoop/yarn-site.xml: 

<configuration>  
    <property>  
        <name>yarn.nodemanager.aux-services</name>  
        <value>mapreduce_shuffle</value>  
    </property>  
	 <property>  
        <name>yarn.resourcemanager.address</name>  
        <value>hadoop1:8032</value>  
    </property>
	 <property>  
        <name>yarn.resourcemanager.resource-tracker.address</name>  
        <value>hadoop1:8031</value>  
    </property>
	<property>  
        <name>yarn.resourcemanager.admin.address</name>  
        <value>hadoop1:8033</value>  
    </property>
	<property>  
        <name>yarn.resourcemanager.webapp.address</name>  
        <value>hadoop1:8088</value>  
    </property>
<property>  
        <name>yarn.schedular.minimum.allocation-mb</name>  
        <value>1024</value>  
    </property>

<property>  
        <name>yarn.schedular.maximum.allocation-mb</name>  
        <value>10240</value>  
    </property>



</configuration>   


h)修改配置文件etc/hadoop/slaves: 
hadoop4
hadoop5


然后将修好好的hadoop解压文件拷贝到hadoop4  hadoop5机器中,

 

分享到:
评论

相关推荐

    HadoopHA集群配置文件

    2. `hdfs-site.xml`: 这个文件是HDFS(Hadoop Distributed File System)的配置中心,其中的`dfs.nameservices`定义了HA命名服务的ID,如`nameservice1`,而`dfs.ha.namenodes.nameservice1`则指定了该命名服务下的...

    搭建hadoop集群的全部配置文件

    在搭建Hadoop集群的过程中,配置文件起着至关重要的作用,它们定义了集群的运行方式、节点间通信方式以及数据存储和处理的策略。本压缩包包含的文件是全面的Hadoop集群配置集合,旨在帮助用户顺利构建和管理自己的...

    hadoop的独立模式、伪分布模式、完全分布式、HA配置文件

    在Hadoop生态系统中,了解和配置不同的运行模式是至关重要的,这些模式包括独立模式、伪分布模式、完全分布式模式以及高可用性(HA)配置。接下来,我们将详细探讨这些模式及其相关的配置文件。 1. **独立模式**: ...

    Hadoop3.0分布式集群搭建(HA)详细文档.docx

    本资源摘要信息主要介绍了 Hadoop 3.0 分布式集群搭建的详细步骤和要求,从搭建前的准备工作到集群的安装和配置,涵盖了主机规划、软件规划、用户规划、数据目录规划、环境检查、时钟同步、hosts 文件检查、防火墙...

    hadoop伪集群搭建及eclipse插件配置

    搭建伪集群模式的Hadoop可以用于开发与测试,在这个模式下,所有节点实际上都运行在同一个物理机上,模拟集群的运行环境。同时,通过在开发IDE如Eclipse中配置Hadoop插件,可以更便捷地进行开发和调试Hadoop程序。...

    Hadoop2.x HA环境搭建

    - 在搭建Hadoop2.x HA集群之前,需要确保所有相关的服务都已经停止运行,避免与新搭建的集群产生冲突。 2. **操作系统上的免密钥登录设置:** - 需要在node1、node2、node3、node4之间实现SSH免密钥登录,即通过...

    Hadoop搭建手册以及三种集群模式配置

    Hadoop搭建手册以及三种集群模式配置

    hadoop3.0集群搭建HA

    hadoop3.0-HA搭建,3节点。关闭防火墙 systemctl stop firewalld.service 关闭防火墙开机启动 systemctl disable firewalld.service 禁用selinux安全 查看状态:sestatus 临时关闭: setenforce 0 永久关闭:vi /...

    Hadoop HA高可用集群搭建(Hadoop+Zookeeper+HBase)

    Hadoop HA高可用集群搭建(Hadoop+Zookeeper+HBase) 一、Hadoop HA高可用集群概述 在大数据处理中,高可用集群是非常重要的,Hadoop HA高可用集群可以提供高可靠性和高可用性,确保数据处理不中断。该集群由...

    Hadoop HA搭建笔记和配置文件

    "HDP HA模式"可能是具体的配置文件或脚本,可以参照这些文件来配置自己的Hadoop HA环境。在实际操作中,务必根据自己的硬件环境和需求调整配置,确保HA系统的稳定运行。记住,良好的监控和维护是保证HA系统持续运行...

    基于zookeeper的hadoop ha集群安装过程

    基于ZooKeeper的Hadoop HA集群安装过程 在大数据时代,Hadoop作为大数据处理的核心技术,高可用性(HA)是企业对其进行部署和维护的必备条件。基于ZooKeeper的Hadoop HA集群可以提供高可用性和可扩展性,满足企业对大...

    HadoopHA集群部署、YARNHA配置、启动与验证教学课件.pptx

    【Hadoop HA集群部署】是高可用(High Availability)配置的一种,主要目的是为了确保Hadoop分布式文件系统在遇到单点故障时,能够自动切换到备用节点,保证服务不间断。这通常涉及到NameNode HA,Secondary NameNode...

    部署全分布模式Hadoop集群 实验报告

    5. 熟练掌握在 Linux 环境下如何部署全分布模式 Hadoop 集群。 二、实验环境 本实验所需的软硬件环境包括 PC、VMware Workstation Pro、CentOS 安装包、Oracle JDK 安装包、Hadoop 安装包。 三、实验内容 1. 规划...

    大数据教程之搭建Hadoop集群.zip_大数据环境搭建hadoop

    2. "细细品味Hadoop_Hadoop集群(第1期)_CentOS安装配置.pdf":此文件可能详细介绍了如何在CentOS操作系统上准备环境,因为Hadoop通常在Linux环境下运行,而CentOS是常用的选择。 3. "细细品味Hadoop_Hadoop集群...

    hadoop搭建集群笔记

    hadoop搭建集群笔记.虚拟机搭建hadoop集群

    Hadoop HA集群配置.docx

    Hadoop HA主要关注两个关键组件的高可用性:HDFS(Hadoop分布式文件系统)的HA和YARN(Yet Another Resource Negotiator)的HA。ZooKeeper作为一个分布式协调服务,确保在集群中的节点之间进行可靠的信息传递和状态...

    3.基于hadoop集群搭建hbase

    ### 基于Hadoop集群搭建HBase集群详解 #### 一、引言 随着大数据技术的迅猛发展,海量数据的高效存储与处理成为企业关注的重点。Hadoop作为一款能够处理大量数据的基础框架,被广泛应用于各类场景之中。然而,在...

    hadoop2.6.4-ha集群搭建

    ### Hadoop 2.6.4 HA 集群搭建详解 #### 一、概述 在当前的大数据处理环境中,Hadoop作为一个强大的分布式计算框架,其稳定性和可用性至关重要。Hadoop 2.x版本引入了High Availability (HA)机制来确保系统在遇到...

    Hadoop-ha集群搭建

    HadoopHA集群搭建描述及指令,里面有各种注意事项。 集群部署节点角色的规划(3节点) ------------------ server01 namenode resourcemanager zkfc nodemanager datanode zookeeper journal node server02 ...

    Hadoop集群配置文件备份

    在Hadoop HA模式下,集群包含多个NameNode和ResourceManager,这些组件的配置更为复杂。备份时需要特别注意主NameNode和备用NameNode的元数据同步,以及ResourceManager的高可用配置。在恢复时,需确保所有组件的HA...

Global site tag (gtag.js) - Google Analytics