`

haddop从单机改为集群

 
阅读更多

Host配置

vim /etc/hosts

如果没有足够的权限,可以切换用户为root。 三台机器的内容统一增加以下host配置: 可以通过hostname来修改服务器名称为master、slave1、slave2

192.168.71.242 master
192.168.71.212 slave1
192.168.71.213 slave2

配置SSH无密码登录

设置ssh免密码登录

ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa

cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys

chmod 0600 ~/.ssh/

authorized_keys

具体可参照点击

修改vim mapred-site.xml

<configuration>

<property>
  <name>mapreduce.framework.name</name>
  <value>yarn</value>
</property>

</configuration>

修改/hadoop-2.8.2/etc/hadoop/slaves

将原来的localhost删除,改成如下内容

vim /hadoop-2.8.2/etc/hadoop/slaves

slave1
slave2

最后,将整个hadoop-2.8.2文件夹及其子文件夹使用scp复制到slave1和slave2的相同目录中:

scp -r /usr/local/hadoop-2.8.2 root@slave1:/usr/local

scp -r /usr/local/hadoop-2.8.2 root@slave2:/usr/local

启动并运行hadoop 参见

分享到:
评论

相关推荐

    Haddop指南

    MapReduce 是 Hadoop 的计算框架,它将大型任务拆分成可并行处理的小任务(映射阶段),然后在集群中的各个节点上执行这些任务(化简阶段)。MapReduce 的设计思想是简单而灵活,可以适应各种类型的数据处理需求,...

    HADDOP手记

    Hadoop实战之Hadoop完全分布式集群安装

    3-haddop_hadoop_

    标题 "3-haddop_hadoop_" 暗示着这是一个关于Hadoop的教程或学习资源,其中包含了Hadoop集群的基本知识和操作指南。Hadoop是一个开源的分布式计算框架,广泛应用于大数据处理领域,尤其在Linux系统环境下表现出色。...

    在win7编译过的haddop

    2. **获取源码**:从Apache官网下载Hadoop的源代码压缩包,例如这里的版本是2.6.1。 3. **构建环境**:安装Cygwin或MinGW,以提供类Unix环境,因为Hadoop的构建脚本依赖于Unix命令。 4. **配置环境**:设置环境变量...

    haddop在linux上的安装

    2. 集群版实验:使用 Hadoop 的集群版模式进行实验,这将提供一个分布式的 Hadoop 环境。 分布式文件系统 HDFS 1. HDFS 概述:HDFS(Hadoop Distributed File System)是 Hadoop 的分布式文件系统,它提供了一个...

    ubuntu 安装haddop过程

    很好的配置文档,可以帮助你配置hadoop 的帮手

    haddop群集环境准备

    hadoop群集环境准备 Hadoop群集环境准备是指在CentOS操作系统下安装Hadoop之前所需进行的初始化工作,包括CentOS环境初始化、免SSH配置、JDK部署等步骤。 一、初始化CentOS环境 在CentOS环境下,需要进行初始化...

    haddop文档指南

    2. **单机模式安装**: - 下载Hadoop压缩包并解压。 - 配置`hadoop-env.sh`文件,设置JAVA_HOME等环境变量。 - 启动Hadoop服务。 3. **伪分布式模式安装**: - 在同一台机器上模拟多节点集群。 - 需要配置...

    haddop-2.6.4 native 64位

    为了解决执行hadoop 命令时总有警告: WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable

    haddop\scala\spark\winutils-master安装包

    `spark-2.4.7-bin-hadoop2.tgz` 包含了Spark的2.4.7版本,预编译为与Hadoop 2.x兼容,包含了Spark的所有核心模块,如Spark Core、Spark SQL、Spark Streaming和MLlib(机器学习库)等。 **WinUtils** 在Windows环境...

    haddop权威指南

    Haoop权威指南第三版 带有目录书签,高清晰

    haddop面试宝典

    文章内容来自于about云大数据面试题板块经典内容,包括搜集的网络面试题

    hadoop零基础学习到上手工作.zip_haddop_hadoop_howtolearnhadoop_spread5cf_零基

    hadoop入门零基础教程 1.如何低成本学习 2.可能遇到的问题 3.About云零基础学习hadoop到上手工作

    BIGDATA-PROGRAMMING-HADDOP-SPARK

    MapReduce则是处理这些数据的计算模型,它将大规模数据处理任务分解为Map和Reduce两个阶段,通过并行计算大幅提升处理效率。 Spark是后来出现的大数据处理框架,设计目标是提供更高效、易用的数据处理方式。与...

    Nginx安装过程

    此外,还可以通过浏览器访问服务器的IP地址或域名(假设端口为80),如: ```bash http://hadoop02:80 ``` 如果Nginx已成功启动,将会看到Nginx的欢迎页面。 #### 四、配置Nginx ##### 5. 编辑配置文件 编辑...

    hadoop:The Defintive Guide

    Hadoop: The Definitive Guide helps you harness the power of your data. Ideal for processing large datasets, the Apache Hadoop framework is an open source implementation of the MapReduce algorithm on ...

    096-java和haddop大数据精品项目-基于ssm+spark的电影推荐系统.rar

    1、资源项目源码均已通过严格测试验证,保证能够正常运行; 2、本项目仅用作交流学习参考,请切勿用于商业用途。

    hadoop+spark机器学习实例

    它采用了分布式计算模型——MapReduce,将复杂的数据处理任务分解成小块,分布到集群中的多台服务器上并行执行,大大提升了处理速度。Hadoop的核心组件包括HDFS(Hadoop Distributed File System)和MapReduce,HDFS...

    【计算机程序设计项目源码】-java和haddop大数据精品项目-基于ssm+spark的电影推荐系统.zip

    具体系统介绍看我的博客空间 搜索对应的题目,本代码适合学习java 代码springboot 如自己能力有限 运行不出来,可以联系作者购买人工远程调试服务

    Hadoop中级教程(2.x)(PDF).rar

    这包括单机模式、伪分布式模式和完全分布式模式的集群搭建,以及如何进行集群扩容、故障排查和性能调优。 6. **Hadoop生态系统**: Hadoop不仅仅是MapReduce,还包括HDFS、YARN、HBase、Hive、Pig、Oozie等多个...

Global site tag (gtag.js) - Google Analytics