`
sunasheng
  • 浏览: 122560 次
  • 性别: Icon_minigender_1
  • 来自: 北京
文章分类
社区版块
存档分类
最新评论

Ubuntu下Hadoop集群版的安装(完整版)

阅读更多

UbuntuHadoop的集群版的安装

1,准备两个服务器

机器名    IP        作用

hadoop.main   192.168.1.102    NameNode,JobTracker,DataNode,TaskTracker

hadoop.slave   192.168.1.107    DataNode,TaskTracker

注意:两台主机必须使用相同的用户名运行(就是命令行中@前面的用户)

2,分别按照hadoop单机版的安装方式在两台主机上进行安装

3,分别/etc/hostname中修改主机名hadoop.mian/hadoop.slave

利用hostname命令查看本机的机器名

分别/etc/hosts中配置主机名和IP地址对应关系

hadoop.main中:

   hadoop.main   192.168.1.102

   hadoop.slave   192.168.1.107

hadoop.slave中:

   hadoop.main   192.168.1.102

   hadoop.slave   192.168.1.107

注:

ifconfig    显示本地IP地址(inet addr

4,分别在两台机子上ping一下看是否通

hadoop.main中:

   ping hadoop.main

   ping 192.168.1.107

hadoop.slave中:

   ping hadoop.slave

   ping 192.168.1.102

5,Hadoop.main节点中的~/.ssh/id_rsa.pub文件拷贝到hadoop.slave

~/.ssh/目录下

拷贝命令:~/.ssh$ scp id_rsa.pub hadoop.slave:./.ssh/hadoop.main下到达.ssh目录下)

然后登录hadoop.slave~/.ssh/目录下运行命令cat ./id_rea.pub >> authorized_keys

确保hadoop.main登录hadoop.slave是无密码登录状态(要验证)

6,分别在hadoop.mianhadoop.slavehadoop安装目录下的conf下的

core-site.xmlnamefs.defaule.namevalue值统一为hdfs://hadoop.main:9000(尤其是hadoop.slave)

mapred-site.xmlnamemapred.job.trackervalue值统一为hadoop.main:9001(尤其是hadoop.slave)

 

 

分享到:
评论

相关推荐

    基于Ubuntu的Hadoop简易集群安装与配置

    ###### 3.3.3 进行Hadoop集群完全分布式的安装配置 - 下载并解压Hadoop安装包。 - 配置`core-site.xml`、`hdfs-site.xml`、`mapred-site.xml`等配置文件。 - 格式化HDFS文件系统。 - 启动Hadoop集群。 #### 四、...

    在Ubuntu上配置Hadoop集群

    本文档提供了在Ubuntu上搭建Hadoop集群的具体步骤和注意事项,通过这些步骤,用户可以在自己的计算机上快速搭建一个功能完整的Hadoop集群。在整个过程中,需要注意硬件资源的合理分配以及各个组件之间的兼容性问题。...

    Hadoop集群搭建教程(ubuntu) (1).docx

    详细的Hadoop集群搭建过程,有6部分,前提是能连接网络,前三部都是很简单免密要仔细看,推荐JAVA版本1.8,Hadoop版本2.2.7 这两个版本都是稳定的

    Ubuntu 16.04 虚拟机下构建hadoop完全分布式集群

    根据提供的文件信息,本文将详细解析如何在Ubuntu 16.04虚拟机环境下搭建Hadoop完全分布式集群。本文档适合已经具备基本Linux操作技能并对Hadoop有一定了解的读者。 ### 一、所需文件及软件 为了搭建Hadoop完全...

    Hadoop集群环境虚拟机上搭建详解

    随后,在虚拟机中安装Ubuntu操作系统,Ubuntu是一个基于Debian的Linux发行版,以其用户友好的特性而受到广泛欢迎。为了集群的便捷管理,文档建议首先搭建一台作为Master的虚拟机,然后通过克隆的方式搭建Slave节点。...

    hadoop2.6.5+Ubuntu16.04配置指南

    本文旨在提供一个详尽的指南,帮助用户在Ubuntu 16.04环境下成功搭建Hadoop 2.6.5的完全分布式集群。 #### 二、准备工作 在正式开始配置之前,需要完成一系列基础准备工作: 1. **下载安装VMware**:用于创建...

    2_2 hadoop集群安装部署.pdf

    Hadoop集群安装部署的知识点总结如下: 1. Hadoop集群安装部署的目标: - 掌握Hadoop的集群安装配置方法; - 掌握SSH配置方法; - 掌握Hadoop集群服务启动与停止; - 会使用Hadoop集群运行简单的MapReduce计算...

    ubuntu14.04下Hadoop2.7.2安装.pdf

    ### 三、部署Hadoop集群 1. **解压Hadoop**:解压下载的文件,解压后的目录结构应包括`etc/hadoop`等关键目录。 2. **配置Hadoop**:编辑`etc/hadoop/hadoop-env.sh`文件,根据需要配置HADOOP_HOME、JAVA_HOME等...

    VMware下完全分布式Hadoop集群安装笔记

    ### VMware下完全分布式Hadoop集群安装笔记 #### 一、准备工作与环境搭建 **1. 安装VMware** 在开始之前,首先需要一个虚拟化平台来模拟多台计算机之间的交互,这里选择的是VMware。根据您的操作系统选择合适的...

    ubuntu14.04下Hadoop2.7.2安装.docx

    标题提及的文档是关于在Ubuntu 14.04操作系统上安装Hadoop 2.7.2稳定版的详细步骤。Hadoop是一个开源的分布式计算框架,广泛应用于大数据处理和分析。以下是根据描述和部分内容整理出的关键知识点: 1. **JDK安装**...

    机房hadoop集群部署

    通过以上步骤,一个完整的机房Hadoop集群部署得以完成。这个过程中需要注意的是,每个环节都需要细致的规划和执行,以确保集群的稳定性和效率。随着业务的增长,对Hadoop集群的维护和升级也是持续的工作。

    Hadoop完全分布式详细安装过程

    - **目的**:通过安装VMware,可以在Windows 7操作系统上创建并运行多个独立的Linux系统实例,从而模拟多台服务器组成的Hadoop集群。 - **步骤**: - 下载VMware Workstation并通过官方或可信渠道获取。 - 运行...

    详解Ubuntu16.04下Hadoop 2.7.3的安装与配置

    ### 详解Ubuntu16.04下Hadoop 2.7.3的安装与配置 #### 一、Java环境搭建 在安装Hadoop之前,必须先确保系统中已正确安装了Java开发工具包(JDK),因为Hadoop依赖于Java环境。 **步骤1:下载并解压JDK** 首先,...

    Linux下安装Hadoop完全分布式

    ### Linux下安装Hadoop完全分布式 #### 知识点概览 - **环境搭建**:包括操作系统选择、硬件配置需求、用户与权限管理等。 - **JDK安装与配置**:涉及JDK版本的选择、环境变量配置及版本切换方法。 - **主机名与...

    大数据处理架构Hadoop-Hadoop安装完整版资料.pptx

    Hadoop的配置文件主要位于`/usr/local/hadoop/etc/hadoop/`目录下,包括`core-site.xml`(核心配置)、`hdfs-site.xml`(HDFS配置)、`mapred-site.xml`(MapReduce配置)和`yarn-site.xml`(YARN配置)。...

    ubuntu-14.04.1+hadoop2.4完全分布式搭建要点

    而“工具”可能指的是在安装过程中使用的辅助工具,如SSH,以及用于管理Hadoop集群的工具,如Hadoop自带的HDFS命令行工具和Web界面。 文件 `hadoop.dll` 和 `winutils.exe` 通常是Windows环境下Hadoop的二进制工具...

    构建Hadoop分布式集群环境

    在本教程中,使用VMWare来创建运行Ubuntu系统的虚拟机,这是因为Ubuntu是一个流行的Linux发行版,它被广泛应用于Hadoop集群环境中。 搭建Hadoop集群的过程中,首先需要准备至少两台机器(节点),一台作为主节点...

    Hadoop伪分布式集群环境搭建

    1. **下载Hadoop**:访问Apache官方网站,下载最新稳定版的Hadoop二进制包,将其解压到一个合适的目录,例如`/usr/local/hadoop`。 2. **配置环境变量**:编辑`~/.bashrc`或`~/.bash_profile`文件,添加Hadoop的...

Global site tag (gtag.js) - Google Analytics