`
wbj0110
  • 浏览: 1598316 次
  • 性别: Icon_minigender_1
  • 来自: 上海
文章分类
社区版块
存档分类
最新评论

Cloudera Manager 装配小型Hadoop集群

    博客分类:
  • CDH
CDH 
阅读更多

Cloudera Manager 安装小型Hadoop集群

Cloudera提供了几种安装方法,具体可以参见Cloudera文档。这里我介绍的方法是用Cloudera Manager来安装。Cloudera Manager提供三种选项,区别可见Cloudera文档:

  • Free edition
  • 60 Days trial of enterprise edition, 60天以后自动切换为free edition
  • Enterprise edition

环境:

  • OS X Mountain Lion
  • VMWare Fusion
  • Cent OS 6.2
  • Cloudera Manager 4.5 , the latest version at present
  • 安装三台虚拟机作为三个节点,都使用命令行界面,因为我的笔记本资源有限,使用图形界面太耗资源。

首先,利用VMWare安装一台命名为Base虚拟机,只安装最基本的软件,这里我安装了perl和openssh-clients,关闭iptables,SELinux。注意事项如下:

  • 取消VMWare easy install,网卡使用Bridge模式。在启动界面,选择适合的内核再进入编辑模式,输入expert text,使用文本界面安装。安装过程中根据自己需要选择合适的CPU数量,内存大小。
  • 安装完毕,现在需要设置Cent OS。因为我们是用全文本模式安装,重启之后网卡还需要作一些设置才能启动。
    #vi /etc/resolve.conf
    search example.com
    nameserver 192.168.1.1
     
    #vi /etc/sysconfig/network
    NETWORKING=yes
    HOSTNAME=changelater.example.com
    GATEWAY=192.168.1.1
     
    #vi /etc/selinux/config
    SELINUX=disabled
    
     
    #chkconfig iptables off
     
    #vi /etc/sysconfig/network-scripts/ifcfg-eth0
    DEVICES=eth0
    ONBOOK=yes
    PROTO=static
    IPADDR=192.168.1.200
    NETMASK=255.255.255.0
     启动网卡:
    #/etc/init.d/network restart
     
    #yum -y perl openssh-clients
     然后安装VMWare-Tools,略过,网上教程一搜一把。
    #vi /etc/hosts
    
    192.168.1.201 n1.example.com n1
    192.168.1.202 n2.example.com n2
    192.168.1.203 n3.example.com n3
     
    #ssh-keygen 两次回车
    #cd .ssh
    #cp id_rsa authorized_keys
    #vi /etc/ssh/ssh_config
    StrictHostKeyChecking no
    
     
    yum update
     到此,base准备完毕。这个节点最好备份一下,将来稍作设置就可以作为新的节点加入集群。
  • 用VMWare制作Base节点的三个拷贝,cdh4-1, cdh4-2, cdh4-3,这样就有了三个节点。
  • 启动cdh4-1,cdh4-2,cdh4-3。并分别设置,这里我以cdh4-1为例。
    #vi /etc/sysconfig/network
    HOSTNAME=n1.example.com
     
    #cd /etc/sysconfig/network-scripts
    #mv ifcfg-eth0 ifcfg-eth1
    #vi ifcfg-eth1
    IPADDR=192.168.1.201
     
    #/etc/init.d/network restart
    #init 6
分享到:
评论

相关推荐

    Ubuntu 14.04 LTS下通过Cloudera CDH 5.4.8搭建Hadoop集群.pdf

    ### 在Ubuntu 14.04 LTS下通过Cloudera CDH 5.4.8搭建Hadoop集群 #### 1. 前期准备工作 ##### 1.1 集群规划 为了构建一个高效的Hadoop集群,首先需要对硬件资源进行合理规划。根据文档中的描述,该集群共有8台...

    CLOUDERA-Manager_中文手册(全 高清)+ CDH安装手册.pdf

    Cloudera Manager是一款基于大数据管理平台,用于管理Hadoop集群和CDH(Cloudera Distribution of Hadoop)集群。该手册详细介绍了Cloudera Manager的产品介绍、基本功能、监控功能等内容。 产品介绍 Cloudera ...

    CLOUDERA-Manager-中文手册

    - **集群安装**:Cloudera Manager简化了Hadoop集群的部署过程,使得运维人员可以快速、高效地设置和配置新集群,包括安装和升级各个组件,如Hadoop、Hive、Spark等。 - **集群配置**:对于已部署的集群,Cloudera...

    Cloudera Manager 和 CHD5.3.3 集群 离线安装

    Cloudera Manager是Cloudera公司提供的用于部署、管理和监控Apache Hadoop集群的软件平台。CDH是Cloudera Distribution包括Hadoop的简称,是Cloudera提供的Hadoop生态系统产品的集合。 知识点一:安装前的准备工作 ...

    java调用Cloudera Manager Api实例

    Cloudera Manager是管理Hadoop和其他Cloudera支持的数据处理服务的流行平台。下面将详细阐述如何在Java环境中设置和执行API调用。 首先,理解Cloudera Manager API的基础知识至关重要。API(应用程序编程接口)是一...

    妳那伊抹微笑_云计算之ClouderaManager以及CHD5.1.0集群部署安装文档V1.0.docx

    妳那伊抹微笑_云计算之ClouderaManager以及CHD5.1.0集群部署安装文档V1.0.docx 该文档与教程http://blog.csdn.net/u012185296/article/details/38084107 配套使用的,主要讲的是妳那伊抹微笑_云计算之Cloudera...

    Cloudera Hadoop 安装指南

    此外,文档还提供了关于Cloudera Manager的安装指导,这是一个用于管理Hadoop集群的强大工具。 ### Cloudera Manager简介 Cloudera Manager是一个用于简化Hadoop及其相关项目部署和管理过程的工具。它提供了图形...

    大数据集群Cloudera Manager日常运维手册.docx

    "大数据集群Cloudera Manager日常运维手册" 大数据集群Cloudera Manager是大数据处理和分析的核心组件之一,它提供了一个统一的管理平台,用于管理和维护大数据集群。Cloudera Manager日常运维手册是大数据集群管理...

    CLOUDERA-Manager_中文手册(全)

    Cloudera Manager是Cloudera公司开发的一款用于简化Apache Hadoop集群管理的工具,它提供了集群监控、软件部署、集群配置管理、服务管理以及诊断分析等功能。 ### Cloudera Manager版本信息 文档提到了Cloudera ...

    cloudera manager的运行机制及目录

    Cloudera Manager是Cloudera公司提供的一套用于管理Apache Hadoop集群的软件,它简化了Hadoop集群的安装、部署和运维工作。Cloudera Manager使用C/S结构,包含一个Server端和若干Agent端。Server端负责集群的管理、...

    ClouderaManager 管理手册 中文版

    Cloudera Manager是Cloudera公司开发的一款用于管理和监控Hadoop集群的管理工具,提供了一套完善的管理、监控、诊断和集成功能,旨在简化大数据环境的运维管理,提升集群的运行效率和安全性。本文档详细介绍了...

    cloudera manager 安装cdh 搭建大数据集群,详细讲解核心

    Cloudera Manager 安装 CDH 搭建大数据集群核心知识点 一、Cloudera Manager 安装方法 Cloudera Manager 安装 CDH 集群有多种方法,主要分为 Server 端和 Agent 端安装。 1. Server 端安装: * 使用 yum 安装 cm...

    ClouderaManager-中文手册-实战总结.pdf

    Cloudera Manager是CDH市场领先的管理平台,作为业界第一的端到端Apache Hadoop的管理应用,Cloudera Manager对CDH的每个部件都提供了细粒度的可视化和控制,从而设立了企业部署的标准。通过Cloudera Manager,运维...

    ClouderaManager_手册.pdf

    Cloudera Manager是一款集成了CDH(Cloudera's Distribution including Apache Hadoop)的综合性大数据集群管理系统,它的目的在于简化Hadoop生态系统的安装、配置、监控和管理。作为一款领先的管理平台,Cloudera ...

    ClouderaManager运维_中文手册

    Cloudera Manager的目的是简化企业数据中心的管理,它能够自动化安装和配置Hadoop集群,显著缩短部署时间,并提供集群范围内的节点实时运行状态视图。此外,它还配备了集中的中央控制台以供配置集群,并具备一系列...

    Cloudera Manager API v14 中文

    Cloudera Manager API v14 提供了一系列强大的接口,使得管理员能够高效地管理 Hadoop 集群和其他相关服务。通过这些 API,可以实现自动化配置、审计追踪、集群维护等多种高级管理任务。此外,API 还支持对集群进行...

    CDH搭建Hadoop集群

    本文档主要以使用Cloudera Manager5.9.3 自动搭建Hbase集群为例,介绍如何使用Cloudera Manager自动搭建Hadoop相关集群,简化为多台服务器搭建Hadoop集群工作,提高工作效率。至于如何使用Cloudera Manager来管理...

    Cloudera-Manager.pdf

    Cloudera Manager是一款领先的大数据平台管理工具,专注于简化CDH...通过减少部署时间、提供实时监控、集成安全措施和诊断工具,Cloudera Manager显著提升了Hadoop集群的运维效率,是大数据管理不可或缺的工具书。

    大数据集群Cloudera Manager日常运维手册.pdf

    大数据集群Cloudera Manager日常运维手册 大数据集群Cloudera Manager日常运维手册旨在指导用户如何正确地运维Cloudera Manager集群,确保集群的稳定运行和高效运作。该手册涵盖了日常运维的基本操作,包括登录...

    ubuntu完全分布式搭建CDH集群(Cloudera Manager)

    ### Ubuntu 完全分布式搭建 CDH 集群(Cloudera Manager) #### 搭建环境概述 本文档旨在详细介绍如何在 Ubuntu 14.04.3 系统下构建一个完整的 Cloudera Manager (CM) 管理的 CDH 集群。该集群将使用三台物理...

Global site tag (gtag.js) - Google Analytics