`
sunwinner
  • 浏览: 202552 次
  • 性别: Icon_minigender_1
  • 来自: 上海
社区版块
存档分类
最新评论

Cloudera Manager 安装小型Hadoop集群

 
阅读更多

Cloudera提供了几种安装方法,具体可以参见Cloudera文档。这里我介绍的方法是用Cloudera Manager来安装。Cloudera Manager提供三种选项,区别可见Cloudera文档:

  • Free edition
  • 60 Days trial of enterprise edition, 60天以后自动切换为free edition
  • Enterprise edition

环境:

  • OS X Mountain Lion
  • VMWare Fusion
  • Cent OS 6.2
  • Cloudera Manager 4.5 , the latest version at present
  • 安装三台虚拟机作为三个节点,都使用命令行界面,因为我的笔记本资源有限,使用图形界面太耗资源。

首先,利用VMWare安装一台命名为Base虚拟机,只安装最基本的软件,这里我安装了perl和openssh-clients,关闭iptables,SELinux。注意事项如下:

  • 取消VMWare easy install,网卡使用Bridge模式。在启动界面,选择适合的内核再进入编辑模式,输入expert text,使用文本界面安装。安装过程中根据自己需要选择合适的CPU数量,内存大小。
  • 安装完毕,现在需要设置Cent OS。因为我们是用全文本模式安装,重启之后网卡还需要作一些设置才能启动。
    #vi /etc/resolve.conf
    search example.com
    nameserver 192.168.1.1
     
    #vi /etc/sysconfig/network
    NETWORKING=yes
    HOSTNAME=changelater.example.com
    GATEWAY=192.168.1.1
     
    #vi /etc/selinux/config
    SELINUX=disabled
    
     
    #chkconfig iptables off
     
    #vi /etc/sysconfig/network-scripts/ifcfg-eth0
    DEVICES=eth0
    ONBOOK=yes
    PROTO=static
    IPADDR=192.168.1.200
    NETMASK=255.255.255.0
     启动网卡:
    #/etc/init.d/network restart
     
    #yum -y perl openssh-clients
     然后安装VMWare-Tools,略过,网上教程一搜一把。
    #vi /etc/hosts
    
    192.168.1.201 n1.example.com n1
    192.168.1.202 n2.example.com n2
    192.168.1.203 n3.example.com n3
     
    #ssh-keygen 两次回车
    #cd .ssh
    #cp id_rsa authorized_keys
    #vi /etc/ssh/ssh_config
    StrictHostKeyChecking no
    
     
    yum update
     到此,base准备完毕。这个节点最好备份一下,将来稍作设置就可以作为新的节点加入集群。
  • 用VMWare制作Base节点的三个拷贝,cdh4-1, cdh4-2, cdh4-3,这样就有了三个节点。
  • 启动cdh4-1,cdh4-2,cdh4-3。并分别设置,这里我以cdh4-1为例。
    #vi /etc/sysconfig/network
    HOSTNAME=n1.example.com
     
    #cd /etc/sysconfig/network-scripts
    #mv ifcfg-eth0 ifcfg-eth1
    #vi ifcfg-eth1
    IPADDR=192.168.1.201
     
    #/etc/init.d/network restart
    #init 6
     
  • 接下来就是安装Cloudera Manager的过程了,本来到了这里一切都很简单了,但不幸的是我们生活在天朝,到cloudera官网取安装源的速度慢得可怕。一番Google之后,我发现了这篇blog:cdh4云存储最实用搭建方法。参考该博文安装,并注意选择软件版本即可。
分享到:
评论

相关推荐

    Ubuntu 14.04 LTS下通过Cloudera CDH 5.4.8搭建Hadoop集群.pdf

    ### 在Ubuntu 14.04 LTS下通过Cloudera CDH 5.4.8搭建Hadoop集群 #### 1. 前期准备工作 ##### 1.1 集群规划 为了构建一个高效的Hadoop集群,首先需要对硬件资源进行合理规划。根据文档中的描述,该集群共有8台...

    CLOUDERA-Manager_中文手册(全 高清)+ CDH安装手册.pdf

    * 集群安装:Cloudera Manager提供了自动化的集群安装功能,能够快速部署Hadoop集群。 * 集群配置:Cloudera Manager提供了灵活的集群配置功能,能够满足不同用户的需求。 * 权限管理:Cloudera Manager提供了完善的...

    Cloudera Hadoop 安装指南

    此外,文档还提供了关于Cloudera Manager的安装指导,这是一个用于管理Hadoop集群的强大工具。 ### Cloudera Manager简介 Cloudera Manager是一个用于简化Hadoop及其相关项目部署和管理过程的工具。它提供了图形...

    Cloudera Manager安装部署

    Cloudera Manager安装部署.pdf

    Cloudera Manager 和 CHD5.3.3 集群 离线安装

    Cloudera Manager是Cloudera公司提供的用于部署、管理和监控Apache Hadoop集群的软件平台。CDH是Cloudera Distribution包括Hadoop的简称,是Cloudera提供的Hadoop生态系统产品的集合。 知识点一:安装前的准备工作 ...

    CLOUDERA-Manager-中文手册

    - **集群安装**:Cloudera Manager简化了Hadoop集群的部署过程,使得运维人员可以快速、高效地设置和配置新集群,包括安装和升级各个组件,如Hadoop、Hive、Spark等。 - **集群配置**:对于已部署的集群,Cloudera...

    妳那伊抹微笑_云计算之ClouderaManager以及CHD5.1.0集群部署安装文档V1.0.docx

    妳那伊抹微笑_云计算之ClouderaManager以及CHD5.1.0集群部署安装文档V1.0.docx 该文档与教程http://blog.csdn.net/u012185296/article/details/38084107 配套使用的,主要讲的是妳那伊抹微笑_云计算之Cloudera...

    java调用Cloudera Manager Api实例

    Cloudera Manager是管理Hadoop和其他Cloudera支持的数据处理服务的流行平台。下面将详细阐述如何在Java环境中设置和执行API调用。 首先,理解Cloudera Manager API的基础知识至关重要。API(应用程序编程接口)是一...

    CLOUDERA-Manager_中文手册(全)

    Cloudera Manager是Cloudera公司开发的一款用于简化Apache Hadoop集群管理的工具,它提供了集群监控、软件部署、集群配置管理、服务管理以及诊断分析等功能。 ### Cloudera Manager版本信息 文档提到了Cloudera ...

    大数据集群Cloudera Manager日常运维手册.docx

    "大数据集群Cloudera Manager日常运维手册" 大数据集群Cloudera Manager是大数据处理和分析的核心组件之一,它提供了一个统一的管理平台,用于管理和维护大数据集群。Cloudera Manager日常运维手册是大数据集群管理...

    cloudera manager的运行机制及目录

    Cloudera Manager是Cloudera公司提供的一套用于管理Apache Hadoop集群的软件,它简化了Hadoop集群的安装、部署和运维工作。Cloudera Manager使用C/S结构,包含一个Server端和若干Agent端。Server端负责集群的管理、...

    cdh7.5 cloudera manager 安装全套软件和视频推荐

    3. **cloudera-manager-server-7.2.4-7594142.el7.x86_64.rpm**:这是Cloudera Manager Server的核心组件,它负责整个集群的管理,包括安装、配置和监控等任务。 4. **cloudera-manager-server-db-2-7.2.4-7594142....

    ClouderaManager 管理手册 中文版

    Cloudera Manager支持集群安装和集群配置,可以自动化整个部署过程,从而极大地缩短Hadoop集群的部署时间。此外,Cloudera Manager提供了一个集中的中央控制台,管理员可以通过这个控制台来管理集群,包括安装软件、...

    ClouderaManager-中文手册-实战总结.pdf

    Cloudera Manager是CDH市场领先的管理平台,作为业界第一的端到端Apache Hadoop的管理应用,Cloudera Manager对CDH的每个部件都提供了细粒度的可视化和控制,从而设立了企业部署的标准。通过Cloudera Manager,运维...

    ClouderaManager运维_中文手册

    Cloudera Manager的目的是简化企业数据中心的管理,它能够自动化安装和配置Hadoop集群,显著缩短部署时间,并提供集群范围内的节点实时运行状态视图。此外,它还配备了集中的中央控制台以供配置集群,并具备一系列...

    ClouderaManager_手册.pdf

    Cloudera Manager的主要特点在于其强大的集群安装和配置功能。它能够自动安装并配置CDH集群,显著减少了Hadoop集群部署的时间。此外,Cloudera Manager提供的实时集群监控能够帮助管理员及时了解集群中各节点和服务...

    cloudera manager安装

    Cloudera Manager (CM) 是一款用于部署、管理 Hadoop 的工具,提供了直观的 Web 用户界面来帮助用户轻松地进行集群的管理和监控。在安装 CM 之前,需要对系统环境进行一系列的准备。 ##### 1.1 系统yum源配置 为了...

    Cloudera-Manager3安装步骤

    anager是Cloudera公司提供的一款全面管理大数据平台的工具,主要负责...在后续的使用中,Cloudera Manager允许管理员轻松地扩展集群,管理数据流动,优化资源分配,并提供了一整套工具来帮助管理和优化Hadoop生态系统。

    Cloudera-Manager.pdf

    Cloudera Manager是一款领先的大数据平台管理工具,专注于简化CDH...通过减少部署时间、提供实时监控、集成安全措施和诊断工具,Cloudera Manager显著提升了Hadoop集群的运维效率,是大数据管理不可或缺的工具书。

    Cloudera Manager API v14 中文

    Cloudera Manager API v14 提供了一系列强大的接口,使得管理员能够高效地管理 Hadoop 集群和其他相关服务。通过这些 API,可以实现自动化配置、审计追踪、集群维护等多种高级管理任务。此外,API 还支持对集群进行...

Global site tag (gtag.js) - Google Analytics