前言
以前部署hadoop集群,一直使用cloudera提供的tarball部署安装,今天尝试使用CM在新机器部署hadoop,因为使用它使用起来简单方便,并且提供了一系列的监控功能.但由于CM的安装是要联网的,而且cloudera还在中国没有源,所以安装过程非常的慢,而且失败率很高(网络不好的同学相信很有体会).所以自己摸索着搭建一个本地源,用于CM的安装.记录如下
环境:
品牌机PC6台,4核/11G内存/400G硬盘,Centos6.4.
一台能联网的PC,作用:下载数据包,搭建源环境.
机器host如下,其中232用作源服务器,不作为集群机使用.由于233机器出了问题,所以只能装6台,
准备:
1.CM的安装必须使用root帐户,并且要关闭SElinux和防火墙
关闭SELinux的方法:
修改/etc/selinux/config文件中的SELINUX="" 为 disabled ,然后重启。
关闭防火墙:
/sbin/service iptables stop
cloudera manager server 依赖的包 postgresql-server,postgresql,postgresql-libs
每个agent依赖的包fuse-libs,fuse,redhat-lsb
这些依赖必须先装上.可使用rpm -qa 包名 查看是否已安装.
2.下载文件
1.首先下载安装CM的bin文件,下载地址
http://archive.cloudera.com/cm4/installer/latest/cloudera-manager-installer.bin
2.下载cloudera-manager依赖的rpm文件
不同的操作系统对应不同rpm文件,Centos6对应的下载地址是
http://archive.cloudera.com/cm4/redhat/6/x86_64/cm/4.8.0/
建议使用linux 的wget下载,可以把以上整个目录和目录包含的文件一次性下载.
wget -r --no-parent http://archive.cloudera.com/cm4/redhat/6/x86_64/cm/4/
-r表示递归下载, --no-parent表示不下载父目录文件
3.下载Hadoop集群所需要的rpm包
CM4整个安装过程,依赖4个组件,分别是manager,cdh4,impala和solr,所以需要把这4个组件所依赖的rpm包都下载,
不同的操作系统对应不同rpm文件,所以需要根据自己的操作系统选择对应的下载目录.
cdh4对应的下载地址: http://archive.cloudera.com/cdh4/redhat/6/x86_64/cdh/4/
impala对应的下载地址: http://archive.cloudera.com/impala/redhat/6/x86_64/impala/1/
solr对应的下载地址: http://archive.cloudera.com/search/redhat/6/x86_64/search/1/
(manager相关rpm包在上一步已下载)
建议以上文件都使用wget方法下载(下载过程会比较漫长…)
下载方法:
如我下载的文件放在/data1/CDH目录下,对应先建立4个文件夹cdh4,impala,manager和solr
如下载manager,先进入manager目录
cd manager
wget -r --no-parent http://archive.cloudera.com/cm4/redhat/6/x86_64/cm/4/
下载后manager的目录结构如下:
其它三个文件组件使用同样的下载方法
4.部署http服务.
在232机器上安装http服务
yum install httpd (如不能使用yum,可使用安装包安装)
安装完成后启动httpd服务
/sbin/service httpd start
在浏览器访问http:// 10.108.74.232 可看到带有apache图标的页面则安装成功
在/var/www/html 目录上建立软连接,分别连向下载好的rpm包目录.
cd /var/www/html
mkdir cm4
ln –s /data1/CDH/manager/archive.cloudera.com/cm4/redhat/ ./cm4
mkdir cdh4
ln –s /data1/CDH/cdh4/archive.cloudera.com/cdh4/redhat/ ./cdh4
mkdir impala
ln –s /data1/CDH/impala/archive.cloudera.com/impala/redhat/ ./ impala
mkdir search
ln –s /data1/CDH/solr/archive.cloudera.com/search/redhat/ ./ search
这样源服务器就搭建好了.
开始安装:
环境已经搭建完成.可以开始安装
选择集群中其中一台机器安装manager server.我选择了235
执行bin文件安装
./ cloudera-manager-installer.bin
一路Next,所有组件都是几秒内安装完成^ ^
至此,manager服务已经安装成功.浏览器访问http://10.108.74.235:7180,打开登录页面,用户名密码都是admin/admin
一路安装至完成.^^
相关推荐
3. **Cloudera Manager相关包**:离线安装Cloudera Manager需要准备一系列的RPM包,如cloudera-repos、cloudera-manager-agent、cloudera-manager-daemons、cloudera-manager-server、cloudera-manager-server-db-2...
CentOS 7 离线安装 Cloudera Manager 6 和 CDH 6.3.1 本文将指导您在 CentOS 7 环境中离线安装 Cloudera Manager 6 和 CDH 6.3.1。整个安装过程可以分为多个步骤,包括环境准备、系统配置、Java 环境配置、SSH 无...
【离线安装Cloudera Manager(tar包版)】 离线安装Cloudera Manager在某些情况下是必要的,特别是在网络环境不稳定或受限制的环境中。本文将详细介绍如何在CentOS7.5系统上,通过tar包的方式离线安装Cloudera ...
Cloudera CM6.3.1 CDH6.3.2 完整版+离线安装教程
Cloudera Manager和CDH 5.3.3集群的离线安装是一种在没有互联网连接的环境下,通过预先下载必要的安装包和软件依赖,然后在本地服务器上进行安装的方法。Cloudera Manager是Cloudera公司提供的用于部署、管理和监控...
### 大数据部署离线安装CDH操作指南 #### 环境准备 为了搭建一个稳定的大数据平台,首先需要准备好必要的硬件资源。本指南基于三台机器进行部署: - **cdh1**:作为CM Server及DB Server,内存至少6GB。 - **cdh2...
在本文中,我们将详细探讨如何在SUSE 12 Service Pack 3 (SP3) 上进行全离线安装Cloudera Manager的过程。Cloudera Manager是管理Apache Hadoop及其相关服务的强大工具,它允许用户轻松地部署、配置、监控和管理...
Cloudera Manager安装手册(离线parcels存储库方式),基于CentOS操作系统一步步傻瓜式安装,截图记录整个部署过程。带集群功能验证,检查集群是否正常工作 目录 一、文档内容 3 二、软硬件环境 3 2.1.软件信息 3 ...
Cloudera Manager安装手册(离线parcels存储库方式),基于CentOS操作系统一步步傻瓜式安装,截图记录整个部署过程。
#### 安装 Cloudera Manager 1. **解压 Cloudera Manager 安装包**: - 将 `cloudera-manager-trusty-cm5.11.0_amd64.tar.gz` 解压到 `/opt` 目录下。 2. **配置 CM Server**: - 在 `/opt/cloudera-manager/cm-...
本文将详细介绍在Linux环境下离线安装Cloudera Manager 5和CDH5的步骤。 **1. 相关软件准备** 首先,你需要下载以下关键组件: - Cloudera Manager安装包:可以从Cloudera官方网站的存档地址获取,例如`cloudera-...
### Centos离线安装CDH生产环境详细教程(含Spark.) #### 一、概述 本文档将详细介绍如何在CentOS环境下进行CDH集群的离线安装,并特别关注于包含Spark在内的生产级部署流程。Cloudera提供的CDH(Cloudera ...
离线安装CDH6.3.2通常是为了在没有互联网连接或者网络环境受限的环境中进行。这需要提前下载所有必要的文件,并在目标系统上手动部署。以下是离线安装CDH6.3.2涉及的一些关键步骤和知识点: 1. **准备环境**:首先...
综上所述,CDH5.10.0离线安装部署涉及了集群规划、角色分配、Cloudera Manager安装、HDFS和YARN的配置以及MySQL数据库环境的搭建等关键步骤。在整个过程中,各个组件的配置和部署都需要严格遵守安装手册的指导,以及...
### 离线安装HADOOP环境 #### 1. 软件下载与准备 在进行Hadoop的离线安装之前,首先需要确保已经获取到了必要的安装包。本章节将详细介绍所需软件的下载地址以及相关注意事项。 ##### 1.1 Linux安装包 Linux操作...
cloudera manager 离线安装包
本文将从CDH离线安装的角度,总结出相关的知识点,涵盖了离线安装的准备工作、安装命令整理、Cloudera Manager的使用、系统优化等方面的内容。 一、离线安装准备工作 1. 软件包准备:将所有安装软件包存放在/opt/...
在进行CDH5.10.0的离线安装部署时,涉及到多个关键步骤和知识点。首先,需要对集群进行规划,随后进行角色分配。CDH(Cloudera's Distribution Including Apache Hadoop)是一个由Cloudera公司开发的基于Hadoop的大...