- 利用apt-get install 命令安装cdh3,所以首先要添加它的库(repository),方法如下:
新建文件/etc/apt/sources.list.d/cloudera.list,内容如下
deb http://archive.cloudera.com/debian <RELEASE>-cdh3 contrib
deb-src http://archive.cloudera.com/debian <RELEASE>-cdh3 contrib
其中<RELEASE>部分要用lsb_release -c命令的结过替换。如我的电脑的执行结果如下所示
hadoop@hzs-755-hzhang-desktop:/usr/lib$ lsb_release -c
Codename: lucid
那么替换的结果如下所示
deb http://archive.cloudera.com/debian lucid-cdh3 contrib
deb-src http://archive.cloudera.com/debian lucid-cdh3 contrib
保存退出。
执行一下下面的命令:
$ curl -s http://archive.cloudera.com/debian/archive.key | sudo apt-key add -
- 更新apt包的索引
$ sudo apt-get update
- 我们要安装hadoop,所以搜索下有哪些可用的版本
apt-cache search hadoop
- 安装hadoop-0.20
sudo apt-get install hadoop-0.20
- 安装完成后,接下来配置一下hadoop的伪分布式模式
conf/core-site.xml
:
<configuration> |
<property> |
<name>fs.default.name</name> |
<value>hdfs://localhost:9000</value> |
</property> |
</configuration> |
conf/hdfs-site.xml
:
<configuration> |
<property> |
<name>dfs.replication</name> |
<value>1</value> |
</property> |
</configuration> |
conf/mapred-site.xml
:
<configuration> |
<property> |
<name>mapred.job.tracker</name> |
<value>localhost:9001</value> |
</property> |
</configuration> |
同时别忘了修改hadoop-env.sh文件,指定一下JAVA_HOME的值。
- 由于cdh版本的hadoop不能用root帐户启动,所以我们接下来要创建hadoop用户和组
- 创建组hadoop,
sudo groupadd hadoop
- 创建用户hadoop,
sudo useradd -g hadoop -d /home/hadoop -m hadoop
- 修改用户hadoop的密码
sudo passwd hadoop
- 切换到用户hadoop
su - hadoop
- 验证下如下命令是否需要输入密码,
ssh localhost
如果需要密码,那么执行
$ ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
$ cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys
- 最后启动hadoop,并通过访问下面两个连接,如果可以访问说明hadoop安装成功。
bin/start-all.sh
NameNode
-
http://localhost:50070/
JobTracker
-
http://localhost:50030
参考:
https://ccp.cloudera.com/display/CDHDOC/CDH3+Installation
http://hadoop.apache.org/common/docs/r0.20.2/quickstart.html
分享到:
相关推荐
CDH6.3.2完整安装包网盘下载,包含 CDH-6.3.2-1.cdh6.3.2.p0.1605554-bionic.parcel、CDH-6.3.2-1.cdh6.3.2.p0.1605554-bionic.parcel.sha1、CDH-6.3.2-1.cdh6.3.2.p0.1605554-bionic.parcel.sha256、CDH-6.3.2-1....
ubuntu下安装hadoop集群,设置ssh对其他node无密码访问
ubuntu16.04 安装Hadoop大数据平台CDH 5.14.1,通过虚拟机VMware安装Ubuntu之后,安装Hadoop大数据平台,使用CDH5.14.1
在Ubuntu系统上安装CDH集群,需要遵循一定的步骤和约束条件。 **安装约束** 1. 确保Ubuntu系统的版本是Ubuntu 14.04。 2. CDH的离线安装版本应为CDH-5.14.2-1.cdh5.14.2.p0.3-trusty,其中"trusty"是对应Ubuntu ...
2. **安装Cloudera Manager Server**:在tehdmonitor节点上安装Cloudera Manager Server。 3. **添加Repository**:配置Cloudera Manager以使用CDH 5.4.8的仓库。 4. **部署Hadoop组件**:通过Cloudera Manager界面...
CDH Parcel文件是Cloudera提供的大数据平台安装包,包含了Hadoop、Hive、Impala等组件。部署CDH Parcel文件需要将Parcel文件上传到/opt/cloudera/parcel-repo目录下,并更改文件的所有权。 四、配置Cloudera ...
Cloudera 企业级数据中心的安装文档,基于Ubuntu 14.04( trusty) 本地快速安装 CDH 5.4.7,这篇文档将采用5节点,重介绍 Cloudera 管理器与 CDH 的安装注意事项,欢迎大数据工程师下载搭建测试环境.
cdh离线安装教程;enterprise-debuginfo-6.3.1-1466458.el7.x86_64.rpm;cloudera-manager-daemons-6.3.1-1466458.el7.x86_64.rpm;cloudera-manager-agent-6.3.1-1466458.el7.x86_64.rpm;cloudera-manager-server-...
CDH6.3.2安装包下载,最后一个免费的版本,已经在生产环境实践安装过,集群环境是3台阿里云ECS,12C48G,1TB ESSD云盘
首先,确保系统已经安装了Snappy的开发库,通过命令`sudo apt-get install libsnappy-dev`(对于Ubuntu/Debian)或`yum install snappy-devel`(对于CentOS/RHEL)进行安装。接着,需要修改Hadoop的配置文件,如`...
标题中的"hadoop-2.6.0-cdh5.12.1-x64-native.zip"指示了这是一个针对Hadoop 2.6.0版本,适用于CDH(Cloudera Distribution Including Apache Hadoop)5.12.1的64位本机库压缩包。CDH是Cloudera公司提供的一个完整的...
本篇文档详细介绍了在Ubuntu 16.04.5服务器上离线安装CDH5.14.2的步骤,这对于没有互联网连接或网络受限的环境尤其有用。 首先,安装前需要进行一系列的系统检查。确保所有服务器的root密码已设置并允许root用户...
- 安装Java运行环境:CDH和CM都需要Java环境支持,所以要确保系统上已经安装了JDK 8或更高版本。 - 配置YUM源:Cloudera提供了RPM包,需要将Cloudera的YUM仓库添加到系统中,可以通过添加Cloudera的GPG密钥和配置...
- **JDK 环境准备**:在所有节点上安装 JDK 1.7。 - **配置网络源**:确保所有节点都能访问外部仓库。 - **主机名配置**:正确配置每个节点的主机名。 - **SSH 无密码登录**:在主节点上配置 SSH 免密登录到其他节点...
本文档旨在为读者提供关于在CDH(Cloudera Distribution Including Apache Hadoop)环境下安装和配置Hadoop-Fuse-Dfs的详细步骤及注意事项。通过本文档的学习,用户能够了解如何通过Hadoop-Fuse-Dfs实现HDFS(Hadoop...
本文档提供了Hadoop 2.0在Linux系统上安装部署的详细步骤和方法。 一、准备工作 首先,需要准备足够的硬件资源和软件包。硬件方面,测试环境通常需要一台配置较高(建议内存不小于4GB)的PC或服务器,而生产环境则...
CDH6安装步骤主要包括以下四部分: 1.安全前置准备,包括安装操作系统、关闭防火墙、同步服务器时钟等; 2.外部数据库如MySQL安装 3.安装Cloudera Manager; 4.安装CDH集群; 请务必注意CDH6的安装前置条件包括如下...
- 在主控节点(如hadoop01)上安装CM控制台,这是CDH集群安装的基础。 2. **通过CM安装CDH**: - 安装完成后,可以通过CM Web界面安装CDH及其相关组件。 3. **添加受控节点**: - 完成CM和CDH的基本安装后,可以...
6. **配置CM代理**:在所有数据节点上安装Cloudera Manager代理,并配置指向管理节点的URL。 7. **部署集群**:通过Cloudera Manager界面,按照指南创建新的集群,选择要安装的服务和组件。注意配置合适的资源分配...