`
zzw0309452
  • 浏览: 10422 次
  • 性别: Icon_minigender_1
  • 来自: 杭州
最近访客 更多访客>>
社区版块
存档分类
最新评论

ubuntu上安装cdh3(hadoop)

阅读更多
  • 利用apt-get install 命令安装cdh3,所以首先要添加它的库(repository),方法如下:

新建文件/etc/apt/sources.list.d/cloudera.list,内容如下

deb http://archive.cloudera.com/debian <RELEASE>-cdh3 contrib
deb-src http://archive.cloudera.com/debian <RELEASE>-cdh3 contrib

 其中<RELEASE>部分要用lsb_release -c命令的结过替换。如我的电脑的执行结果如下所示

hadoop@hzs-755-hzhang-desktop:/usr/lib$ lsb_release -c
Codename:	lucid

 那么替换的结果如下所示

deb http://archive.cloudera.com/debian lucid-cdh3 contrib
deb-src http://archive.cloudera.com/debian lucid-cdh3 contrib

 保存退出。

执行一下下面的命令:

 

$ curl -s http://archive.cloudera.com/debian/archive.key | sudo apt-key add -
  •  上面已经完成了库的添加,下面就可以安装了
  1. 更新apt包的索引
    $ sudo apt-get update
  2. 我们要安装hadoop,所以搜索下有哪些可用的版本
    apt-cache search hadoop
  3. 安装hadoop-0.20
    sudo apt-get install hadoop-0.20
     
  • 安装完成后,接下来配置一下hadoop的伪分布式模式

conf/core-site.xml :

<configuration>
  <property>
    <name>fs.default.name</name>
    <value>hdfs://localhost:9000</value>
  </property>
</configuration>


conf/hdfs-site.xml :

<configuration>
  <property>
    <name>dfs.replication</name>
    <value>1</value>
  </property>
</configuration>


conf/mapred-site.xml :

<configuration>
  <property>
    <name>mapred.job.tracker</name>
    <value>localhost:9001</value>
  </property>
</configuration>

 

同时别忘了修改hadoop-env.sh文件,指定一下JAVA_HOME的值。

  • 由于cdh版本的hadoop不能用root帐户启动,所以我们接下来要创建hadoop用户和组
  1. 创建组hadoop,
    sudo groupadd hadoop
  2. 创建用户hadoop,
    sudo useradd -g hadoop -d /home/hadoop -m hadoop
  3. 修改用户hadoop的密码
    sudo passwd hadoop
  4. 切换到用户hadoop
    su - hadoop
  5. 验证下如下命令是否需要输入密码,
    ssh localhost
     如果需要密码,那么执行
    $ ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
    $ cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys
  • 最后启动hadoop,并通过访问下面两个连接,如果可以访问说明hadoop安装成功。
bin/start-all.sh 

NameNode - http://localhost:50070/

 JobTracker - http://localhost:50030

 

 

参考:

https://ccp.cloudera.com/display/CDHDOC/CDH3+Installation

http://hadoop.apache.org/common/docs/r0.20.2/quickstart.html

分享到:
评论

相关推荐

    ubuntu-CDH6.3.2完整安装包网盘下载地址

    CDH6.3.2完整安装包网盘下载,包含 CDH-6.3.2-1.cdh6.3.2.p0.1605554-bionic.parcel、CDH-6.3.2-1.cdh6.3.2.p0.1605554-bionic.parcel.sha1、CDH-6.3.2-1.cdh6.3.2.p0.1605554-bionic.parcel.sha256、CDH-6.3.2-1....

    ubuntu下安装hadoop集群

    ubuntu下安装hadoop集群,设置ssh对其他node无密码访问

    ubuntu16.04 安装Hadoop大数据平台CDH 5.14.1

    ubuntu16.04 安装Hadoop大数据平台CDH 5.14.1,通过虚拟机VMware安装Ubuntu之后,安装Hadoop大数据平台,使用CDH5.14.1

    CDH详细安装教程

    在Ubuntu系统上安装CDH集群,需要遵循一定的步骤和约束条件。 **安装约束** 1. 确保Ubuntu系统的版本是Ubuntu 14.04。 2. CDH的离线安装版本应为CDH-5.14.2-1.cdh5.14.2.p0.3-trusty,其中"trusty"是对应Ubuntu ...

    Ubuntu 14.04 LTS下通过Cloudera CDH 5.4.8搭建Hadoop集群.pdf

    2. **安装Cloudera Manager Server**:在tehdmonitor节点上安装Cloudera Manager Server。 3. **添加Repository**:配置Cloudera Manager以使用CDH 5.4.8的仓库。 4. **部署Hadoop组件**:通过Cloudera Manager界面...

    cdh6.3.1离线完整版(百度网盘下载)

    CDH安装包

    大数据平台CDH6.2.0安装部署

    CDH Parcel文件是Cloudera提供的大数据平台安装包,包含了Hadoop、Hive、Impala等组件。部署CDH Parcel文件需要将Parcel文件上传到/opt/cloudera/parcel-repo目录下,并更改文件的所有权。 四、配置Cloudera ...

    CDH 5.4.7本地快速安装教程,基于ubuntu14.04

    Cloudera 企业级数据中心的安装文档,基于Ubuntu 14.04( trusty) 本地快速安装 CDH 5.4.7,这篇文档将采用5节点,重介绍 Cloudera 管理器与 CDH 的安装注意事项,欢迎大数据工程师下载搭建测试环境.

    CDH6.3.2完整安装包网盘下载地址

    cdh离线安装教程;enterprise-debuginfo-6.3.1-1466458.el7.x86_64.rpm;cloudera-manager-daemons-6.3.1-1466458.el7.x86_64.rpm;cloudera-manager-agent-6.3.1-1466458.el7.x86_64.rpm;cloudera-manager-server-...

    CDH6.3.2安装包下载

    CDH6.3.2安装包下载,最后一个免费的版本,已经在生产环境实践安装过,集群环境是3台阿里云ECS,12C48G,1TB ESSD云盘

    hadoop-2.6.0-cdh5.16.2.tar.gz for linux 支持snappy

    首先,确保系统已经安装了Snappy的开发库,通过命令`sudo apt-get install libsnappy-dev`(对于Ubuntu/Debian)或`yum install snappy-devel`(对于CentOS/RHEL)进行安装。接着,需要修改Hadoop的配置文件,如`...

    hadoop-2.6.0-cdh5.12.1-x64-native.zip

    标题中的"hadoop-2.6.0-cdh5.12.1-x64-native.zip"指示了这是一个针对Hadoop 2.6.0版本,适用于CDH(Cloudera Distribution Including Apache Hadoop)5.12.1的64位本机库压缩包。CDH是Cloudera公司提供的一个完整的...

    CDH5.14安装步骤.docx

    本篇文档详细介绍了在Ubuntu 16.04.5服务器上离线安装CDH5.14.2的步骤,这对于没有互联网连接或网络受限的环境尤其有用。 首先,安装前需要进行一系列的系统检查。确保所有服务器的root密码已设置并允许root用户...

    cdh6.3.1+cm6.3.1安装包-cdh安装包大全

    - 安装Java运行环境:CDH和CM都需要Java环境支持,所以要确保系统上已经安装了JDK 8或更高版本。 - 配置YUM源:Cloudera提供了RPM包,需要将Cloudera的YUM仓库添加到系统中,可以通过添加Cloudera的GPG密钥和配置...

    hadoop-CDH4.6-install.docx

    - **JDK 环境准备**:在所有节点上安装 JDK 1.7。 - **配置网络源**:确保所有节点都能访问外部仓库。 - **主机名配置**:正确配置每个节点的主机名。 - **SSH 无密码登录**:在主节点上配置 SSH 免密登录到其他节点...

    hadoop-fuse-dfs安装.docx

    本文档旨在为读者提供关于在CDH(Cloudera Distribution Including Apache Hadoop)环境下安装和配置Hadoop-Fuse-Dfs的详细步骤及注意事项。通过本文档的学习,用户能够了解如何通过Hadoop-Fuse-Dfs实现HDFS(Hadoop...

    Hadoop 2.0安装部署方法

    本文档提供了Hadoop 2.0在Linux系统上安装部署的详细步骤和方法。 一、准备工作 首先,需要准备足够的硬件资源和软件包。硬件方面,测试环境通常需要一台配置较高(建议内存不小于4GB)的PC或服务器,而生产环境则...

    linux下部署CDH6.0.1详细步骤

    CDH6安装步骤主要包括以下四部分: 1.安全前置准备,包括安装操作系统、关闭防火墙、同步服务器时钟等; 2.外部数据库如MySQL安装 3.安装Cloudera Manager; 4.安装CDH集群; 请务必注意CDH6的安装前置条件包括如下...

    CDH-5.XX 离线安装及升级步骤及安装过程常见错误.txt

    - 在主控节点(如hadoop01)上安装CM控制台,这是CDH集群安装的基础。 2. **通过CM安装CDH**: - 安装完成后,可以通过CM Web界面安装CDH及其相关组件。 3. **添加受控节点**: - 完成CM和CDH的基本安装后,可以...

Global site tag (gtag.js) - Google Analytics