`
heipark
  • 浏览: 2097604 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

原创抢鲜教程:快用Cloudera SCM Express管理你的hadoop集群吧

阅读更多

Cloudera SCM Express简介:

Cloudera是一家专业从事基于Apache Hadoop的数据管理软件销售和服务的公司,该公司最近发布了Cloudera SCM Express,该软件让任何人都能快速、轻松地安装和配置基于Apache Hadoop的完整堆栈。

Cloudera SCM Express能帮助部署,配置和管理一系列的Apache Hadoop服务,并允许所有人去开发和集中管理一个超过50个节点的完整的Apache Hadoop集群。这款免费软件支持自动安装和配置,将部署时间从数周减少到几分钟,并提供群集范围的,实时的对节点和服务的监控。

 

下载

https://ccp.cloudera.com/display/SUPPORT/Downloads

 

下载文件完成后,你会得到一个名为“scm-installer.bin”的文件。

 

安装

系统要求(必须是64为操作系统): 

Red Hat Enterprise Linux 5  Linux 6 、CentOS 5

SUSE Linux Enterprise Server 11

 

安装命令:

chmod u+x scm-installer.bin

sudo ./scm-installer.bin

 

这时将打开安装图形界面,会联网安装JDK(如果没有安装的话), SCM Server、PostgreSQL数据库

安装过程结束后,打开浏览器,开始在线安装、管理Hadoop了,用户名密码,默认为:admin/admin

 

 

后面几个页面会要求输出管理机器列表、机器用户名密码等,我就略过了,大家可以在最下面的官方参考URL里查看。

 

我遇到的问题:

 

  1. 下载软件包的时候总是因为timeout而失败,解决办法:在server上多添加几个DNS IP
  2. 在启动SCM Agent 的时候失败,原因是我机器多IP导致的,解决办法:在/etc/hosts里面设置好机器名与IP对应关系就OK了。这个问题花了好大功夫才解决,在官方的user group里面有类似情况,帖子地址为:https://groups.google.com/a/cloudera.org/group/scm-users/browse_thread/thread/a72d2452cb307d6c

 

安装完软件是下面的图片(官方摘录),虽然过程比较慢,但这感觉太爽了。


 

 

9.9日遇到在选择Servive后报空指针错误,之后我还和cloudera工程师沟通,他们怀疑是磁盘不一致导致的,然后他们就放周末了,我等不及了,研究了下这个项目,项目的安装路径在“/usr/share/cmf/”,项目的class被打包到lib里面的jar包,仔细查看发现“server-3.6.1.1.jar”这个是我需要的类(页面上报相关类空指针),反编译后,反复调试找到问题行,取了个巧跳过了问题,终于继续前进了,不过cloudera的工程师还是很敬业的,回复很快,不过我们不是一个时区。。。。另外:hadoop被安装到了“/usr/lib/hadoop-0.20

 

其它几步我安装很顺利,9.11当天终于全部配置成功,而且看到了大名鼎鼎的HUE,给大家看看图片:

 




 

 

下周需要做一个hadop项目,就用它做管理了,太棒了。

 

-- 未完 --

 

  • 大小: 44.4 KB
  • 大小: 135.3 KB
  • 大小: 56.8 KB
  • 大小: 55.5 KB
  • 大小: 49.9 KB
分享到:
评论
2 楼 startandornot 2012-01-20  
请问 Cloudera Manager 在重新启动系统后怎么这个服务启动起来?

也就是  访问 http://localhost:7180 的管理界面
1 楼 supermy 2011-09-22  
ok 3xs

相关推荐

    Ubuntu 14.04 LTS下通过Cloudera CDH 5.4.8搭建Hadoop集群.pdf

    - **tehdmonitor**(10.167.192.231):Cloudera Manager服务端,用于监控集群状态和管理集群; - **tehdname1**(10.167.192.224):主Namenode,负责处理文件系统的元数据; - **tehdname2**(10.167.192.225):...

    CLOUDERA-Manager_中文手册(全 高清)+ CDH安装手册.pdf

    Cloudera Manager是一款基于大数据管理平台,用于管理Hadoop集群和CDH(Cloudera Distribution of Hadoop)集群。该手册详细介绍了Cloudera Manager的产品介绍、基本功能、监控功能等内容。 产品介绍 Cloudera ...

    Cloudera Hadoop 安装指南

    根据给定的文件信息,以下是对Cloudera Hadoop安装指南中的关键知识点的...同时,Cloudera Manager作为一款优秀的管理工具,极大地简化了Hadoop集群的部署和维护工作,降低了管理和运维的成本,提升了整体的工作效率。

    Hadoop集群

    这些公司根据不同的业务需求,部署了不同规模的Hadoop集群,用以实现复杂的大数据应用,如推荐系统、金融分析、自然语言处理等。由于Hadoop是一个批处理系统,并不支持实时的数据处理和在线事务处理,它更适用于对...

    Cloudera Hadoop 5&Hadoop高阶管理及调优课程

    Cloudera Hadoop 5&Hadoop高阶管理及调优课程,完整版,提供课件代码资料下载。 内容简介 本教程针对有一定Hadoop基础的学员,深入讲解如下方面的内容: 1、Hadoop2.0高阶运维,包括Hadoop节点增加删除、HDFS和...

    基于cloudera搭建hadoop集群

    一. Cloudera Manager 4 二. 下载地址 4 三....四....1. 网络配置 5 2. 修改主机名(hostname) 6 3. 关闭selinux 6 4. 子节点互通配置 6 ...11. 设置hadoop存储目录 11 ...5. 启动service cloudera-scm-agent start 失败 42

    hadoop集群

    使用如Ambari、Cloudera Manager等工具可以简化Hadoop集群的管理和监控,它们提供了图形界面,方便查看集群状态、资源使用情况、日志分析等。 总的来说,搭建Hadoop集群涉及多个步骤,包括硬件准备、环境配置、软件...

    Hadoop集群环境搭建

    Hadoop集群环境搭建是大数据处理的核心组件之一,本文将详细介绍Hadoop集群环境的搭建过程,包括集群规划、前置条件、免密登录、集群搭建、提交服务到集群等几个方面。 集群规划 在搭建Hadoop集群环境时,需要首先...

    Cloudera Developer_Training_Hadoop CCDH

    Cloudera Developer Training for Apache Hadoop CCDH是一门专注于Hadoop的开发者培训课程,由Cloudera公司提供。Cloudera是全球领先的Hadoop发行版提供商和相关服务的供应商,致力于推动Apache Hadoop技术的应用和...

    Hadoop集群搭建超详细步骤及注意点

    ### Hadoop集群搭建详解 Hadoop作为大数据处理领域的重要工具之一,其集群的搭建对于企业级数据处理至关重要。本文将详细介绍Hadoop集群的搭建步骤及其注意事项,帮助读者顺利完成Hadoop集群的部署。 #### 一、...

    CDH+集群安全启动和关闭.doc

    - **目的**:Cloudera SCM Server是整个集群的核心管理组件,负责监控和管理集群中的服务。在关闭所有代理之后,接下来需要关闭SCM Server。 - **操作步骤**: - 登录到安装了Cloudera SCM Server的主机(通常称为...

    Hadoop集群自动安装

    5. **配置管理**:在自动化安装过程中,需要对Hadoop集群的配置进行管理,包括定义DataNode和NameNode、ResourceManager和NodeManager等角色,设置HDFS的副本数量,调整YARN的资源分配等。 6. **安全设置**:对于...

    CDH搭建Hadoop集群

    本文档主要以使用Cloudera Manager5.9.3 自动搭建Hbase集群为例,介绍如何...至于如何使用Cloudera Manager来管理集群以及进行数据分析之类的工作,请参考官方文档说明。Cloudera Manager官网https://www.cloudera.com/

    Hadoop集群详细配置文档

    集群采用的是Cloudera提供的Hadoop 5.13版本,并且运行于CentOS 6.7操作系统之上。以下步骤将会详细介绍如何进行虚拟机的基本设置、网络配置、JDK环境配置、SSH免密码登录配置以及YARN资源管理器的配置。 #### 二、...

    hadoop集群安装.docx

    - **修改主机名**:使用root权限修改每台机器的主机名,这有助于识别和管理集群中的各个节点。 - **重启**:更改后的配置需要重启以使改动生效。 - **验证网络连通性**:通过`ping`命令检查节点间的网络连接,...

    Hadoop集群管理

    ### Hadoop集群管理:节点磁盘数据结构与集群管理工具详解 #### 节点磁盘数据结构 在深入理解Hadoop集群管理之前,我们首先需要了解Hadoop集群中的节点磁盘数据结构。Hadoop的核心组件之一是HDFS(Hadoop ...

    Cloudera技术参考资料

    - **概述:** Cloudera Manager 是一款用于管理 Cloudera Hadoop 集群的工具,可以简化集群的安装、配置和监控过程。 - **优势:** 提供图形化界面,支持自动化部署,具备丰富的监控指标和警报系统。 4. **...

    Cloudera认证 410

    7. **集群管理和监控**:学习Cloudera Manager的使用,它是Cloudera平台的中央管理工具,用于配置、监控和管理Hadoop集群。 8. **安全与访问控制**:理解Kerberos和Hadoop的权限模型,如HDFS的ACLs(访问控制列表)...

Global site tag (gtag.js) - Google Analytics