- 浏览: 2094969 次
- 性别:
- 来自: 北京
文章分类
- 全部博客 (366)
- hadoop (91)
- DB (2)
- vmware (0)
- python (49)
- Java (72)
- Linux (57)
- 多线程 (2)
- hive (1)
- hbase (3)
- mongodb (5)
- Hibernate (3)
- nodejs (1)
- 模式与重构 (1)
- 持续集成CI (4)
- Mysql (2)
- chorme (1)
- 软件开发 (0)
- 敏捷 (5)
- maven (3)
- windows (7)
- 测试驱动 (1)
- scala (3)
- Jetty (0)
- android (1)
- eclipse (1)
- 设计模式 (1)
- 面向对象设计 (2)
- oracle (3)
- cassandra (15)
- pig (3)
- rails (1)
- redis (4)
- ruby (1)
- storm (0)
- 实时运算 (3)
- scribe (1)
- hadoop源码 (3)
- cassandra jna (1)
- Kafka (2)
- Sublime (2)
- C++ (2)
- C (1)
- 版本控制 (1)
- 服务器 (1)
- docker (0)
- flink (1)
最新评论
-
伍大都督:
解释太到位了,感谢分享
理解Linux系统中的load average(图文版) -
rfjian123:
非常感谢,用你的方法解决了问题。
Server sent unexpected return value (403 Forbidden) in response to OPTIONS -
yuhaifei12:
今天遇到同样的问题了。设置的是每分钟执行一次。结果发现每分钟执 ...
解决Linux下crontab同一时间重复执行问题 -
BigBird2012:
想问一下,使用ExecutorService每次都要调用 sh ...
spring quartz使用多线程并发“陷阱” -
zhuqx1130:
有用,谢谢
解决Sublime Text 3中文显示乱码(tab中文方块)问题
Cloudera SCM Express简介:
Cloudera是一家专业从事基于Apache Hadoop的数据管理软件销售和服务的公司,该公司最近发布了Cloudera SCM Express,该软件让任何人都能快速、轻松地安装和配置基于Apache Hadoop的完整堆栈。
Cloudera SCM Express能帮助部署,配置和管理一系列的Apache Hadoop服务,并允许所有人去开发和集中管理一个超过50个节点的完整的Apache Hadoop集群。这款免费软件支持自动安装和配置,将部署时间从数周减少到几分钟,并提供群集范围的,实时的对节点和服务的监控。
下载
https://ccp.cloudera.com/display/SUPPORT/Downloads
下载文件完成后,你会得到一个名为“scm-installer.bin”的文件。
安装
系统要求(必须是64为操作系统):
Red Hat Enterprise Linux 5 ,Linux 6 、CentOS 5
SUSE Linux Enterprise Server 11
安装命令:
chmod u+x scm-installer.bin
sudo ./scm-installer.bin
这时将打开安装图形界面,会联网安装JDK(如果没有安装的话), SCM Server、PostgreSQL数据库
安装过程结束后,打开浏览器,开始在线安装、管理Hadoop了,用户名密码,默认为:admin/admin
后面几个页面会要求输出管理机器列表、机器用户名密码等,我就略过了,大家可以在最下面的官方参考URL里查看。
我遇到的问题:
- 下载软件包的时候总是因为timeout而失败,解决办法:在server上多添加几个DNS IP
- 在启动SCM Agent 的时候失败,原因是我机器多IP导致的,解决办法:在/etc/hosts里面设置好机器名与IP对应关系就OK了。这个问题花了好大功夫才解决,在官方的user group里面有类似情况,帖子地址为:https://groups.google.com/a/cloudera.org/group/scm-users/browse_thread/thread/a72d2452cb307d6c
安装完软件是下面的图片(官方摘录),虽然过程比较慢,但这感觉太爽了。
9.9日遇到在选择Servive后报空指针错误,之后我还和cloudera工程师沟通,他们怀疑是磁盘不一致导致的,然后他们就放周末了,我等不及了,研究了下这个项目,项目的安装路径在“/usr/share/cmf/”,项目的class被打包到lib里面的jar包,仔细查看发现“server-3.6.1.1.jar”这个是我需要的类(页面上报相关类空指针),反编译后,反复调试找到问题行,取了个巧跳过了问题,终于继续前进了,不过cloudera的工程师还是很敬业的,回复很快,不过我们不是一个时区。。。。另外:hadoop被安装到了“/usr/lib/hadoop-0.20”
其它几步我安装很顺利,9.11当天终于全部配置成功,而且看到了大名鼎鼎的HUE,给大家看看图片:
下周需要做一个hadop项目,就用它做管理了,太棒了。
-- 未完 --
评论
也就是 访问 http://localhost:7180 的管理界面
发表评论
-
cloudera CDH5 vmware中cloudera manager报错"Internal error while querying the Host "
2014-07-22 10:19 2045无法获取host和service状态,解决办法: s ... -
thrift0.9.1简单教程(包含Java服务端和Java、python客户端)
2014-04-25 15:55 6404一、Thrift Java服务端和客户端 官 ... -
yum错误“Error in PREUN scriptlet in rpm package ”
2014-03-10 12:07 3980打算通过yum安装软件,发展之前有软件残骸。使用yu ... -
搭建cloudera yum私服
2014-03-05 11:08 3203一、安装Cloudera yum仓库 1. 下载仓库rpm ... -
cloudera创建私服错误一例
2014-02-24 11:41 1370执行“reposync -r cloudera-cdh4 ” ... -
Cloudera Manager的Hadoop配置文件管理
2014-02-11 10:21 11453本文基于Cloudera Manager 4.8,以下简称 ... -
修改cloudera manager管理主机名(转)
2014-02-10 14:22 7642I installed the Cloudera Mana ... -
cloudera manager tasktrakcer监控状态错误
2014-02-10 11:32 1279此文用作图片外链。cloudera网站坑爹呀! -
cloudera manager 4.8 添加设备DNS反向解析问题
2014-01-28 16:20 3762添加设备时agent会使用host命令反向解析获取clou ... -
apache kafka v0.8入门遇到问题
2014-01-23 12:20 1666官方文档:https://kafka.apache.org/ ... -
hadoop2.0(cdh4) fs client错误"java.io.IOException: No FileSystem for scheme: hdfe"
2013-12-31 12:32 10052启动dfs client时候报错:“java.io.IOE ... -
Hadoop Combiner的几个调用时间点
2013-12-20 08:37 2963Combiner是在Map端被执行,共有两个时机会被触 ... -
hadoop1.0中NameNode HA的妥协方案
2013-12-10 16:26 1525hadoop1.0没有HA,可以添加NFS做为metada ... -
hdaoop2.x (CDH4、5)下使用DFS Client(包含HA)
2013-12-09 16:42 3312一、不使用HA场景 1.1 获取FileSystem(下 ... -
Hadoop学习指南
2013-11-26 14:26 1391安装配置 CDH4(hadoop2.0) 端口 C ... -
cloudera cdh中hadoop-client包的作用
2013-11-22 22:12 4113hadoop-client是为了让开发者可以很方便的使用当前 ... -
could only be replicated to 0 nodes instead of minReplication (=1)
2013-11-18 17:02 13918一、出现这个错误,先看看DN是不是正常启动并与NN通信,使用 ... -
Hadoop Pig获取HDFS文件名
2013-11-15 08:37 3214A = LOAD 'input' using PigS ... -
cloudera CDH5正式版(与CDH4比较)
2013-11-04 22:14 2514要求JDK7以上,JDK6不被支持 基于a ... -
Pig写UDF解析XML遇到一诡异错误“ClassNotFoundException”
2013-10-16 10:11 1277UDF中使用apache digester做XML解析,代码 ...
相关推荐
- **tehdmonitor**(10.167.192.231):Cloudera Manager服务端,用于监控集群状态和管理集群; - **tehdname1**(10.167.192.224):主Namenode,负责处理文件系统的元数据; - **tehdname2**(10.167.192.225):...
根据给定的文件信息,以下是对Cloudera Hadoop安装指南中的关键知识点的...同时,Cloudera Manager作为一款优秀的管理工具,极大地简化了Hadoop集群的部署和维护工作,降低了管理和运维的成本,提升了整体的工作效率。
这些公司根据不同的业务需求,部署了不同规模的Hadoop集群,用以实现复杂的大数据应用,如推荐系统、金融分析、自然语言处理等。由于Hadoop是一个批处理系统,并不支持实时的数据处理和在线事务处理,它更适用于对...
大数据管理与监控:Cloudera Manager:大数据概论与Hadoop生态系统.docx
Cloudera Manager是一款基于大数据管理平台,用于管理Hadoop集群和CDH(Cloudera Distribution of Hadoop)集群。该手册详细介绍了Cloudera Manager的产品介绍、基本功能、监控功能等内容。 产品介绍 Cloudera ...
Cloudera Hadoop 5&Hadoop高阶管理及调优课程,完整版,提供课件代码资料下载。 内容简介 本教程针对有一定Hadoop基础的学员,深入讲解如下方面的内容: 1、Hadoop2.0高阶运维,包括Hadoop节点增加删除、HDFS和...
一. Cloudera Manager 4 二. 下载地址 4 三....四....1. 网络配置 5 2. 修改主机名(hostname) 6 3. 关闭selinux 6 4. 子节点互通配置 6 ...11. 设置hadoop存储目录 11 ...5. 启动service cloudera-scm-agent start 失败 42
使用如Ambari、Cloudera Manager等工具可以简化Hadoop集群的管理和监控,它们提供了图形界面,方便查看集群状态、资源使用情况、日志分析等。 总的来说,搭建Hadoop集群涉及多个步骤,包括硬件准备、环境配置、软件...
Hadoop集群环境搭建是大数据处理的核心组件之一,本文将详细介绍Hadoop集群环境的搭建过程,包括集群规划、前置条件、免密登录、集群搭建、提交服务到集群等几个方面。 集群规划 在搭建Hadoop集群环境时,需要首先...
Cloudera Developer Training for Apache Hadoop CCDH是一门专注于Hadoop的开发者培训课程,由Cloudera公司提供。Cloudera是全球领先的Hadoop发行版提供商和相关服务的供应商,致力于推动Apache Hadoop技术的应用和...
### Hadoop集群搭建详解 Hadoop作为大数据处理领域的重要工具之一,其集群的搭建对于企业级数据处理至关重要。本文将详细介绍Hadoop集群的搭建步骤及其注意事项,帮助读者顺利完成Hadoop集群的部署。 #### 一、...
大数据管理与监控:Cloudera Manager:ClouderaManager基本操作与管理.docx
大数据管理与监控:Cloudera Manager:ClouderaManager安全与权限管理.docx
- **目的**:Cloudera SCM Server是整个集群的核心管理组件,负责监控和管理集群中的服务。在关闭所有代理之后,接下来需要关闭SCM Server。 - **操作步骤**: - 登录到安装了Cloudera SCM Server的主机(通常称为...
5. **配置管理**:在自动化安装过程中,需要对Hadoop集群的配置进行管理,包括定义DataNode和NameNode、ResourceManager和NodeManager等角色,设置HDFS的副本数量,调整YARN的资源分配等。 6. **安全设置**:对于...
本文档主要以使用Cloudera Manager5.9.3 自动搭建Hbase集群为例,介绍如何...至于如何使用Cloudera Manager来管理集群以及进行数据分析之类的工作,请参考官方文档说明。Cloudera Manager官网https://www.cloudera.com/
集群采用的是Cloudera提供的Hadoop 5.13版本,并且运行于CentOS 6.7操作系统之上。以下步骤将会详细介绍如何进行虚拟机的基本设置、网络配置、JDK环境配置、SSH免密码登录配置以及YARN资源管理器的配置。 #### 二、...
- **修改主机名**:使用root权限修改每台机器的主机名,这有助于识别和管理集群中的各个节点。 - **重启**:更改后的配置需要重启以使改动生效。 - **验证网络连通性**:通过`ping`命令检查节点间的网络连接,...
### Hadoop集群管理:节点磁盘数据结构与集群管理工具详解 #### 节点磁盘数据结构 在深入理解Hadoop集群管理之前,我们首先需要了解Hadoop集群中的节点磁盘数据结构。Hadoop的核心组件之一是HDFS(Hadoop ...