`
student_lp
  • 浏览: 435560 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

Hadoop之Cloudera Manager安装问题总结【转】

阅读更多

安装过程中,由于网络终端,导致下面问题:
问题1:安装停止在获取安装锁

/tmp/scm_prepare_node.tYlmPfrT 
using SSH_CLIENT to get the SCM hostname: 172.16.77.20 33950 22 
opening logging file descriptor 

正在启动安装脚本...正在获取安装锁...BEGIN flock 4 
    这段大概过了半个小时,一次卸载,一次等了快1个小时,终于过去了,
问题2:不能选择主机
    安装失败了,重新不能选主机

    解决方案,需要清理安装失败文件《Hadoop之Cloudera Manager CDH4卸载

问题3:DNS反向解析PTR localhost

   描述:DNS反向解析错误,不能正确解析Cloudera Manager Server主机名。如下日志:

Detecting Cloudera Manager Server...
Detecting Cloudera Manager Server...
BEGIN host -t PTR 192.168.1.198
198.1.168.192.in-addr.arpa domain name pointer localhost.
END (0)
using localhost as scm server hostname
BEGIN which python
/usr/bin/python
END (0)
BEGIN python -c 'import socket; import sys; s = socket.socket(socket.AF_INET); s.settimeout(5.0); s.connect((sys.argv[1], int(sys.argv[2]))); s.close();' localhost 7182
Traceback (most recent call last):
File "<string>", line 1, in <module>
File "<string>", line 1, in connect
socket.error: [Errno 111] Connection refused
END (1)
could not contact scm server at localhost:7182, giving up
waiting for rollback request

   解决方案:将连不上的机器 /usr/bin/host 文件删掉,执行下面命令

sudo mv /usr/bin/host /usr/bin/host.bak

   说明:不明白cloudera的初衷,这里已经得到 Cloudera Manager Server的ip了,却还要把ip解析成主机名来连接。由于DNS反向解析没有配置好,根据Cloudera Manager Server 的ip解析主机名却得到了localhost,造成之后的连接错误。这里的解决方案是直接把/usr/bin/host删掉,这样Cloudera Manager就会直接使用 ip进行连接,就没有错了。

问题 4 NTP:

   问题描述: 

Bad Health --Clock Offset
The host's NTP service did not respond to a request for the clock offset.

   解决:配置NTP服务

   步骤参考:

  • CentOS配置NTP Server:【http://www.hailiangchen.com/centos-ntp/】
  • 国内常用NTP服务器地址及IP【http://www.douban.com/note/171309770/】

   修改配置文件:【vim /etc/ntp.conf】

# Use public servers from the pool.ntp.org project.
# Please consider joining the pool (http://www.pool.ntp.org/join.html).
server s1a.time.edu.cn prefer
server s1b.time.edu.cn
server s1c.time.edu.cn

restrict 172.16.1.0 mask 255.255.255.0 nomodify   <===放行局域网来源

   启动ntp服务【service ntpd restart 】   

   客户端同步时间(work02,work03):【ntpdate work01】

   说明:NTP服务启动需要大约五分钟时间,服务启动之前,若客户端同步时间,则会出现错误“no server suitable for synchronization found”

   定时同步时间:在work02和 work03上配置crontab定时同步时间【crontab -e】

00 12 * * * root /usr/sbin/ntpdate 192.168.56.121 >> /root/ntpdate.log 2>&1

问题 5 

    描述:Clock Offset

  • Ensure that the host's hostname is configured properly.
  • Ensure that port 7182 is accessible on the Cloudera Manager Server (check firewall rules).
  • Ensure that ports 9000 and 9001 are free on the host being added.
  • Check agent logs in /var/log/cloudera-scm-agent/ on the host being added (some of the logs can be found in the installation details).

   问题定位:在对应host(work02、work03)上运行 'ntpdc -c loopinfo'

[root@work03 work]# ntpdc -c loopinfo
ntpdc: read: Connection refused

   解决:【开启ntp服务:三台机器都开机启动 ntp服务】

chkconfig ntpd on

问题 6 heartbeat:

    错误信息:【Installation failed. Failed to receive heartbeat from agent.】

    解决:关闭防火墙

问题 7 Unknow Health:

Unknow Health
重启后:Request to theHost Monitor failed.
service --status-all| grep clo
机器上查看scm-agent状态:cloudera-scm-agent dead but pid file exists

   解决:重启服务

service cloudera-scm-agent restart
service cloudera-scm-server restart

问题 8 canonial name hostname consistent:

Bad Health
The hostname and canonical name for this host are not consistent when checked from a Java process.
canonical name:
4092 Monitor-HostMonitor throttling_logger WARNING  (29 skipped) hostname work02 differs from the canonical name work02.xinzhitang.com

    解决:修改hosts 使FQDN和 hostname相同【ps:虽然解决了但是不明白为什么主机名和主机别名要一样】

/etc/hosts
192.168.1.185 work01 work01
192.168.1.141 work02 work02
192.168.1.198 work03 work03

问题 9 Concerning Health:

    Concerning Health Issue

    --  Network Interface Speed --

   描述:The host has 2 network interface(s) that appear to be operating at less than full speed. Warning threshold: any.

    详细:

This is a host health test that checks for network interfaces that appear to be operating at less than full speed.
A failure of this health test may indicate that network interface(s) may be configured incorrectly and may be causing performance problems. Use the ethtool command to check and configure the host's network interfaces to use the fastest available link speed and duplex mode.

   解决:本次测试修改了 Cloudera Manager 的配置,应该不算是真正的解决

转子:http://www.aboutyun.com/thread-9087-1-1.html

  • 大小: 42.7 KB
分享到:
评论

相关推荐

    Cloudera Manager安装部署

    Cloudera Manager安装部署.pdf

    Cloudera Hadoop 安装指南

    此外,文档还提供了关于Cloudera Manager的安装指导,这是一个用于管理Hadoop集群的强大工具。 ### Cloudera Manager简介 Cloudera Manager是一个用于简化Hadoop及其相关项目部署和管理过程的工具。它提供了图形...

    CLOUDERA-Manager_中文手册(全 高清)+ CDH安装手册.pdf

    * 集群安装:Cloudera Manager提供了自动化的集群安装功能,能够快速部署Hadoop集群。 * 集群配置:Cloudera Manager提供了灵活的集群配置功能,能够满足不同用户的需求。 * 权限管理:Cloudera Manager提供了完善的...

    java调用Cloudera Manager Api实例

    Cloudera Manager是管理Hadoop和其他Cloudera支持的数据处理服务的流行平台。下面将详细阐述如何在Java环境中设置和执行API调用。 首先,理解Cloudera Manager API的基础知识至关重要。API(应用程序编程接口)是一...

    hadoop之clouderamanage安装共8页.pd

    【标题】"Hadoop之Cloudera Manager安装指南"是一份详细阐述如何在Hadoop生态系统中部署和管理Cloudera Manager的文档。Cloudera Manager是业界广泛使用的Hadoop集群管理工具,它提供了全面的监控、配置、更新和管理...

    ClouderaManager-中文手册-实战总结.pdf

    Cloudera Manager是CDH市场领先的管理平台,作为业界第一的端到端Apache Hadoop的管理应用,Cloudera Manager对CDH的每个部件都提供了细粒度的可视化和控制,从而设立了企业部署的标准。通过Cloudera Manager,运维...

    CLOUDERA-Manager-中文手册

    - **集群安装**:Cloudera Manager简化了Hadoop集群的部署过程,使得运维人员可以快速、高效地设置和配置新集群,包括安装和升级各个组件,如Hadoop、Hive、Spark等。 - **集群配置**:对于已部署的集群,Cloudera...

    cloudera manager安装

    Cloudera Manager (CM) 是一款用于部署、管理 Hadoop 的工具,提供了直观的 Web 用户界面来帮助用户轻松地进行集群的管理和监控。在安装 CM 之前,需要对系统环境进行一系列的准备。 ##### 1.1 系统yum源配置 为了...

    CLOUDERA-Manager_中文手册(全)

    本文是关于Cloudera Manager的中文手册,将详细介绍Cloudera Manager的版本、安装、配置、API、安全以及与Cloudera CDH的关系等内容。Cloudera Manager是Cloudera公司开发的一款用于简化Apache Hadoop集群管理的工具...

    cloudera manager的运行机制及目录

    Cloudera Manager是Cloudera公司提供的一套用于管理Apache Hadoop集群的软件,它简化了Hadoop集群的安装、部署和运维工作。Cloudera Manager使用C/S结构,包含一个Server端和若干Agent端。Server端负责集群的管理、...

    Cloudera-Manager3安装步骤

    4. **安装Cloudera Manager服务**:这包括创建安装目录,上传并解压缩安装包,然后创建Cloudera Manager的系统用户。`cloudera-scm`用户没有家目录,并且使用`/bin/false`作为shell,这表明它主要用于系统服务而非...

    cdh7.5 cloudera manager 安装全套软件和视频推荐

    ### CDH7.5 Cloudera Manager 安装全套软件及视频推荐知识点解析 #### 一、Cloudera Data Platform (CDP) 概述 根据所提供的内容,“CDH7及以上版本已经更名为CDP”,这表明Cloudera对其产品线进行了调整。Cloudera...

    大数据集群Cloudera Manager日常运维手册.docx

    Cloudera Management Service是Cloudera Manager的核心组件之一,管理员需要先启动Cloudera Management Service,然后才能启动Hadoop相关服务。启动Cloudera Management Service非常简单,只需要点击启动按钮,等待...

    Cloudera Manager6.2.1及CDH最新版本安装全程记录

    Cloudera Manager6.2.1

    Cloudera Manager大数据平台运维操作指南.docx

    Cloudera Management Service是Cloudera Manager的核心服务,需要先启动该服务,然后才能启动Hadoop相关服务。 启动/停止/重启Hadoop所有服务 在启动Hadoop相关服务器前,需要先启动Cloudera Management Service...

    Cloudera-Manager.pdf

    Cloudera Manager是一款领先的大数据平台管理工具,专注于简化CDH(Cloudera's Distribution Including Apache Hadoop)环境的部署和管理。作为业界首个端到端Apache Hadoop管理应用,Cloudera Manager通过提供细...

    ClouderaManager运维_中文手册

    Cloudera Manager的目的是简化企业数据中心的管理,它能够自动化安装和配置Hadoop集群,显著缩短部署时间,并提供集群范围内的节点实时运行状态视图。此外,它还配备了集中的中央控制台以供配置集群,并具备一系列...

    Cloudera Manager API v14 中文

    Cloudera Manager API v14 提供了一系列强大的接口,使得管理员能够高效地管理 Hadoop 集群和其他相关服务。通过这些 API,可以实现自动化配置、审计追踪、集群维护等多种高级管理任务。此外,API 还支持对集群进行...

Global site tag (gtag.js) - Google Analytics