kylin 搭建和简单测试结果

chengjianxiaoxue

浏览: 1309852 次
性别:
来自: 北京

最近访客更多访客>>

liu_shui8

happy2012

nddht

yhtppp

博主相关

博客

微博

相册

留言

关于我

文章分类

社区版块

存档分类

博客分类：

kylin

0 概念：

这里的kylin是 OLAP的范畴，是ebay上海研发团队研发的一个多维存储的产品，目的是为了

解决hbase紧依靠rowkey来快速查询的局限，其核心是空间换时间，不是国产linux的kylin操作系统

1 说明：

1 使用apache原生，这里搭建成功的版本为: (kylin官网建议使用 hotonworks sandbox 而且看kylin/bin的文件也都有sandbox的痕迹 这里我使用apache 原生版本)
apache-kylin-0.7.1
apache-hive-0.14.0
hadoop-2.2.0
hbase-0.98.12
zookeeper-3.4.5


2其中一些说明如下，
0 jdk1.7版， 使用物理机器为 172.17.199.11  172.17.199.12  172.17.199.13 
1 必须是 hadoop-2.2.0版本， 必须是hive0.14以上版本(kylin maillist建议是这样)
2 hive解压后的命名必须为hive ----> 可以看kylin/bin/find-hive-dependency.sh 22行代码， 
3 建议机器为8G内存，如果是用虚拟机搭建单机环境，那么虚拟机建议给到5G+内存，否则可能kylin启动有问题，比如页面无法访问，或者bulid sample时候死机
4 建议kylin.sh中 手动导出 kylin_home 可以查看我上次的附件 kylin.sh第二行

然后，必须启动的服务有：
1 hadoop2的hdfs yarn 以及 jobhistory
2 hive --service metastore &
3 zookeeper
4 hbase
5 kylin 
6 如上几项必须设置在集群每台机器的环境变量中

2 集群生态分布如下：

集群搭建在 172.17.199.11, 172.17.199.12, 172.17.199.13上，三台机器内存都是64G

集群生态分布如下：

hadoop2.2.0

机器	角色	启动的服务
172.17.199.11	主节点	Namenode SecondaryNameNode JobHistoryServer ResouceManager
172.17.199.12	从节点	DataNode NodeManager
172.17.199.13	从节点	DataNode NodeManager

Zookeeper-3.4.5

机器	启动的服务
172.17.199.11	QuorumPeerMain
172.17.199.12	QuorumPeerMain
172.17.199.13	QuorumPeerMain

Hbase-0.98.12

机器	启动的服务
172.17.199.11	HMaster
172.17.199.12	HRegionServer
172.17.199.13	HRegionServer

Hive-0.14.0

机器

启动的服务

172.17.199.11

hive客户端

hive metastore

Kylin-0.7.1

机器	启动的服务
172.17.199.11	kylin服务

3 集群安装前的说明：

1 保证11,12,13 ssh三台互通，关闭防火墙，设置好机器别名，以及机器别名和IP地址映射


2 配置好后的 /etc/profile如下：
export JAVA_HOME=/usr/java/jdk1.7.0_71
export PATH=$JAVA_HOME/bin:$PATH
CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

export HADOOP_HOME=/home/forkylin/hadoop-2.2.0
export HIVE_HOME=/home/forkylin/hive
export KYLIN_HOME=/home/forkylin/kylin-0.7.1
export HBASE_HOME=/home/forkylin/hbase-0.98.12
export ZOOKEEPER_HOME=/home/forkylin/zookeeper-3.4.5

export PATH=$PATH:$HADOOP_HOME/sbin:$HADOOP_HOME/bin:$HIVE_HOME/bin:$KYLIN_HOME/bin:$HBASE_HOME/bin:$ZOOKEEPER_HOME/bin
export JAVA_HOME CLASSPATH

4 hadoop集群安装：

hadoop2集群非ha模式下搭建配置文件写法

主要是mapred-site.xml yarn-site.xml 下mb内存的设置，如果不设置，在部署后kylin查询时，会卡死

配置好环境变量后启动hadoop集群，涉及到的命令：

start-all.sh mr-jobhistory-daemon.sh start historyserver

5 安装zookeeper集群：

参考链接 Zookeeper 简介搭建

配置好环境变量后，启动时执行命令 zkServer.sh start

6 安装hbase集群：

参考链接 hbase简介搭建

配置好环境变量后，启动时执行命令 start-hbase.sh

7 安装hive:

参考链接：0 hive 简介,安装,本地文件上传到hive操作

注意解压后必须重命名为 hive

配置好环境变量后，启动时执行命令 hive -service metastore &

然后启动hive 查看hive客户端下能否查看表创建表

8 安装kylin:

8.1 安装

a) 下载kylin到11节点， 这里解压到 /home/forkylin/kylin-0.7.1下
b) /home/forkylin/kylin-0.7.1/bin下 修改kylin.sh 显示声明 kylin_home,并在HBASE_CLASSPATH_PREFIX中显示增加$hive_dependency依赖，修改信息如下：
export KYLIN_HOME="/home/airsupply/develope/kylin-0.7.1" 第二行
第35行
export HBASE_CLASSPATH_PREFIX=${tomcat_root}/bin/bootstrap.jar:${tomcat_root}/bin/tomcat-juli.jar:${tomcat_root}/lib/*:$hive_dependency:$HBASE_CLASSPATH_PREFIX
c) 配置kylin的环境变量

8.2 启动

命令行任意位置下执行  kylin.sh start

可以通过 netstat -anp | grep 7070 查看(kylin默认使用7070端口)

也可以 tail -f /home/forkylin/kylin-0.7.1/tomct/logs 查看启动信息

启动成功后，访问 http://hadoop1:7070/kyliln/   用户名 ADMIN  密码 KYLIN

8.3 kylin执行官网案例测试

a) 执行kylin.sh stop
b) /home/forkylin/kylin-0.7.1/bin下执行 sample.sh  将kylin测试数据写到hive中
c) 执行kylin.sh start
此时在Hive下能看到kylin导入的表，  kylin_cal_dt   kylin_catagory_groups   kylin_sales
d) 访问http://hadoop1:7070/kyliln/cubes 界面如下：

选择 actions下的build选择框，后选择截止日期，提交job，

访问

http://hadoop1:7070/kylin/jobs 可以看到你刚提交的job，此时kylin会把任务转交给mr

通过 tail -f /home/forkylin/kylin-0.7.1/tomcat/logs.kylin_job.log 事实查看 build日志信息

一般 build一个20G的数据，在上面这个集群下跑了10小时， build上面kylin提供的sample案例耗时2小时

build结果为：

9 注意事项：

a) 需要把11节点(别名hadoop1)上的hive目录拷贝到 12,13节点上，并在 12,13节点的 /etc/profile上显示导出

export hive_dependency=/home/forkylin/hive/conf:/home/forkylin/hive/lib/*:/home/forkylin/hive/hcatalog/share/hcatalog/hive-hcatalog-core-0.14.0.jar
 因为kylin提交的任务交给mr后，hadoop集群将任务分发给从节点时，需要hive的依赖信息，因此需要在12，13上配置，否则mr任务报错为: hcatalogXXX找不到
 
 
 b) 如果启动kylin时候  tomcat日志说无法解压 kylin.war 处理方式：
 /home/forkylin/kylin-0.7.1/tomcat/work/Catalina下的东西清空，  
 ps -ef | grep java 后 kill -9 杀死所有kylin相关的进程(此时会把hadoop hive hbase zk都干掉)  然后再重启
 一般都是因为启动的kylin过多，但是每次关闭的kylin都没有关闭死造成启动过多kylin造成的。
 
 也可以通过  netstat -anp | grep 7070 查看7070被占用了多少次 如果过多 那么应该就是上面方式造成的，关闭多余的在重启，保证只有一个端口被占用

10 简单测试结果如下：

百万数据量下，在上面集群构建立方耗时800多min，物化文件28G

 

一个维度下，查询结果998949条，耗时：

oracle 16s

kylin   30s

 

按时间一个维度 查询结果65条 耗时：

 

oracle 23s

kylin   0.25s

 

按时间，行情两个维度 查询结果77025条 耗时：

 

oracle 19s

kylin   3.7s

 

按时间，科目两个维度 查询结果40625条 耗时：

 

oracle 40s

kylin   2.8s

 

按时间，机构，科目三个维度 查询结果20315条 耗时：

 

oracle 44s

kylin   9.2s

kylin的响应时间和实际返回条数成正比，在单维度查询下，针对oracle没有优势，

kylin更适合高度范化的聚合数据查询，不合适明细数据查询。

11 修改的kylin.sh文件贴上如下：

#!/bin/sh
export KYLIN_HOME="/home/airsupply/develope/kylin-0.7.1"
if [ $1 == "start" ]
then
    dir=$(dirname ${0})
    source ${dir}/check-env.sh
    tomcat_root=${dir}/../tomcat
    export tomcat_root


    #The location of all hadoop/hbase configurations are difficult to get.
    #Plus, some of the system properties are secretly set in hadoop/hbase shell command.
    #For example, in hdp 2.2, there is a system property called hdp.version,
    #which we cannot get until running hbase or hadoop shell command.
    #
    #To save all these troubles, we use hbase runjar to start tomcat.
    #In this way we no longer need to explicitly configure hadoop/hbase related classpath for tomcat,
    #hbase command will do all the dirty tasks for us:



    useSandbox=`cat ${KYLIN_HOME}/conf/kylin.properties | grep 'kylin.sandbox' | awk -F '=' '{print $2}'`
    spring_profile="default"
    if [ "$useSandbox" = "true" ]
        then spring_profile="sandbox"
    fi

    #retrive $hive_dependency
    source ${dir}/find-hive-dependency.sh
    #retrive $KYLIN_EXTRA_START_OPTS
    if [ -f "${dir}/setenv.sh" ]
        then source ${dir}/setenv.sh
    fi

    export HBASE_CLASSPATH_PREFIX=${tomcat_root}/bin/bootstrap.jar:${tomcat_root}/bin/tomcat-juli.jar:${tomcat_root}/lib/*:$hive_dependency:$HBASE_CLASSPATH_PREFIX
    export HBASE_CLASSPATH=$hive_dependency:${HBASE_CLASSPATH}
    export JAVA_OPTS="-Xms2048M -Xmx2048M -XX:MaxPermSize=512m"

    hbase ${JAVA_OPTS} ${KYLIN_EXTRA_START_OPTS} \
    -Djava.util.logging.config.file=${tomcat_root}/conf/logging.properties \
    -Djava.util.logging.manager=org.apache.juli.ClassLoaderLogManager \
    -Dorg.apache.tomcat.util.buf.UDecoder.ALLOW_ENCODED_SLASH=true \
    -Dorg.apache.catalina.connector.CoyoteAdapter.ALLOW_BACKSLASH=true \
    -Djava.endorsed.dirs=${tomcat_root}/endorsed  \
    -Dcatalina.base=${tomcat_root} \
    -Dcatalina.home=${tomcat_root} \
    -Djava.io.tmpdir=${tomcat_root}/temp  \
    -Dkylin.hive.dependency=${hive_dependency} \
    -Dspring.profiles.active=${spring_profile} \
    org.apache.hadoop.util.RunJar ${tomcat_root}/bin/bootstrap.jar  org.apache.catalina.startup.Bootstrap start > ${tomcat_root}/logs/kylin.log 2>&1 & echo $! > ${KYLIN_HOME}/pid &
    echo "A new Kylin instance is started by $USER, stop it using \"kylin.sh stop\""
    if [ "$useSandbox" = "true" ]
        then echo "Please visit http://<your_sandbox_ip>:7070/kylin to play with the cubes! (Useranme: ADMIN, Password: KYLIN)"
    else
        echo "Please visit http://<ip>:7070/kylin"
    fi
    echo "You can check the log at ${tomcat_root}/logs/kylin.log"
    exit 0
elif [ $1 == "stop" ]
then
    if [ ! -f "${KYLIN_HOME}/pid" ]
    then
        echo "kylin is not running, please check"
        exit 1
    fi
    pid=`cat ${KYLIN_HOME}/pid`
    if [ "$pid" = "" ]
    then
        echo "kylin is not running, please check"
        exit 1
    else
        echo "stopping kylin:$pid"
        kill $pid
    fi
    rm ${KYLIN_HOME}/pid
    exit 0
else
    echo "usage: kylin.sh start or kylin.sh stop"
    exit 1
fi

12 附加资料

附:
http://www.kylin.io/  :   kylin 官网首页
https://github.com/KylinOLAP/Kylin  ：  kylin github首页
https://github.com/KylinOLAP/Kylin/blob/master/docs/Installation/On%20Hadoop%20CLI%20installation.md :  在hadoop基础上安装
https://github.com/KylinOLAP/Kylin/blob/master/docs/Tutorial/Quick%20play%20with%20a%20sample%20cube.md : Quick start with sample cube 运行案例
https://github.com/KylinOLAP/Kylin/issues/   kylin问题列表 ， 比如 https://github.com/KylinOLAP/Kylin/issues/462
http://kylin.markmail.org/   通过这里可以查询kylin mailing list中所有提问的问题

kylin如果有使用中的问题，kylin只支持订阅他们的邮件 并通过邮件方式来解答，如果你在github上提问 他们是不会回答实质问题的，
订阅kylin的mailing list做法如下：
send any message to dev-subscribe@kylin.incubator.apache.org, then your'll subscribe our mail list.(there might be another confirming letter)
这里我用126邮箱发送但是无法接收到他们的回复邮件，最后用qq邮箱发送才能接收到到他们的回复邮件，根据回复邮件的提示，点击链接，后才能订阅成功
在订阅成功后，你就可以发送问题到dev@kylin.incubator.apache.org，到时候 他们会一对一的回复你的问题。
 

他们的回复邮件如下：
Hi! This is the ezmlm program. I'm managing the
dev@kylin.incubator.apache.org mailing list.

I'm working for my owner, who can be reached
at dev-owner@kylin.incubator.apache.org.

To confirm that you would like

   190184XXX@qq.com

added to the dev mailing list, please send
a short reply to this address:

   dev-sc.1431910996.pdgjekoiembmaillpnpm-190184501=qq.com@kylin.incubator.apache.org

查看图片附件

分享到：

maven简介 eclipse关联外部maven 创建mave ... | sqoop 三库导入导出写法

2015-06-10 13:28
浏览 23086
评论(3)
分类:开源软件
查看更多

3 楼 Will_forme 2015-12-04

你好最近在使用kylin的时候有点疑问，我安装这些都没问题，但是我在建立一个cube，然后build之后，这个cube的结果放在哪里的呢？就是hbase生成的几张表吗，你有没有出现过cube生成的sql在它自己的query中查询报错，但是在hive里面查询没错？希望不吝赐教

2 楼 chengjianxiaoxue 2015-08-12

xjcuiok 写道

请教一个kylin(ver:0.7.1与你文中一致)的安装问题，你的测试环境安装ldap服务了嘛？
我在测试环境安装后，刚开始提示缺少ldap的相关错误。我通过查阅资料，在~/conf/kylin.properties中的kylin.sandbox属性改变后，tomcat日志不再报错。但是我输入:http://xxx.xxx.xxx.xxx:7070/kykin 后，页面显示：Welcome to kylin! 而且不是官方文档上写的输出账号密码！如果看到请你指点一下，不胜感激！
我email: cui_jie0928@163.com 期待您的邮件！

你好，
1 我搭建kylin的时候，没有安装ldap服务，搭建环境是干净的裸机，
文档的描述基本和我搭建过程一致，没有在安装更多服务。

2 搭建时，出现过没有登录界面的问题，也出现过tomcat无法启动的问题，
我那会的做法是看tomcat日志，或者删除解压后kylin后在重新解压和修改配置文件，
注意，通过 netstat -anp | grep 7070 可以讲所有kylin相关的服务查看并杀死，
有时候启动过多kylin 而没有杀死掉，会导致无法访问登陆页面的问题

我知道的就是这些，请在讨论，希望你能顺利解决

并，建议订阅他们的邮件，对方会给你回复，我之前没有订阅也是自己搞的头晕...

1 楼 xjcuiok 2015-08-11

发表评论

您还没有登录,请您登录后再发表评论

最近访客更多访客>>

博主相关

文章分类

社区版块

存档分类

最新评论