`
顽石
  • 浏览: 166824 次
  • 性别: Icon_minigender_1
  • 来自: 深圳
社区版块
存档分类
最新评论

hadoop hue开发调试环境搭建

 
阅读更多

    hue系统后台主要使用 python语言,我们需要对 hue进行定制化二次开发。开发机操作系统为ubuntu12.04,使用独立的开发机器,小组其他人可共用。也可在自己平时使用的windows机器上开ubuntu虚拟机(如果机器配置较高),下面是hue开发环境的搭建过程。

  

   1.独立的开发机上不能使用图形环境,需要在自己的windows机器上安装Xming xwindow server软件,下载地址http://sourceforge.net/projects/xming/

     安装后,修改安装目录中的X0.hosts,在其中增加一行,内容为开发机的ip地址。

    启动windows上的Xming,这样开发机器上的eclipse启动后会将图形窗口投射到windows机器上。

         

  2.在开发机器上安装jdk1.7huehttps://github.com/cloudera/hue,版本3.7.0)、eclipse(4.3/kepler).

   假设hue安装在/home/wanggb/hue目录

   配置好hue后,在/home/wanggb/hue目录下运行build/env/bin/hue     runcherrypyserver命令启动hue,在浏览器中输入hue的ip和端口看是否能访问。

  3.在用户的.profile文件中加入环境变量DISPLAY,如下:

   export DISPLAY=windows机器的ip:0.0

   执行. .profile让环境变量生效。

  4.telnet到开发机上命令行方式启动eclipse,将会在windows机器上弹出eclipse图形窗口,提示设置workspace目录。

    5.安装pydev eclipse插件(http://pydev.org/updates)用于python开发调试。安装完成重启eclipse设置pydev插件,主要是设置python解释器。使用hue自带的python,为/home/wanggb/hue/build/env/bin/python2.7     

    

 
  

  6.eclipse中创建python django项目

     

 
     

       


 
 

 

  设置项目属性:      


   

   设置项目的debug配置:

    

 主模块设为buid/env/bin/hue,在有些eclipse中会报找不到该文件的提示,此时可以将hue拷贝为hue.py,刷新项目后再用Main Module右边的Browse按扭选取该hue.py,或直接输入${workspace_loc:hue/build/env/bin/hue.py}做为主模块。

 
 

   7.打开pyDev透视图

 

 
 

   8.修改hue的一处代码

  修改文件为:hue/desktop/core/src/desktop/appmanager.py

    改动其中的import_module_or_none方法为如下,在my_file = re.sub(r'\.pyc','.py', __file__)

    语句后面直接return None

 def _import_module_or_none(module):

  """Like import_module, but returns None if the module does not exist.

  This will properly handle nested ImportErrors in such a way that, if the

  module should exist but throws ImportError, we *will* raise through

  that error.

  """

  try:

    __import__(module)

    return sys.modules[module]

  except ImportError, ie:

    # If the exception came from us importing, we want to just

    # return None. We need to inspect the stack, though, so we properly

    # reraise in the case that the module we're importing triggered

    # an import error itself.

    tb = sys.exc_info()[2]

    top_frame = traceback.extract_tb(tb)[-1]

    err_file = re.sub(r'\.pyc','.py', top_frame[0])

    my_file = re.sub(r'\.pyc','.py', __file__)

    return None

    不修改的话在eclispe中调试时,会报错"ImportError: No module named settings"

 

   8 .python代码中设置断点,启动debug配置进行调试。

 

  9.上面的是本机调试,只是使用xwindoweclipse图形窗口投射到windows机器上,也可在自己的windows机器上起ubuntun虚拟机,这样就不需要xwindow了。

 

 

 10.pydev插件也可进行python远程调试,详细说明见http://pydev.org/manual_adv_remote_debugger.html。 

 

 11.图形化的python开发调试工具,除了eclispe+pydev,比较不错的还有pycharm ,可在     https://www.jetbrains.com/pycharm/download/下载。

  • 大小: 6.7 KB
  • 大小: 132.8 KB
  • 大小: 41.5 KB
  • 大小: 71.8 KB
  • 大小: 55.3 KB
  • 大小: 181.3 KB
  • 大小: 82.2 KB
  • 大小: 46.8 KB
分享到:
评论
3 楼 liangzai_bj 2015-09-23  

是我的配置有问题,我重新按博主的博客配置了下,不报错了!
2 楼 liangzai_bj 2015-09-23  

是我的配置有问题,我重新按博主的博客配置了下,不报错了!



liangzai_bj 写道
启动后,报个错?
pydev debugger: starting (pid: 2872)
Traceback (most recent call last):
  File "/Users/liangzai/soft/java/Eclipse.app/Contents/Eclipse/plugins/org.python.pydev_4.3.0.201508182223/pysrc/pydevd.py", line 2283, in <module>
    globals = debugger.run(setup['file'], None, None)
  File "/Users/liangzai/soft/java/Eclipse.app/Contents/Eclipse/plugins/org.python.pydev_4.3.0.201508182223/pysrc/pydevd.py", line 1709, in run
    pydev_imports.execfile(file, globals, locals)  # execute the script
IOError: [Errno 2] No such file or directory: '/Users/liangzai/soft/java/eclipse-workspace/hue-3.7.0-cdh5.4.2/manage.py'

1 楼 liangzai_bj 2015-09-22  
启动后,报个错?
pydev debugger: starting (pid: 2872)
Traceback (most recent call last):
  File "/Users/liangzai/soft/java/Eclipse.app/Contents/Eclipse/plugins/org.python.pydev_4.3.0.201508182223/pysrc/pydevd.py", line 2283, in <module>
    globals = debugger.run(setup['file'], None, None)
  File "/Users/liangzai/soft/java/Eclipse.app/Contents/Eclipse/plugins/org.python.pydev_4.3.0.201508182223/pysrc/pydevd.py", line 1709, in run
    pydev_imports.execfile(file, globals, locals)  # execute the script
IOError: [Errno 2] No such file or directory: '/Users/liangzai/soft/java/eclipse-workspace/hue-3.7.0-cdh5.4.2/manage.py'

相关推荐

    hadoop开发环境搭建

    ### Hadoop开发环境搭建知识点详解 #### 一、Hadoop简介及重要性 Hadoop是一个开源的分布式计算框架,能够高效地处理大规模数据集。它主要由两大部分组成:Hadoop Distributed File System (HDFS) 和 MapReduce。...

    windows下hadoop2.6开发环境搭建过程说明及插件

    在Windows环境下搭建Hadoop2.6开发环境是一个相对复杂的过程,但通过详细的步骤和注意事项,可以有效地完成。这里我们将深入探讨这个过程,并介绍如何解决可能出现的问题。 首先,我们需要下载Hadoop2.6.0的安装包...

    Hadoop2.0开发环境搭建

    涉及到了Hadoop2.0、Hbase、Sqoop、Flume、Hive、Zookeeper的具体环境搭建

    UbuntuNote-hadoop开发环境搭建

    hadoop开发环境搭建 hadoop开发环境搭建 hadoop开发环境搭建 hadoop开发环境搭建 hadoop开发环境搭建

    Hadoop全分布模式环境搭建[超详细]

    自己总结的Hadoop全分布模式环境搭建。

    Hadoop伪分布模式环境搭建[超详细]

    Hadoop伪分布模式环境搭建是指在单个节点上搭建Hadoop集群环境,主要用于开发调试MapReduce应用逻辑。以下是搭建伪分布模式环境的步骤: 一、SSH协议介绍 SSH(Secure Shell)是一种安全协议,用于远程登录服务器...

    hadoop全套配置详细步骤(基础环境搭建+hadoop集群搭建+hive搭建)

    本文件包含hadoop集群搭建的详细步骤,包含基础环境搭建,Hadoop集群搭建,Hive搭建。小白放心食用,无坑。 其中基础环境搭建包括虚拟机安装、centos7、网络配置、xshell、notepad等环境的安装。注:本文里安装的...

    Hadoop3.3高可用环境搭建 .docx

    五台虚拟机搭建Hadoop3.3.1高可用完全分布式环境

    大学hadoop大数据开发基础的环境搭建

    大学 Hadoop 大数据开发基础环境搭建 本文主要介绍了大学 Hadoop 大数据开发基础环境搭建的步骤,包括安装 VMware、CentOS、Hadoop 等相关组件,并配置 IP 设置和 Xshell 连接。 一、 VMware 安装与 LINUX 虚拟机...

    Hadoop开发环境搭建

    搭建Hadoop开发环境是进行Hadoop编程和应用开发的第一步,这对于理解和实践大数据处理至关重要。 标题“Hadoop开发环境搭建”指的是配置一个适合进行Hadoop应用开发的本地或集群环境。这个过程通常涉及安装Java运行...

    Hadoop伪分布式集群环境搭建

    Hadoop伪分布式集群环境搭建,有常见错误及解决方案。

    虚拟机下Hadoop开发环境搭建

    Hadoop 开发环境搭建第一篇: 1、是用Virtual Box 系统使用的是Redhat ,linux不熟的朋友们可以顺便学习一下linux, 2、环境配置包括防火墙关闭,IP分配,更改域名等 3、服务软件:远程服务SSH等安装

    Hadoop-Eclipse开发环境配置经验

    在介绍Hadoop-Eclipse开发环境...综上所述,配置Hadoop-Eclipse开发环境为开发人员提供了一个高效、直观的Hadoop程序开发和调试环境。尽管配置过程可能稍显复杂,但一旦配置成功,将大大提高工作效率和程序的可维护性。

    hue的环境搭建

    在搭建Hue环境之前,首先需要确保操作系统上已经安装了一些必要的开发工具和库文件。以下是一些基础软件包的安装命令: ```bash yum install krb5-devel cyrus-sasl-gssapi cyrus-sasl-devel libxml2-devel libxslt...

    hadoop环境搭建脚本

    hadoop的环境搭建过程.方便第一次使用hadoop的同学.快速搭建环境

    第3章hadoop伪分布式环境的搭建.docx

    【Hadoop伪分布式环境搭建详解】 Hadoop作为大数据处理的核心框架,对于初学者和专业开发人员来说,理解并掌握其安装配置至关重要。Hadoop提供了多种运行模式,包括本地模式、伪分布式模式以及集群模式,每种模式都...

    hadoop-2.x的环境搭建

    本文将详细阐述如何搭建Hadoop 2.x的环境,这包括单节点模式、伪分布式模式以及完全分布式模式的安装与配置,同时也涵盖了Hadoop生态系统中其他重要组件的安装。 一、Hadoop简介 Hadoop是基于Java开发的,它由...

    Linux下Hadoop开发环境搭建详解

    内容概要:本文详细介绍了如何在 Linux 系统上搭建 Hadoop 开发环境,从环境准备到配置完成,包括 Java 安装、Hadoop 下载与安装、配置文件修改、SSH 无密码登录设置、Namenode 格式化、服务启动与验证等步骤。...

    hadoop环境搭建和eclipse开发

    hadoop环境搭建和eclipse开发

Global site tag (gtag.js) - Google Analytics