- 浏览: 64620 次
- 性别:
- 来自: 上海
文章分类
最新评论
前面已经有一篇记述了hadoop-plugin for eclipse的安装,但是仍受限于run on hadoop不能工作,而且是在虚拟机内部,没有试过在虚拟机外用eclipse连接虚拟机内部的hdfs
为解决以上两问题,总结这两天的工作情况
一、结合网上的说法,plugin是用eclipse europa开发的,可以和这个版本良好结合,试过,确实可以使用run on hadoop了。
二、远程访问hadoop
参考这篇文章
要注意的地方有以下几个
1.首先查看虚拟机IP(即hadoop安装启动的机器),并保证ssh ${ip}无须登录
2.在客户机(我的例子是虚拟机外部的windows本机)的hosts里加上虚拟机的ip与机器名的映射,重启生效
3.hadoop的所有配置文件中用域名的地方改为ip,主要是core-site.xml、mapred-site.xml、master、slave;
4.eclipse中配置hadoop时,advance parameter中hadoop.tmp.dir必须与core-site.xml中配置的一样,还有hadoop.job.ugi这一项,第一次可能不会出现(linux里的eclipse一直不出现),重启或重连接后会出现,这一项必须配置成 (登录用户名),(登录用户组)的形式
5.虚拟机里的hosts文件必须改,必须将127.0.0.1的项目都去掉或者注解掉(就是没有去掉这个导致浪费了一下午加一晚上),必须加上ip对应虚拟机机器名的项
感受:hadoop相关工具的版本问题很头疼,hadoop本身一直在向前开发,但是各相关工具没有跟上,目前看来,如果不想用cloudera的版本而用原生的话,最好用hadoop-0.20.2版,eclipse用europa版,加上0.20.2的插件,就可以进行相应的开发了
发表评论
-
centos7下安装hadoop2.6.4过程总结
2016-03-03 21:49 0linux是从ubuntu开始接触的,但听说做服务器的,而且 ... -
[转]Yahoo持续的Pig/Hadoop(MapReduce)工作流
2013-03-16 21:40 858传送门:http://blog.sina.c ... -
有关kvm
2013-03-16 21:15 1324有一台式机,希望能模拟一个三四台的小集群,因为装的ubun ... -
hadoop 源代码学习
2011-12-15 14:44 0根据《hadoop 源代码分析 完整版》 (四) 主 ... -
hadoop io机制 序列化与反序列化
2011-12-15 11:27 0原文: http://blog.csdn.net/asx20 ... -
MapReduce流程分析
2011-12-13 18:39 1255原文:http://blog.csdn.net/jackyda ... -
[转]Twitter首席工程师:如何“打败”CAP定理
2011-12-12 11:44 1890英文原文:How to beat the CAP theore ... -
自行编译hadoop eclipse-plugin for eclipse3.7
2011-12-12 11:33 2858主要是这两篇文章: http://varyall.iteye ... -
mapper,reducer的个数
2011-12-07 13:10 0《实战Hadoop》中第3章有一节讨论reducer的个数,从 ... -
HDFS常用操作与API
2011-11-22 11:16 0《Hadoop》实践Chap2 相应条目下给出命令与贴图(另 ... -
MapReduce:一个重大的倒退
2011-10-14 15:55 1130原文:http://apps.hi.baidu ... -
hbase单机终于跑起来了
2011-11-02 15:00 4173去看了日志文件 2011-11-01 23:44:06,99 ... -
hbase终于跑起来了 续
2011-11-02 15:09 885其实在前面还有一段,没有保存下当时的经历,现在将配置项保存一下 ... -
hbase终于跑起来了再续
2011-11-02 21:01 799java.lang.NoClassDefFoundError: ... -
eclipse plugin 终于有作用了
2011-11-05 16:19 1475前几天一直无进展,今天也弄了半天,但是出现了转机,不再是那个“ ... -
erlang重新开张
2011-11-16 13:39 917以此庆贺重拾erlang 重看《erlang程序设计》 ... -
hbase 索引记录
2011-11-16 21:15 1020根本目的是实时的查询速度 从两方面来看: 一、HBa ... -
yahoo论文:Benchmarking Cloud Serving Systems with YCSB
2011-11-16 21:16 1826摘要:针对大规模数据分析的mapreduce技术已被广泛意识和 ... -
YCSB%e6%b5%8b%e8%af%95hbase
2011-11-16 21:16 1168首先,ycsb放狗,第一个就是 https://github ... -
HDFS study
2011-11-16 21:18 974http://varyall.iteye.com/blog/7 ...
相关推荐
Hadoop-Eclipse-Plugin 2.8.0的出现,反映了Hadoop生态系统从Hadoop 1到Hadoop 2的重大转变,尤其是在资源管理和任务调度方面的改进。同时,这也意味着对于那些已经习惯了Eclipse或MyEclipse的开发者来说,他们无需...
《Hadoop Eclipse Plugin 2.6.0:高效开发与测试工具》 Hadoop作为大数据处理的核心框架,为开发者提供了强大的分布式存储和计算能力。在实际的开发过程中,为了提高效率并减少错误,Hadoop提供了Eclipse插件,即...
《Hadoop Eclipse Plugin 2.7.4:MapReduce编程的得力助手》 Hadoop Eclipse Plugin 2.7.4是专为Hadoop 2.7.4版本设计的一款集成开发工具,它使得开发者能够在Eclipse环境中直接编写、调试和运行MapReduce程序,极...
hadoop eclipse plugin for version 1.0.1
Eclipse集成Hadoop2.10.0的插件,使用`ant`对hadoop的jar包进行打包并...- `hadoop2x-eclipse-plugin-master/src/contrib/eclipse-plugin/build.xml` 开源源地址: https://github.com/winghc/hadoop2x-eclipse-plugin
【Hadoop Eclipse Plugin 1.1.2:开启Hadoop在Eclipse中的开发之旅】 Hadoop Eclipse Plugin 1.1.2 是一个专门为Eclipse IDE设计的插件,旨在简化Hadoop应用程序的开发过程。这个插件使得Java开发者能够在熟悉的...
7. **版本兼容性**:Hadoop Eclipse Plugin 2.6.5支持Hadoop 2.x系列,这意味着它可以与大多数现代Hadoop集群配合使用。 总之,Hadoop Eclipse Plugin 2.6.5是Hadoop开发者不可或缺的工具,它简化了Hadoop作业的...
《Hadoop Eclipse Plugin 2.6.0:整合Eclipse开发环境的利器》 Hadoop Eclipse Plugin 2.6.0是一款专为Eclipse集成开发环境设计的插件,它使得开发者能够在熟悉的Eclipse环境中直接操作和管理Hadoop集群,极大地...
Hadoop Eclipse Plugin是一款用于Hadoop开发的Eclipse插件,它极大地简化了Hadoop开发者在Eclipse集成开发环境中的工作流程。这个压缩包文件包含了不同版本的Hadoop Eclipse Plugin,分别是2.5.2、2.6.0、2.7.3和...
总的来说,Hadoop Eclipse Plugin 2.7.2是Hadoop开发者必备的工具之一,它简化了MapReduce应用程序的开发流程,同时也提供了强大的远程调试功能,使得开发者能够在本地环境中高效地开发和测试Hadoop应用,然后无缝...
Hadoop-Eclipse-Plugin-3.1.1是一款专为Eclipse集成开发环境设计的插件,用于方便地在Hadoop分布式文件系统(HDFS)上进行开发和调试MapReduce程序。这款插件是Hadoop生态系统的组成部分,它使得Java开发者能够更加...
hadoop-eclipse-plugin-1.2.1hadoop-eclipse-plugin-1.2.1hadoop-eclipse-plugin-1.2.1hadoop-eclipse-plugin-1.2.1
Hadoop Eclipse是Hadoop开发环境的插件,用户在创建Hadoop程序时,Eclipse插件会自动导入Hadoop编程接口的jar文件,这样用户就可以在Eclipse插件的图形界面中进行编码、调试和运行Hadop程序,也能通过Eclipse插件...
《Hadoop Eclipse Plugin 2.7.7:高效开发与集成环境》 Hadoop Eclipse Plugin 2.7.7.jar 是一个专为Java开发者设计的工具,它将Hadoop的开发环境与Eclipse IDE紧密集成,极大地提高了在Windows 10系统上进行Hadoop...
《Hadoop Eclipse Plugin 2.7.0:高效开发与调试工具》 Hadoop Eclipse Plugin 2.7.0是一款专门为Hadoop生态系统设计的Eclipse集成插件,它极大地简化了开发者在Eclipse环境中对Hadoop应用程序的创建、调试和管理...
Hadoop Eclipse Plugin是Apache Hadoop项目的一个重要组成部分,主要用于在Eclipse集成开发环境中方便地创建、管理和调试Hadoop MapReduce程序。2.7.2版本是这个插件的一个稳定版本,提供了对Hadoop 2.x系列的支持。...
Ubuntu虚拟机HADOOP集群搭建eclipse环境 hadoop-eclipse-plugin-3.3.1.jar
hadoop eclipse plugin,可以集成Eclipse进行开发。
《Hadoop Eclipse Plugin 2.7.4:整合开发环境的利器》 在大数据处理领域,Hadoop无疑是一个核心组件,而Eclipse作为Java开发的主流IDE,为开发者提供了强大的工具支持。当这两个世界相遇,便诞生了Hadoop Eclipse ...
- hadoop-eclipse-plugin-2.5.2.jar对应的是Hadoop 2.x系列,也称为Hadoop YARN(Yet Another Resource Negotiator)。在YARN中,JobTracker被拆分为Resource Manager(RM)和Application Master(AM),RM负责全局...