`

运行hadoop中的错误总结

 
阅读更多

1、运行后遇到了hdfs专用的9000端口没有启动

     

Directory /tmp/hadoop-javoft/dfs/name is in an inconsistent state: storage directory does not exist or is not accessible.这里的目录既然是在tmp下面的,回忆一下,tmp目录下的文件是临时文件会被定期删除的,貌似bug已经露出水面。那就重启计算机试试是不是因为这,重启之前检查一下tmp目录下面确定几个format namenode之后应该有的目录都有的,重启之后,发现全部被删掉。在执行一次 start-dfs.sh,看到tmp目录下面建了一些目录,但是dfs/name目录仍然不存在,在start-dfs.sh时候建了一部分目录和文件。而dfs/name需要在hadoop namenode -format时建立。问题清楚了。

解决方案就很简单,这些目录的位置都是根据hadoop.tmp.dir的位置确定的,所以只需要在conf/core-site.xml覆盖hadoop.tmp.dir的默认值即可:

...
<property>
   <name>hadoop.tmp.dir</name>
   <value>/home/javoft/Documents/hadoop/hadoop-${user.name}</value>
   <description>A base for other temporary directories.</description>
</property>
...

如此问题解决。。。

 

分享到:
评论

相关推荐

    Eclipse中编译运行Hadoop-0.20.1源码

    总结一下,编译和运行Hadoop-0.20.1源码需要准备合适的开发环境,正确导入源代码到Eclipse项目,启动Hadoop集群,最后编译和运行源代码。通过这种方式,开发者可以深入理解Hadoop的工作流程,调试代码,以及进行定制...

    Hadoop学习总结和源码分析

    “Hadoop学习总结之五:Hadoop的运行痕迹.doc”可能涉及监控和日志记录,这是理解Hadoop系统运行状态和问题排查的重要手段。通过监控Hadoop集群的性能指标,如CPU利用率、内存使用情况、磁盘I/O等,可以优化系统配置...

    Hadoop用微软运行库

    总结起来,"Hadoop用微软运行库"是一个针对Windows环境下Hadoop运行时问题的解决方案,特别是解决了winutils.exe由于缺失dll文件而产生的错误。通过提供必要的C运行时库,这个库确保了Hadoop在Windows系统上的平稳...

    hadoop配置运行错误

    hadoop是一个大数据处理的基础架构,但是在实际使用过程中经常会碰到各种各样的问题,以下是解决hadoop配置运行错误的一些经验总结: 一、hadoop集群在namenode格式化后重启集群会出现Incompatible namespaceIDS...

    运行hadoop jar

    标题 "运行hadoop jar" 涉及到的是在...总结来说,"运行hadoop jar"是一个关键步骤,它涵盖了从编写Java代码到在Hadoop集群上执行分布式计算的完整流程。理解并熟练掌握这一过程对于开发和维护Hadoop应用至关重要。

    hadoop hive入门学习总结

    - **Hadoop 0.20.X** 或更高版本:Hive是构建在Hadoop之上的,因此需要先安装并运行Hadoop集群。 #### 1.2 安装步骤 1. 解压Hive的安装包,例如: ``` tar zxvf hive-0.8.1-bin.tar.gz ``` 2. 将解压后的文件...

    Win7中使用Eclipse连接虚拟机中的Linux中的Hadoop2.5.0经验总结

    本文将详细阐述如何解决在Win7中使用Eclipse连接运行在虚拟机Linux上的Hadoop 2.5.0时遇到的问题,这些解决方案同样适用于更高版本的Hadoop。 1. **解决Windows7下Eclipse代码执行MapReduce报错** 当尝试在...

    【IT十八掌徐培成】Hadoop第04天-05.win7下hadoop运行需要dll和exe文件的支持.zip

    总结来说,要在Windows 7环境下成功运行Hadoop,需要安装和配置Java环境、Winutils工具、SSH服务,并正确设置环境变量和配置文件。同时,解决可能遇到的DLL和EXE文件依赖问题,以及处理可能出现的兼容性挑战,才能...

    hadoop-3.1.1 bin目录文件-含hadoop.dll、winutils

    描述中提到的“hadoop.dll”是Hadoop在Windows平台上的动态链接库文件,它包含了运行Hadoop所需的特定于Windows的函数调用。在Eclipse中配置Hadoop本地运行环境时,如果没有这个文件,可能会遇到Java Native Access ...

    hadoop.dll,winutils.exe hadoop2.6

    在Hadoop生态系统中,`hadoop.dll`和`winutils.exe`是Windows环境下运行Hadoop时必不可少的组件,尤其在2.6版本中。本文将深入探讨这两个文件的作用,以及如何解决`wordCount`示例中出现的`NullPointerException`...

    Hadoop官方中文文档

    总结上述知识点,Hadoop官方中文文档为用户提供了一个全面的指导手册,涵盖了从安装、配置、使用到权限和资源管理的各个重要方面。这本手册是理解和运用Hadoop技术的重要资源,尤其对于中文用户而言,它降低了语言...

    Hadoop 2.7.4 Windows (7, 10) 64位 编译bin(包含winutils.exe, hadoop.dll等)

    总结起来,这个压缩包是为了解决在Windows 7和10上运行Hadoop 2.7.4版本时可能出现的问题,特别是winutils.exe和hadoop.dll的缺失或不兼容问题。通过提供预编译的64位版本,使得Windows用户也能顺利进行大数据处理,...

    hadoop-eclipse-plugin-2.6.0.jar.zip_2.6.0_hadoop_hadoop plugin

    在实际的开发过程中,为了提高效率并减少错误,Hadoop提供了Eclipse插件,即本文讨论的`hadoop-eclipse-plugin-2.6.0.jar`。这个插件是针对Hadoop 2.6.0版本设计的,主要目标是集成Eclipse IDE,使得开发者可以在...

    Hadoop Streaming 官方中文文档

    确保环境正确配置是成功运行Hadoop Streaming作业的前提。 #### 编写MapReduce脚本 文档详细介绍了如何编写map和reduce脚本,包括数据格式、键值对的处理、错误处理机制等。脚本的编写需要遵循特定的规则,比如...

    hadoop插件

    总结来说,这个"64位Window系统适用的Hadoop插件"解决了Windows用户在运行Hadoop时面临的兼容性和配置难题。通过这些文件,用户可以直接集成到自己的环境中,进行大数据处理和分析任务,而不需要担心平台的限制。这...

    hadoop-3.1.3-mac-native_lib.zip

    将这个压缩包解压后的本地库文件集成到你的Hadoop安装中,可以解决macOS系统运行Hadoop时可能出现的错误。具体做法是在Hadoop的安装目录下,将编译好的本地库复制到对应的lib/native目录,并根据需要更新配置文件,...

    hadoop2.8.0 eclipse jb51

    这些插件可以帮助开发者在Eclipse中创建、编辑、编译、运行和调试Hadoop作业,大大简化了开发流程。 jb51的出现可能意味着一种特定的配置或集成方法,这可能涉及到自定义插件设置,或者是在Eclipse中集成特定的...

    hadoop2.7.3 在windows下需要的hadoop.dll winutils.exe等文件

    总结来说,这个压缩包包含的文件对于在Windows上成功运行Hadoop 2.7.3至关重要。确保将所有这些文件正确地放置在Hadoop的`bin`目录下,并配置好相关的环境变量,这将极大地帮助你克服Hadoop在非Linux环境下的兼容性...

    hadoop-common-2.60-win32-bin

    在Windows 32位系统上部署和运行Hadoop Common 2.60,需要配置环境变量,如添加HADOOP_HOME,并确保相关库文件(如hadoop.dll)在PATH路径中。此外,还需要配置Hadoop的配置文件(如core-site.xml和hdfs-site.xml)...

    hadoop-windows-dll

    总结来说,"hadoop-windows-dll"压缩包包含了一系列在Windows上运行Hadoop和Spark所需的关键组件,它们共同确保了这两个大数据处理框架在非Unix环境下的兼容性和功能性。对于Windows用户来说,理解这些组件的作用和...

Global site tag (gtag.js) - Google Analytics