`
hcp1101
  • 浏览: 7762 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

Mac OS 系统安装Hadoop

 
阅读更多
最近在学习Hadoop,在学习伪分布式,单节点配置时总是报下面的错误。
2013-03-17 15:14:27,166 WARN org.apache.hadoop.hdfs.DFSClient: DataStreamer Exception: org.apache.hadoop.ipc.RemoteException: java.io.IOException: File /tmp/hadoop-huang/mapred/system/jobtracker.info could only be replicated to 0 nodes, instead of 1
	at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.getAdditionalBlock(FSNamesystem.java:1558)
	at org.apache.hadoop.hdfs.server.namenode.NameNode.addBlock(NameNode.java:696)
	at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
	at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39)
	at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)
	at java.lang.reflect.Method.invoke(Method.java:597)
	at org.apache.hadoop.ipc.RPC$Server.call(RPC.java:563)
	at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:1388)
	at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:1384)
	at java.security.AccessController.doPrivileged(Native Method)
	at javax.security.auth.Subject.doAs(Subject.java:396)
	at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1121)
	at org.apache.hadoop.ipc.Server$Handler.run(Server.java:1382)

	at org.apache.hadoop.ipc.Client.call(Client.java:1070)
	at org.apache.hadoop.ipc.RPC$Invoker.invoke(RPC.java:225)
	at com.sun.proxy.$Proxy5.addBlock(Unknown Source)
	at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
	at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39)
	at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)
	at java.lang.reflect.Method.invoke(Method.java:597)
	at org.apache.hadoop.io.retry.RetryInvocationHandler.invokeMethod(RetryInvocationHandler.java:82)
	at org.apache.hadoop.io.retry.RetryInvocationHandler.invoke(RetryInvocationHandler.java:59)
	at com.sun.proxy.$Proxy5.addBlock(Unknown Source)
	at org.apache.hadoop.hdfs.DFSClient$DFSOutputStream.locateFollowingBlock(DFSClient.java:3510)
	at org.apache.hadoop.hdfs.DFSClient$DFSOutputStream.nextBlockOutputStream(DFSClient.java:3373)
	at org.apache.hadoop.hdfs.DFSClient$DFSOutputStream.access$2600(DFSClient.java:2589)
	at org.apache.hadoop.hdfs.DFSClient$DFSOutputStream$DataStreamer.run(DFSClient.java:2829)

2013-03-17 15:14:27,166 WARN org.apache.hadoop.hdfs.DFSClient: Error Recovery for block null bad datanode[0] nodes == null
2013-03-17 15:14:27,166 WARN org.apache.hadoop.hdfs.DFSClient: Could not get block locations. Source file "/tmp/hadoop-huang/mapred/system/jobtracker.info" - Aborting...
2013-03-17 15:14:27,166 WARN org.apache.hadoop.mapred.JobTracker: Writing to file hdfs://localhost:9000/tmp/hadoop-huang/mapred/system/jobtracker.info failed!
2013-03-17 15:14:27,166 WARN org.apache.hadoop.mapred.JobTracker: FileSystem is not ready yet!
2013-03-17 15:14:27,169 WARN org.apache.hadoop.mapred.JobTracker: Failed to initialize recovery manager. 
org.apache.hadoop.ipc.RemoteException: java.io.IOException: File /tmp/hadoop-huang/mapred/system/jobtracker.info could only be replicated to 0 nodes, instead of 1
	at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.getAdditionalBlock(FSNamesystem.java:1558)
	at org.apache.hadoop.hdfs.server.namenode.NameNode.addBlock(NameNode.java:696)
	at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
	at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39)
	at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)
	at java.lang.reflect.Method.invoke(Method.java:597)
	at org.apache.hadoop.ipc.RPC$Server.call(RPC.java:563)
	at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:1388)
	at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:1384)
	at java.security.AccessController.doPrivileged(Native Method)
	at javax.security.auth.Subject.doAs(Subject.java:396)
	at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1121)
	at org.apache.hadoop.ipc.Server$Handler.run(Server.java:1382)

	at org.apache.hadoop.ipc.Client.call(Client.java:1070)
	at org.apache.hadoop.ipc.RPC$Invoker.invoke(RPC.java:225)
	at com.sun.proxy.$Proxy5.addBlock(Unknown Source)
	at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
	at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39)
	at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)
	at java.lang.reflect.Method.invoke(Method.java:597)
	at org.apache.hadoop.io.retry.RetryInvocationHandler.invokeMethod(RetryInvocationHandler.java:82)
	at org.apache.hadoop.io.retry.RetryInvocationHandler.invoke(RetryInvocationHandler.java:59)
	at com.sun.proxy.$Proxy5.addBlock(Unknown Source)
	at org.apache.hadoop.hdfs.DFSClient$DFSOutputStream.locateFollowingBlock(DFSClient.java:3510)
	at org.apache.hadoop.hdfs.DFSClient$DFSOutputStream.nextBlockOutputStream(DFSClient.java:3373)
	at org.apache.hadoop.hdfs.DFSClient$DFSOutputStream.access$2600(DFSClient.java:2589)
	at org.apache.hadoop.hdfs.DFSClient$DFSOutputStream$DataStreamer.run(DFSClient.java:2829)
2013-03-17 15:14:37,170 WARN org.apache.hadoop.mapred.JobTracker: Retrying...
2013-03-17 15:14:37,181 WARN org.apache.hadoop.hdfs.DFSClient: DataStreamer Exception: org.apache.hadoop.ipc.RemoteException: java.io.IOException: File /tmp/hadoop-huang/mapred/system/jobtracker.info could only be replicated to 0 nodes, instead of 1
	at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.getAdditionalBlock(FSNamesystem.java:1558)
	at org.apache.hadoop.hdfs.server.namenode.NameNode.addBlock(NameNode.java:696)
	at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
	at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39)
	at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)
	at java.lang.reflect.Method.invoke(Method.java:597)
	at org.apache.hadoop.ipc.RPC$Server.call(RPC.java:563)
	at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:1388)
	at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:1384)
	at java.security.AccessController.doPrivileged(Native Method)
	at javax.security.auth.Subject.doAs(Subject.java:396)
	at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1121)
	at org.apache.hadoop.ipc.Server$Handler.run(Server.java:1382)

	at org.apache.hadoop.ipc.Client.call(Client.java:1070)
	at org.apache.hadoop.ipc.RPC$Invoker.invoke(RPC.java:225)
	at com.sun.proxy.$Proxy5.addBlock(Unknown Source)
	at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
	at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39)
	at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)
	at java.lang.reflect.Method.invoke(Method.java:597)
	at org.apache.hadoop.io.retry.RetryInvocationHandler.invokeMethod(RetryInvocationHandler.java:82)
	at org.apache.hadoop.io.retry.RetryInvocationHandler.invoke(RetryInvocationHandler.java:59)
	at com.sun.proxy.$Proxy5.addBlock(Unknown Source)
	at org.apache.hadoop.hdfs.DFSClient$DFSOutputStream.locateFollowingBlock(DFSClient.java:3510)
	at org.apache.hadoop.hdfs.DFSClient$DFSOutputStream.nextBlockOutputStream(DFSClient.java:3373)
	at org.apache.hadoop.hdfs.DFSClient$DFSOutputStream.access$2600(DFSClient.java:2589)
	at org.apache.hadoop.hdfs.DFSClient$DFSOutputStream$DataStreamer.run(DFSClient.java:2829)


这个原因就是由于没有开启ssh远程登陆造成,在系统偏好设置-共享里选择远程登录就可以。
分享到:
评论

相关推荐

    hadoop-eclipse-plugin-2.4.0 mac os.jar

    环境配置是:hadoop 2.4.0+ eclipse 4.3.2+mac os+10.9.4 eclipse插件

    hadoop2.2.0-lib-native-macos.zip

    首先,你需要解压“hadoop2.2.0-lib-native-macos.zip”,然后将解压得到的“native”目录复制到Hadoop安装目录的“lib/native”子目录下。确保Hadoop的配置文件(如`core-site.xml`和`hadoop-env.sh`)正确设置了...

    mac下编译hadoop3.1.4源码生成的native库

    至此,你已完成在Mac环境下编译Hadoop 3.1.4源码生成的本地库,并成功将其集成到你的Hadoop安装中。如果你在过程中遇到问题,可以通过留言寻求帮助,或者查阅Hadoop的官方文档和社区资源获取更多支持。

    mac上基于docker搭建hadoop集群

    1、拉取centos8的镜像 在用户目录下: 2、构建集群子网 按照集群的架构,创建容器时需要设置固定IP,所以先要在docker使用如下命令创建固定IP的子网 ...OS hostname IP Centos8 hadoop-master 172.1

    hadoop-3.3.1-aarch64.tar.gz

    标题 "hadoop-3.3.1-aarch64.tar.gz" 暗示这是一个针对aarch64架构(ARM64)的Hadoop 3.3.1版本的压缩包,适合在运行M1芯片(苹果公司的ARM架构处理器)的Mac系统上使用。Hadoop是一个开源的分布式计算框架,它允许...

    初识hadoop之hadoop 安装

    【初识Hadoop之Hadoop安装】 Hadoop是Apache软件基金会的一个开源分布式计算框架,它设计用于处理和存储海量数据。Hadoop的核心组件包括HDFS(Hadoop Distributed File System)和MapReduce,前者负责数据的分布式...

    mac 下hadoop3.0.2编译的native库

    6. **安装本地库**:编译完成后,找到生成的本地库文件(通常是`libhadoop.so`),将其复制到Hadoop安装目录的`lib/native`子目录下。 7. **配置Hadoop**:在Hadoop的配置文件`core-site.xml`中添加或修改以下配置:...

    hadoop-lzo-0.4.20.jar

    hadoop2 lzo 文件 ,编译好的64位 hadoop-lzo-0.4.20.jar 文件 ,在mac 系统下编译的,用法:解压后把hadoop-lzo-0.4.20.jar 放到你的hadoop 安装路径下的lib 下,把里面lib/Mac_OS_X-x86_64-64 下的所有文件 拷到 ...

    hadoop2x-eclipse-plugin-master

    这个插件的主要目的是为Hadoop开发者提供一个更加便捷和高效的开发环境,尤其适用于在不同操作系统如Windows、Linux或Mac OS上进行Hadoop应用的开发。 【描述】中提到,该插件适用于“各个Hadoop版本的各个平台”,...

    hadoop-lzo-0.4.15.jar

    hadoop2 lzo 文件 ,编译好的64位 hadoop-lzo-0.4.15.jar 文件 ,在mac 系统下编译的,用法:解压后把hadoop-lzo-0.4.15.jar 放到你的hadoop 安装路径下的lib 下,把里面lib/Mac_OS_X-x86_64-64 下的所有文件 拷到 ...

    hadoop-plugin-2.7.2_for_eclipse.jar.zip

    本文将详细介绍这款插件——hadoop-eclipse-plugin-2.7.2.jar,及其在Mac OS X系统上的安装和使用方法。 首先,我们来看标题中的关键部分——"hadoop-plugin-2.7.2_for_eclipse.jar.zip",这是一个包含Hadoop ...

    实验2 Hadoop安装与配置 (2).docx

    * 系统环境:windows 、linux 或者 mac os x * 软件环境:运行 vmware 或者 virtualbox 五、实验的步骤和方法: 实验的步骤和方法包括: 1. 打开桌面 VMware Workstation 图标,进入软件。 2. 选择 linux 操作...

    Hadoop源码及编译工具

    4. **操作系统兼容性**:Hadoop支持多种操作系统,包括Linux、Mac OS和Windows。不过,最常用的还是Linux环境,因为它是大多数大数据集群的首选平台。 接下来,进入Hadoop源码目录,执行Maven的`clean package`命令...

    实验2 Hadoop安装与配置 (2).pdf

    安装环境:硬件环境:内存 DDR3 4G 及以上的 x86 架构主机一部系统环境:Windows、Linux 或者 Mac OS X 软件环境:运行 VMware 或者 VirtualBox 五、实验的步骤和方法: (一)VMware 中 Ubuntu 的安装步骤 1. ...

    hadoop.zip

    Hadoop的跨平台性得益于Java,使得它能在多种操作系统上运行,包括Linux、Windows和Mac OS等。同时,Hadoop也提供了丰富的Java API供开发者编写MapReduce作业。 在Windows环境下运行Hadoop可能会遇到一些挑战,比如...

    hadoop 笔记

    - **3.2.1 支持平台**:Hadoop可以在多种操作系统上运行,如Linux、Mac OS X和Windows,但在生产环境中最常用的是Linux。 - **3.2.2 所需软件**:需要安装JDK(Java Development Kit),因为Hadoop是用Java编写的。 ...

    Hadoop大数据

    Hadoop具有高度的可扩展性,适用于在普通的X86硬件平台上运行,并且支持Linux、Mac OS/X和Solaris等操作系统。 Hadoop的核心组件主要包括分布式文件系统(HDFS)和MapReduce编程环境。HDFS是一种分布式存储系统,...

    hadoop入门实战

    Hadoop可以在多种操作系统上运行,包括Linux、Windows和Mac OS。 3.2.2. **所需软件** - Java Development Kit (JDK):Hadoop依赖Java环境运行。 - SSH客户端(可选):用于远程访问和管理Hadoop集群。 ...

    作业二-Mac版Hadoop三节点集群搭建.docx

    搭建Mac版Hadoop三节点集群涉及多个步骤,包括软件安装、配置、网络设置以及集群验证。通过这个过程,你不仅可以学习到Hadoop的基础知识,还能深入了解分布式系统的工作原理。在实际操作中,务必细心并耐心地检查每...

    flink-shaded-hadoop-3-uber-3.1.1.7.1.1.0-565-9.0.jar.tar.gz

    在这个特定的兼容包中,我们可以看到两个文件:flink-shaded-hadoop-3-uber-3.1.1.7.1.1.0-565-9.0.jar(实际的兼容库)和._flink-shaded-hadoop-3-uber-3.1.1.7.1.1.0-565-9.0.jar(可能是Mac OS的元数据文件,通常...

Global site tag (gtag.js) - Google Analytics