- 浏览: 39636 次
文章分类
最新评论
1.简介
windows下安装hadoop,这里采用hadoop-1.2.1其他的版本的都没有安装成功
2.cgywin环境安装及设置jdk软连接
下载安装cgywin:
在Select Packages界面里:
Category展开net,选择如下openssh和openssl两项
在Eclipe上编译Hadoop,需要安装Category为Base下的sed
在Cygwin上直接修改hadoop的配置文件,可以安装Editors下的vim
设置软连接:
在usr/local下执行 ln -s "C:/Program Files/Java/jdk1.7.0_67" jdk1.7 命令设置jdk软连接
3.ssh免登陆
安装sshd服务:在cgywin中执行ssh-host-config -y 命令
配置SSH免密码登录:
执行ssh-keygen命令生成密钥文件:
ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa,注意-t -P -f参数区分大小写。
生成authorized_keys文件
cd ~/.ssh/
cp id_dsa.pub authorized_keys
4.hadoop文件配置
这里编辑文件最好用vim编辑,如果用windows系统本身编辑器会出现错误
hadoop-env.sh文件
添加: export JAVA_HOME=/usr/local/jdk1.7
core-site.xml文件
hdfs-site.xml文件
mapred-site.xml文件
5.启动测试hadoop
在hadoop的bin目录下执行: ./hadoop namenode -format 格式化Hadoop的文件系统HDFS
在hadoop的bin目录下执行: ./start-all.sh 启动进程
6.eclipse环境配置hadoop
windows下安装hadoop,这里采用hadoop-1.2.1其他的版本的都没有安装成功
2.cgywin环境安装及设置jdk软连接
下载安装cgywin:
在Select Packages界面里:
Category展开net,选择如下openssh和openssl两项
在Eclipe上编译Hadoop,需要安装Category为Base下的sed
在Cygwin上直接修改hadoop的配置文件,可以安装Editors下的vim
设置软连接:
在usr/local下执行 ln -s "C:/Program Files/Java/jdk1.7.0_67" jdk1.7 命令设置jdk软连接
3.ssh免登陆
安装sshd服务:在cgywin中执行ssh-host-config -y 命令
配置SSH免密码登录:
执行ssh-keygen命令生成密钥文件:
ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa,注意-t -P -f参数区分大小写。
生成authorized_keys文件
cd ~/.ssh/
cp id_dsa.pub authorized_keys
4.hadoop文件配置
这里编辑文件最好用vim编辑,如果用windows系统本身编辑器会出现错误
hadoop-env.sh文件
添加: export JAVA_HOME=/usr/local/jdk1.7
core-site.xml文件
<?xml version="1.0"?> <?xml-stylesheet type="text/xsl" href="configuration.xsl"?> <!-- Put site-specific property overrides in this file. --> <configuration> <property> <name>fs.default.name</name> <value>hdfs://localhost:9000</value> </property> <property> <name>mapred.child.tmp</name> <value>/home/用户名/hadoop/tmp</value> </property> </configuration>
hdfs-site.xml文件
<?xml version="1.0"?> <?xml-stylesheet type="text/xsl" href="configuration.xsl"?> <!-- Put site-specific property overrides in this file. --> <configuration> <property> <name>dfs.replication</name> <value>1</value> </property> </configuration>
mapred-site.xml文件
<?xml version="1.0"?> <?xml-stylesheet type="text/xsl" href="configuration.xsl"?> <!-- Put site-specific property overrides in this file. --> <configuration> <property> <name>mapred.job.tracker</name> <value>localhost:9001</value> </property> <property> <name>mapred.child.tmp</name> <value>/home/用户名/hadoop/tmp</value> </property> </configuration>
5.启动测试hadoop
在hadoop的bin目录下执行: ./hadoop namenode -format 格式化Hadoop的文件系统HDFS
在hadoop的bin目录下执行: ./start-all.sh 启动进程
6.eclipse环境配置hadoop
发表评论
-
JVM内存结构及分析
2017-07-16 19:38 565JVM内存模型 名称特征 ... -
JVM调优实例
2017-06-24 12:30 01.背景:由于最近上线新增业务模块,业务量要增加所以对上线服务 ... -
音视频编码转换-ffmpeg
2016-12-30 18:42 15801.前言 由于最近在做ios与android端需要做a ... -
git did not match any file(s) known to git
2016-04-23 23:49 31191.did not match any file(s) kno ... -
Static工具类线程安全问题
2016-01-08 11:39 23481.静态方法 无论是静态方法还是实例方法,在内存中都只 ... -
JavaThread-ThreadLocal笔记
2015-12-23 14:54 5331.ThreadLocal简介 早在JDK 1.2的版本中就提 ... -
JUC-CountDownLatch笔记
2015-12-23 10:53 5641.CountDownLatch简介 CountDownLat ... -
Lambda表达式实现设计模式:命令模式
2015-10-13 09:59 708如何在使用Java 8 Lambda表达式的函数式编程方式时实 ... -
mysql 错误汇总
2015-08-12 16:49 4361.Mysql ERROR 1045 (28000): Acc ... -
Java注解
2015-08-07 11:25 01.@Retention(RetentionPolicy.RU ... -
Base64 编解码 工具类
2015-07-28 22:48 42871.工具类: import java.io.Uns ... -
HttpClient(发送字符串,multipart, 参数等)
2015-07-10 11:12 2084备注:httpclient4.5 发送MultiPart/Pa ... -
转载-搜索引擎实时秒级更新
2015-07-08 14:02 859搜索是很多用户在天 ... -
tomcat-定时任务
2015-03-30 15:27 6581.监听类 import java.util.Timer ... -
JVM-工作原理
2015-03-16 23:26 646一、 JVM的生命周期 1. J ... -
tomcat-启动时启动额外线程并控制线程状态
2015-02-04 18:22 675通过启动线程可以进行后台的操作 1.创建servlet ... -
Exception in thread "main" SoapFault - faultcode: 'soapenv:Server.userException'
2015-01-20 22:32 14291.抛出此类错误大部分都是服务端发布webservice调用出 ... -
Tomcat映射虚拟目录
2015-01-19 22:43 01.设置虚拟目录 <Host>标签</H ... -
android-运行java main方法
2014-12-30 16:10 7191.右键入口类(含有Main方法的)Run Configura ... -
Mybatis 常见错误汇总
2014-12-28 22:31 01.插入数据到数据库是异常 ### Cause: java.s ...
相关推荐
以上就是Hadoop 2.7.5在Windows环境下的安装、配置和运行过程。需要注意的是,由于Windows环境与Hadoop的Unix/Linux背景存在差异,可能会遇到权限、路径和网络等问题,需要根据实际情况进行调整。此外,Hadoop在...
《Hadoop 2.6.1在Windows X64平台上的安装与配置详解》 Hadoop,这个由Apache基金会开发的分布式...这个过程可能需要一定的耐心和理解,但是一旦完成,你就能在本地Windows环境中享受Hadoop带来的强大分布式处理能力。
在Windows环境下安装和运行Hadoop,可能需要处理以下几点关键问题: 1. **Java环境**:Hadoop依赖Java运行环境,确保系统已安装JDK,并且`JAVA_HOME`环境变量指向正确的JDK路径。 2. **环境变量配置**:设置`HADOOP_...
在Windows环境下安装Hadoop 3.1.0,你需要以下步骤: 1. **安装Java环境**:首先,确保你的系统已经安装了Java Development Kit (JDK) 8或以上版本,因为Hadoop需要Java运行环境。 2. **解压Hadoop压缩包**:将...
1. `hadoop.dll`:这是Hadoop在Windows环境下运行的一个重要依赖库,主要用于提供Hadoop与Windows操作系统的交互,如处理文件I/O、网络通信等。在配置时,确保该动态链接库被正确加载到系统路径中,否则可能会导致...
1. **hadoop.dll**: 这是一个动态链接库文件,对Hadoop在Windows环境中的运行至关重要。它包含了Hadoop运行所需的函数库,使得Java编写的Hadoop程序能够调用操作系统级别的功能,如文件系统操作、网络通信等。在...
在Windows环境下安装和使用Hadoop通常比在Linux上更为复杂,因为Hadoop最初是为Linux设计的。然而,通过特定的Windows适配器,如`winutils.exe`,用户可以在Windows系统上搭建Hadoop环境。 标题中的"apache-hadoop-...
4.把E:\apps\hadoop-2.7.7\bin\hadoop.dll拷贝到 C:\Windows\System32 5.设置环境变量,新建系统变量,变量名:HADOOP_HOME,变量值:E:\apps\hadoop-2.7.7;编辑 Path 变量增加 %HADOOP_HOME%\bin,重启电脑 6.在...
在这个"apache-hadoop-3.1.3-winutils-master.zip"压缩包中,包含了在Windows环境下配置Hadoop HDFS客户端所需的组件,特别是`hadoop-winutils`和`hadoop.dll`这两个关键文件,它们对于在Windows系统上运行Hadoop...
`hadoop-common-2.6.0-bin-master.zip` 是一个针对Hadoop 2.6.0版本的压缩包,特别适用于在Windows环境下进行本地开发和测试。这个版本的Hadoop包含了对Windows系统的优化,比如提供了`winutils.exe`,这是在Windows...
在这个Windows版的Hadoop 3.3.1包中,包含了为Windows环境优化的配置和组件,使得在Windows平台上运行Hadoop成为可能。 Windows上的Hadoop通常需要一些额外的工具来辅助,其中之一就是winutils。Apache Hadoop ...
总的来说,Hadoop.dll和winutils.exe是Hadoop在Windows平台上运行的基石,它们使得开发者和数据工程师能够在Windows环境下开发、测试和运行Hadoop应用程序,扩大了Hadoop的适用范围。对于那些不便连接外网或者主要...
"apache-hadoop-3.1.0-winutils-master"是针对Windows环境的一个特殊构建,包含了Hadoop在Windows上的运行所需的一些工具,如`winutils.exe`,它是Hadoop在Windows上运行的关键组件。在Win10环境下安装Hadoop 3.1.0...
标题中的"apache-hadoop-3.1.0-winutils-master.zip"是一个专门为解决Windows 10上Hadoop安装问题的压缩包,它包含了一些修改后的bin目录文件,使得Hadoop可以在Windows环境中正常运行。 在Hadoop的默认下载版本中...
本文将深入探讨如何使用Eclipse IDE结合hadoop-eclipse-plugin-2.6.0.jar插件,实现在Windows环境下进行远程连接到Hadoop集群,尤其适用于64位操作系统。 首先,我们要理解Hadoop的核心概念。Hadoop是由Apache基金...
在Windows环境下配置和使用Hadoop可能相对于Linux环境更为复杂,但通过提供的"windows-hadoop-2.7.3"压缩包,我们可以简化这个过程。 标题中的"windows-hadoop-2.7.3"表明这是一个专为Windows系统设计的Hadoop ...
综上所述,为了在Windows 10环境中使用Hadoop,你需要安装并配置好JDK,下载Hadoop 2.9.2并设置相应的环境变量,同时利用Eclipse 2020-03和Hadoop-Eclipse-Plugin插件进行开发。如果你已经启动了Eclipse,记得在安装...
hadoop-common-2.2.0-bin-master(包含windows端开发Hadoop和Spark需要的winutils.exe),Windows下IDEA开发Hadoop和Spark程序会报错,原因是因为如果本机操作系统是windows,在程序中使用了hadoop相关的东西,比如写入...
`winutils.exe`是Hadoop在Windows环境下运行必不可少的一部分,它提供了类似于Linux环境下的`hadoop`命令行工具,如设置HDFS目录权限、启动或停止Hadoop服务等。在Windows上搭建Hadoop环境时,往往需要将`winutils....
标题中提到的`hadoop.dll`和`winutils.exe`是Windows环境下运行Hadoop所必需的二进制文件。在Windows系统上配置Hadoop环境时,这两个文件经常会出现问题,因为它们通常不包含在标准的Hadoop发行版中,需要额外下载或...