- 浏览: 91073 次
文章分类
最新评论
准备工作:hadoop2.3 64/32
win7+vmare+3 centos
jdk 7
1、配置centos nat联网方式
设置虚拟机的网络适配器 为nat(Network Address Translation,网络地址转换)
NAT方式只要主机Host能够上网,小小设置一下,VMware也能上网
NAT不仅能解决了lP地址不足的问题,而且还能够有效地避免来自网络外部的攻击,隐藏并保护网络内部的计算机。
VM软件安装好后,就有10个网络连接类型可供选择。分别是:VMnet0、VMnet1、VMnet2、VMnet3、VMnet4、VMnet5、VMnet6、VMnet7、VMnet8、VMnet9。
VM虚拟机常用的三种网络连接方式默认:桥接(bridge)用的是VMnet0,NAT用的是VMnet8,host-only用的是VMnet1。
桥接:就是把虚拟机通过VMnet0桥接到主机的本地连接。
虚拟机是通过VMnet0与外界联系,现在的虚拟机就相当于和主机一样是物理网络中的一台电脑,说的通俗的就是现在虚拟机就相当于和你主机同在一个网络的另一台真实的电脑。所以要想使用桥接使虚拟机上网,前提必须你的主机处在局域网中,也就是你的主机上网得有路由器,这时才能用桥接使虚拟机上网。至于虚拟机的IP设置方式和你主机一样,用不用设置IP要看你的路由器是否开启了DHCP和DNS,主机不用虚拟机也不用,主机要设置那么虚拟机也要设置。对于那些使用拨号上网方式并且没用路由器的就不要用桥接。
NAT:就是网络地址转换,通过VMnet8连接作为网关使虚拟机经过主机上网。
虚拟机是通过VMnet8与外界联系,说的通俗的就是在你的主机和虚拟机之间加了一个路由器,虚拟机通过这个路由器上网。NAT方式就不用考虑那么多,只要你主机能上网虚拟机就能上网,所以一般没有特殊要求推荐用NAT方式。
host-only:就是虚拟机和主机在一个私有网络中。
这时虚拟机只能和主机通讯,默认它是不能上网的。(当然不是绝对的,要想上网不过要进行另外的设置)
以上只是简单的介绍了VM虚拟机常用的三种网络连接方式,一般用NAT方式虚拟机就很容易上网的,所以一般没有特殊要求推荐用NAT方式。
打开控制面板的网络连接,现在是这样的(可以不管):
原因:VMware Network Adapter VMnet1和VMnet8 被防火墙认定为未识别的网络,阻隔,无法使用端口映射,虚拟机的80端口无法传入,数据包只能出不能入。且公用网络被限制不能修改为家庭或工作网络。
解决方法:
1,进入注册表[HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\Class\{4D36E972-E325-11CE-BFC1-08002BE10318}],先导出做备份。
2,逐项查看其下的[项](0000,0001至00xx),看右边哪一项的[值]为:"DriverDesc"="VMware Virtual Ethernet Adapter for VMnet1"。
3,找到后,新建一个“DWORD”值(32位),名称为“*NdisDeviceType”(*号是必须的),数据值改为“1”。(一定要32位)
4,同理再找 VMnet8 ,再重复第2~3步,添加值。
完成后重启windows即可。
联网测试:
[s**2@s**2 Desktop]$ ping www.baidu.com
ping: unknown host www.baidu.com
恢复默认设置:
点击是,等待安装完成,重启vm
联网测试;
查看自己的ip:
[s**2@s**2 Desktop]$ ifconfig
eth0 Link encap:Ethernet HWaddr 00:0C:29:7D:53:91
inet addr:192.168.159.128 Bcast:192.168.159.255 Mask:255.255.255.0
不设置inet就是默认的128,设置为自己想固定的ip地址
参看:http://icyleaf.com/2013/09/network-configuration-in-centos/
以管理员 su登陆 ,执行:
vi /etc/sysconfig/network-scripts/ifcfg-eth0
或者: vim -r /etc/sysconfig/network-scripts/ifcfg-eth0"
修改内容如下:
ip就该为132的了
出现主机能ping网,VM不能ping网的原因:
VM的网关和主机ip不一致,解决方法:
打开虚拟机 -->编辑-->虚拟网络编辑器
发现这里的网关并不是上面设置的192.168.1.1而是192.168.159.2
去修改vi /etc/sysconfig/network-scripts/ifcfg-eth0
修改:
DNS1="192.168.159.2"
GATEWAY="192.168.159.2"
service network restart
联网测试;
2、ssh免密码验证
下载hadoop:
http://www.apache.org/dyn/closer.cgi/hadoop/common/
选择了最新版的2.6.0.tar.gz
为三台虚拟机安装jdk(百度:在linux下安装jdk)
参看:http://jingyan.baidu.com/article/d621e8dae805272865913fa7.html
注:以前安装过hadoop0.20,先删除用户和用户文件(百度:linux下删除用户、linux下删除目录)
[s**1@s**1 Desktop]$ su
Password:
[root@s**1 Desktop]# userdel -r grid
-r连同grid的目录文件一块删除;
对其他2个节点进行相同操作,即可;
1.配置hosts文件(对各主机名的解析称ip地址)
cd /etc
vi hosts
192.168.159.131 s**1
192.168.159.132 s**2
192.168.159.133 s**3
测试下
2.建立hadoop账号(使用root有安全隐患)
[root@s**1 Desktop]# useradd hadoop
[root@s**1 Desktop]# passwd hadoop
Changing password for user hadoop.
New password:
BAD PASSWORD: it does not contain enough DIFFERENT characters
BAD PASSWORD: is too simple
Retype new password:
passwd: all authentication tokens updated successfully.
1***2*
3.创建ssh公钥
以账户hadoop登陆
[hadoop@s**1 Desktop]$ cd
[hadoop@s**1 ~]$ ssh-keygen -t rsa
Generating public/private rsa key pair.
Enter file in which to save the key (/home/hadoop/.ssh/id_rsa): /home/hadoop/.ssh/id_rsa
Enter passphrase (empty for no passphrase):
Enter same passphrase again:
Your identification has been saved in /home/hadoop/.ssh/id_rsa.
Your public key has been saved in /home/hadoop/.ssh/id_rsa.pub.
The key fingerprint is:
bb:53:a7:cb:07:55:19:33:c1:e3:97:dd:5c:5b:7e:89 hadoop@s**1.localdomain
The key's randomart image is:
+--[ RSA 2048]----+
| .=+ |
| =oo|
| o.+O|
| .E.+B|
| S . ..|
| .o . |
| .. + |
| .o. . |
| ..oo |
+-----------------+
[hadoop@s**1 ~]$ cd .ssh
[hadoop@s**1 .ssh]$ cp id_rsa.pub authorized_keys
查看一下authorized_keys内容
[hadoop@s**1 .ssh]$ cat authorized_keys
4,在其他两个节点中配置hosts文件、创建hadoop用户和ssh文件,最后将三个ssh文件合并成为一个authorized_keys文件,放在三个节点中,即完成节点间各自拥有其他节点的公钥。
[hadoop@s**1 Desktop]$ cd
[hadoop@s**1 ~]$ cd .ssh
[hadoop@s**1 .ssh]$ vi authorized_keys
测试:
[hadoop@s**1 Desktop]$ ssh hadoop@s**2
The authenticity of host 's**2 (192.168.159.132)' can't be established.
RSA key fingerprint is ce:6f:57:64:18:f1:ea:e4:b4:1a:db:cb:ec:8f:e4:22.
Are you sure you want to continue connecting (yes/no)? yes
Warning: Permanently added 's**2,192.168.159.132' (RSA) to the list of known hosts.
[hadoop@s**1 Desktop]$ ssh hadoop@s**2
Last login: Mon Mar 16 21:36:49 2015 from s**1
[hadoop@s**2 ~]$
表明ssh信任添加成功;
对每个节点进行测试.
win7+vmare+3 centos
jdk 7
1、配置centos nat联网方式
设置虚拟机的网络适配器 为nat(Network Address Translation,网络地址转换)
NAT方式只要主机Host能够上网,小小设置一下,VMware也能上网
NAT不仅能解决了lP地址不足的问题,而且还能够有效地避免来自网络外部的攻击,隐藏并保护网络内部的计算机。
VM软件安装好后,就有10个网络连接类型可供选择。分别是:VMnet0、VMnet1、VMnet2、VMnet3、VMnet4、VMnet5、VMnet6、VMnet7、VMnet8、VMnet9。
VM虚拟机常用的三种网络连接方式默认:桥接(bridge)用的是VMnet0,NAT用的是VMnet8,host-only用的是VMnet1。
桥接:就是把虚拟机通过VMnet0桥接到主机的本地连接。
虚拟机是通过VMnet0与外界联系,现在的虚拟机就相当于和主机一样是物理网络中的一台电脑,说的通俗的就是现在虚拟机就相当于和你主机同在一个网络的另一台真实的电脑。所以要想使用桥接使虚拟机上网,前提必须你的主机处在局域网中,也就是你的主机上网得有路由器,这时才能用桥接使虚拟机上网。至于虚拟机的IP设置方式和你主机一样,用不用设置IP要看你的路由器是否开启了DHCP和DNS,主机不用虚拟机也不用,主机要设置那么虚拟机也要设置。对于那些使用拨号上网方式并且没用路由器的就不要用桥接。
NAT:就是网络地址转换,通过VMnet8连接作为网关使虚拟机经过主机上网。
虚拟机是通过VMnet8与外界联系,说的通俗的就是在你的主机和虚拟机之间加了一个路由器,虚拟机通过这个路由器上网。NAT方式就不用考虑那么多,只要你主机能上网虚拟机就能上网,所以一般没有特殊要求推荐用NAT方式。
host-only:就是虚拟机和主机在一个私有网络中。
这时虚拟机只能和主机通讯,默认它是不能上网的。(当然不是绝对的,要想上网不过要进行另外的设置)
以上只是简单的介绍了VM虚拟机常用的三种网络连接方式,一般用NAT方式虚拟机就很容易上网的,所以一般没有特殊要求推荐用NAT方式。
打开控制面板的网络连接,现在是这样的(可以不管):
原因:VMware Network Adapter VMnet1和VMnet8 被防火墙认定为未识别的网络,阻隔,无法使用端口映射,虚拟机的80端口无法传入,数据包只能出不能入。且公用网络被限制不能修改为家庭或工作网络。
解决方法:
1,进入注册表[HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\Class\{4D36E972-E325-11CE-BFC1-08002BE10318}],先导出做备份。
2,逐项查看其下的[项](0000,0001至00xx),看右边哪一项的[值]为:"DriverDesc"="VMware Virtual Ethernet Adapter for VMnet1"。
3,找到后,新建一个“DWORD”值(32位),名称为“*NdisDeviceType”(*号是必须的),数据值改为“1”。(一定要32位)
4,同理再找 VMnet8 ,再重复第2~3步,添加值。
完成后重启windows即可。
联网测试:
[s**2@s**2 Desktop]$ ping www.baidu.com
ping: unknown host www.baidu.com
恢复默认设置:
点击是,等待安装完成,重启vm
联网测试;
查看自己的ip:
[s**2@s**2 Desktop]$ ifconfig
eth0 Link encap:Ethernet HWaddr 00:0C:29:7D:53:91
inet addr:192.168.159.128 Bcast:192.168.159.255 Mask:255.255.255.0
不设置inet就是默认的128,设置为自己想固定的ip地址
参看:http://icyleaf.com/2013/09/network-configuration-in-centos/
以管理员 su登陆 ,执行:
vi /etc/sysconfig/network-scripts/ifcfg-eth0
或者: vim -r /etc/sysconfig/network-scripts/ifcfg-eth0"
修改内容如下:
DEVICE="eth0" BOOTPROTO="static" DNS1="192.168.159.2" GATEWAY="192.168.159.2" IPADDR="192.168.159.132" HWADDR="00:0C:29:7D:53:91" IPV6INIT="yes" NM_CONTROLLED="yes" ONBOOT="yes" TYPE="Ethernet" UUID="0118dce9-bdf0-4103-9baf-16b1269027dd"
ip就该为132的了
出现主机能ping网,VM不能ping网的原因:
VM的网关和主机ip不一致,解决方法:
打开虚拟机 -->编辑-->虚拟网络编辑器
发现这里的网关并不是上面设置的192.168.1.1而是192.168.159.2
去修改vi /etc/sysconfig/network-scripts/ifcfg-eth0
修改:
DNS1="192.168.159.2"
GATEWAY="192.168.159.2"
service network restart
联网测试;
2、ssh免密码验证
下载hadoop:
http://www.apache.org/dyn/closer.cgi/hadoop/common/
选择了最新版的2.6.0.tar.gz
为三台虚拟机安装jdk(百度:在linux下安装jdk)
参看:http://jingyan.baidu.com/article/d621e8dae805272865913fa7.html
注:以前安装过hadoop0.20,先删除用户和用户文件(百度:linux下删除用户、linux下删除目录)
[s**1@s**1 Desktop]$ su
Password:
[root@s**1 Desktop]# userdel -r grid
-r连同grid的目录文件一块删除;
对其他2个节点进行相同操作,即可;
1.配置hosts文件(对各主机名的解析称ip地址)
cd /etc
vi hosts
192.168.159.131 s**1
192.168.159.132 s**2
192.168.159.133 s**3
测试下
2.建立hadoop账号(使用root有安全隐患)
[root@s**1 Desktop]# useradd hadoop
[root@s**1 Desktop]# passwd hadoop
Changing password for user hadoop.
New password:
BAD PASSWORD: it does not contain enough DIFFERENT characters
BAD PASSWORD: is too simple
Retype new password:
passwd: all authentication tokens updated successfully.
1***2*
3.创建ssh公钥
以账户hadoop登陆
[hadoop@s**1 Desktop]$ cd
[hadoop@s**1 ~]$ ssh-keygen -t rsa
Generating public/private rsa key pair.
Enter file in which to save the key (/home/hadoop/.ssh/id_rsa): /home/hadoop/.ssh/id_rsa
Enter passphrase (empty for no passphrase):
Enter same passphrase again:
Your identification has been saved in /home/hadoop/.ssh/id_rsa.
Your public key has been saved in /home/hadoop/.ssh/id_rsa.pub.
The key fingerprint is:
bb:53:a7:cb:07:55:19:33:c1:e3:97:dd:5c:5b:7e:89 hadoop@s**1.localdomain
The key's randomart image is:
+--[ RSA 2048]----+
| .=+ |
| =oo|
| o.+O|
| .E.+B|
| S . ..|
| .o . |
| .. + |
| .o. . |
| ..oo |
+-----------------+
[hadoop@s**1 ~]$ cd .ssh
[hadoop@s**1 .ssh]$ cp id_rsa.pub authorized_keys
查看一下authorized_keys内容
[hadoop@s**1 .ssh]$ cat authorized_keys
4,在其他两个节点中配置hosts文件、创建hadoop用户和ssh文件,最后将三个ssh文件合并成为一个authorized_keys文件,放在三个节点中,即完成节点间各自拥有其他节点的公钥。
[hadoop@s**1 Desktop]$ cd
[hadoop@s**1 ~]$ cd .ssh
[hadoop@s**1 .ssh]$ vi authorized_keys
测试:
[hadoop@s**1 Desktop]$ ssh hadoop@s**2
The authenticity of host 's**2 (192.168.159.132)' can't be established.
RSA key fingerprint is ce:6f:57:64:18:f1:ea:e4:b4:1a:db:cb:ec:8f:e4:22.
Are you sure you want to continue connecting (yes/no)? yes
Warning: Permanently added 's**2,192.168.159.132' (RSA) to the list of known hosts.
[hadoop@s**1 Desktop]$ ssh hadoop@s**2
Last login: Mon Mar 16 21:36:49 2015 from s**1
[hadoop@s**2 ~]$
表明ssh信任添加成功;
对每个节点进行测试.
发表评论
-
12、数据分析系统Hive/Pig
2015-03-28 00:22 550Hive(Facebook)构建在Hadoop ... -
11、hadoop--数据收集原理
2015-03-27 18:56 624常见的两种数据来源 分散的数据源: 机器产生的数据; ... -
10、zookeeper
2015-03-27 11:34 379zookeeper是一个针对大型分布式系统的可靠协调 ... -
9、HBase客户端程序开发
2015-03-27 10:48 1049开发接口实现方式: Native Java API 最常规 ... -
7、Hbase基本框架
2015-03-26 23:31 477HBase是一个构建在HDFS上的分布式列存储系统; ... -
7、Yarn--MapReduce2.0
2015-03-26 14:09 9381、yarn介绍: MapReduce 2.0和YARN区别: ... -
6、HA+Federation 详解
2015-03-26 14:05 601now is nullnow is nullnow is nu ... -
5、hadoop多节点(HA + Federation)
2015-03-26 13:42 845一、准备 1、4台linux系统 2、检查联网 3、检查各 ... -
4、hadoop 多节点部署和测试(HA_HDFS)
2015-03-25 09:53 4063HA(High Available), 高可用性群集 ... -
3、hadoop 单节点 安装配置与测试
2015-03-24 12:39 705在hadoop/home中创建目录 itcast m ... -
1、初相见 hadoop
2015-03-16 14:08 423_______了,把hadoop好好研 ... -
1、FastDFS
2015-03-14 21:52 0wwwwwwwwwwwwwwwwwwww http://blo ...
相关推荐
### Hadoop 2 的安装与配置详解 #### 一、Hadoop 2 概述 Hadoop 是一个能够对大量数据进行分布式处理的软件框架,它由Apache基金会开发。Hadoop 最初的设计是为了处理海量数据的存储和计算需求,通过将大数据集...
Hadoop安装部署手册是针对初学者的全面指南,旨在帮助用户了解和实践Hadoop的安装与运行。Hadoop是一个开源的分布式计算框架,由Apache基金会开发,主要用于处理和存储大规模数据集。以下是详细的步骤和关键知识点:...
《Hadoop安装部署详解》 Hadoop,作为Google文件系统(GFS)的开源实现,是分布式计算领域的重要工具,其强大的数据处理能力和高容错性吸引了众多开发者和企业的关注。本文将详细介绍如何在Linux环境下安装和部署...
Hadoop安装教程_单机/伪分布式配置_Hadoop2.7.1/Ubuntu 16.04 本教程主要讲述了在 Ubuntu 16.04 环境下安装 Hadoop 2.7.1 的步骤,包括单机模式、伪分布式模式和分布式模式三种安装方式。以下是本教程的知识点总结...
标题《hadoop的安装》所涉及的知识点涵盖Hadoop安装过程中的各个方面,包括但不限于JDK环境的配置与安装、Hadoop下载、解压、配置以及启动等步骤。以下是根据给定内容和描述生成的详细知识点: 1. JDK环境配置与...
### Hadoop安装教程:单机与伪分布式配置详解 #### 一、引言 Hadoop是一种开源的大数据处理框架,广泛应用于数据存储和处理场景。本文档将详细介绍如何在Ubuntu 14.04环境下安装配置Hadoop 2.6.0版本,包括单机模式...
**3.2 Hadoop安装准备** - **版本选择**:根据 CentOS 6.5 系统选择合适的 Hadoop 版本(如 Hadoop 2.x)。 - **下载 Hadoop**:从官方网站下载 Hadoop 的 tar.gz 包。 **3.3 安装Hadoop** - **解压 Hadoop**:将...
### Hadoop安装过程详解 #### 一、概述 Hadoop是一种能够处理大量数据的大规模分布式存储与计算框架,常用于构建大数据分析平台。本文档基于一位用户的实践经历,详细介绍了如何在虚拟机环境下安装和配置Hadoop的...
##### 2.3 Hadoop安装与配置 1. **下载与解压Hadoop**:下载Hadoop压缩包,并解压到指定目录。 2. **配置环境变量**:在`/etc/profile.d/hadoop.sh`中添加Hadoop的环境变量。 3. **配置hadoop-env.sh**:配置JDK的...
### Hadoop安装与配置详解 #### 一、概述 Hadoop是一个开源软件框架,用于分布式存储和处理大数据集。它能够高效地处理PB级别的数据,适用于海量数据的存储和计算场景。本文将详细介绍如何在多台虚拟机上安装和...
### Hadoop 安装详细指南 #### 一、概述 Hadoop是一款开源软件框架,用于分布式存储和处理大型数据集。本文档详细介绍了如何在CentOS 7环境下部署Hadoop 2.7.3的完全分布式环境。此教程适合希望在多台服务器之间...
### Hadoop安装与配置详解 #### 一、前言 Hadoop是一款开源软件框架,用于分布式存储和处理大型数据集。本文将详细介绍如何在CentOS 5.5环境下搭建一个包含1个NameNode节点和2个DataNode节点的Hadoop集群,并通过一...
2. **Hadoop设置**:在弹出的偏好设置窗口中找到Hadoop设置项,根据提示输入Hadoop的安装路径,例如`E:\bigdata\hadoop-2.7.4`。 3. **Map/Reduce设置**:继续通过`Windows` -> `Show View` -> `Other`找到并搜索`...
### Hadoop安装教程详解 #### 一、概述 Hadoop是一种能够处理大量数据的大规模分布式存储与计算平台,被广泛应用于大数据处理领域。本篇教程将详细介绍如何在多台服务器上部署Hadoop集群,分为八个步骤进行讲解。...
三、Hadoop安装与部署 1. 环境准备:确保具备多台Linux服务器,安装Java环境,配置SSH无密码登录。 2. 下载Hadoop:从Apache官方网站获取最新稳定版本的Hadoop,解压到服务器。 3. 配置环境变量:在`~/.bashrc`或`~/...
2. Linux安装Hadoop 安装Hadoop之前,需要首先安装JDK,接着下载Hadoop安装包,并将其解压到/opt/module目录下。然后,需要将Hadoop添加到环境变量中,并让修改后的文件生效。 3. Hadoop目录结构 Hadoop的目录...
在这里,我们将详细介绍Hadoop集群的安装步骤,包括准备工作、安装Hadoop软件、配置集群环境等内容。 准备工作 在安装Hadoop集群之前,我们需要确保系统已经安装了必备软件,包括ssh、rsync和Jdk1.6。ssh是默认...
### Hadoop安装与配置知识点详解 #### 一、Hadoop简介及核心组件 **Hadoop** 是Apache软件基金会旗下的一款开源分布式计算平台,其主要功能是处理和存储大规模数据集。Hadoop的核心组件包括 **Hadoop分布式文件...
二、Hadoop安装前准备 1. Linux系统上安装ssh协议,至少需要两台Linux机器,以三台为基础,一台作为NameNode,其他两台作为DataNode。需要修改机器的hostname,例如将***.**.**.***设置为master,将***.**.**.***和*...
Hadoop 安装与配置实验报告 本实验报告的主要目的是指导用户安装和配置 Hadoop,旨在帮助用户熟悉 Hadoop 的安装和配置过程。本报告将详细介绍 Hadoop 的安装和配置步骤,并对实验过程中的关键技术点进行讲解。 一...