`
conservatism
  • 浏览: 26308 次
  • 性别: Icon_minigender_1
  • 来自: 北京
文章分类
社区版块
存档分类
最新评论

使用代理服务器支持hadoop的控制台访问

阅读更多
实验室有一个几十台节点的安装hadoop的集群,其网络结构是:只有一台管理节点能连外网,其它节点只能局域网中互相访问。这样在浏览器中查看hadoop的jobtracker或health等信息时,不能访问到slave节点的信息,如果master不在集群的管理节点,甚至完全不能访问。

在集群的能够访问外网的节点上安装代理服务器,可以很好的解决这个问题,从而便于利用hadoop的web控制台跟踪任务执行的情况。

安装squid,本文使用的是squid-2.6.STABLE20,操作系统是Redhat Linux
1.下载源码,解压,configure,make,make install
2.配置 安装目录/etc/squid.conf,主要包括授权网段,服务器ip,端口等。
3.cd 安装目录;sbin/squid -z;sbin/squid -k parse;sbin/squid start

在开发者的浏览器中配置代理地址和端口即可
分享到:
评论

相关推荐

    论文研究-支持Hadoop大数据访问的pNFS框架研究与实现.pdf

    随着大数据时代到来,分布式文件系统支持Hadoop大数据访问已成为一种趋势。以研究支持Hadoop大数据访问的pNFS框架为目的,采用在Hadoop与pNFS之间添加pNFS shim layer模块的方法,实现了pNFS支持Hadoop大数据访问的...

    springboot对hadoop增删改查源码及hadoop图片访问

    - 为了解决这个问题,我们通常会在服务器端设置一个Servlet,该Servlet作为图片的代理,负责从Hadoop获取图片数据并将其响应给浏览器。 - Servlet接收到请求后,使用Hadoop的HDFS API读取图片文件,然后通过...

    hadoop远程访问资料

    标题 "hadoop远程访问资料" 涉及到的核心知识点主要集中在如何在Java环境中通过Eclipse等开发工具,实现对Hadoop集群的远程访问和管理,尤其是与NameNode和DataNode节点的交互。Hadoop是一个分布式文件系统,...

    Hadoop按日期统计访问次数及测试数据

    总结,Hadoop按日期统计访问次数是大数据分析中的常见场景,涉及到数据预处理、MapReduce编程、测试数据使用等多个环节。通过熟练掌握这些步骤,可以有效地处理大规模的日志数据,为企业决策提供有力支持。

    hadoop服务器搭建全攻略

    Hadoop 服务器搭建全攻略 Hadoop 作为目前最流行的分布式计算框架之一,对于大数据处理和分析具有着极其重要的作用。然而,对于新手来说,搭建 Hadoop 服务器可能是一个相当大的挑战。因此,本文将手把手教你搭建 ...

    银河麒麟服务器操作系统 V4 hadoop 软件适配手册

    《银河麒麟服务器操作系统 V4 Hadoop 软件适配手册》是一本专注于在银河麒麟服务器操作系统 V4 上部署和配置Hadoop软件的指南。该手册由天津麒麟信息技术有限公司于2019年5月发布,旨在帮助用户了解如何在这款国产...

    hadoop2.8 window支持bin文件

    Hadoop是大数据处理领域的重要工具,它是一个分布式文件系统,为大规模数据集提供了高吞吐量的数据访问。本文将详细讲解如何在Windows环境下使用Hadoop 2.8,并重点介绍"bin"目录及其作用。 首先,Hadoop 2.8是在...

    mahout0.9源码(支持hadoop2)

    mahout0.9的源码,支持hadoop2,需要自行使用mvn编译。mvn编译使用命令: mvn clean install -Dhadoop2 -Dhadoop.2.version=2.2.0 -DskipTests

    hadoop使用手册

    Hadoop使用分布式文件系统HDFS,其操作方式类似于本地文件系统,但支持跨节点的分布式存储。以下是一些基本操作: 1. **查看文件列表**:使用`bin/hadoop fs -ls`命令列出指定目录的文件,如查看`/user/admin/aaron...

    Hadoop安装使用教程0基础!!!易懂!!!

    Hadoop安装使用教程Hadoop安装使用教程Hadoop安装使用教程Hadoop安装使用教程Hadoop安装使用教程Hadoop安装使用教程Hadoop安装使用教程Hadoop安装使用教程Hadoop安装使用教程Hadoop安装使用教程Hadoop安装使用教程...

    Hadoop集群服务器与本地连接

    - 使用FTP访问方式(例如:ftp://000.000.000.000/hadoop/),登录并下载所需文件。 2. **简单配置方法**: - 解压缩下载的eclipse.rar和hadoop.rar,生成eclipse和hadoop两个文件夹。 - 在eclipse目录下启动...

    利用ansible 自动 安装Hadoop 集群

    Hadoop作为大数据处理的核心组件,包括HDFS(Hadoop Distributed File System)和MapReduce等模块,构建一个Hadoop集群通常涉及多台服务器的配置、软件安装、服务启动和集群配置。通过Ansible,我们可以简化这个过程...

    基于hadoop的web访问记录分析

    在这个项目“基于Hadoop的Web访问记录分析”中,我们将探讨如何利用Hadoop来分析Web服务器的日志文件,提取出有价值的信息。 首先,我们要了解Hadoop的核心组件:HDFS(Hadoop Distributed File System)和...

    配置hadoop支持LZO和snappy压缩.pdf

    Hadoop配置支持LZO和Snappy压缩技术的过程是分布式数据处理中一个重要环节,这对于提升数据处理效率和优化存储空间使用具有重大意义。下面将详细介绍配置Hadoop以支持LZO和Snappy压缩的关键步骤和知识点。 首先,...

    hadoop在windows上运行需要winutils支持和hadoop.dll等文件

    在Windows上运行Hadoop时,你需要下载与Hadoop版本相匹配的WinUtils,并将其添加到系统的PATH环境变量中,以便Hadoop可以找到并使用这些必要的系统工具。 接下来是"Hadoop.dll"文件,这是Hadoop在Windows环境中运行...

    基于hadoop-0.20.2的FTP服务器

    基于apache发布的FTPserver实现的基于hadoop-0.20.2的FTP服务器,可以直接使用,但要进行hadoop网址的基本配置,另外只有一个匿名用户,除了几个我设定的系统文件夹不能删除外,基本具有所有权限。当然,您可以在此...

    Hadoop伪分布式部署文档(包括本地开发环境,eclipse远程连接Hadoop服务器)

    Hadoop伪分布式部署文档是指在单台机器上模拟分布式Hadoop集群的部署文档,包括服务器伪分布式部署、本地Hadoop开发环境部署、Eclipse远程连接Hadoop服务器等内容。下面是该文档的详细解释: 首先,需要安装JDK,...

    hadoop-auth

    Hadoop Auth是Hadoop生态系统中一个重要的组件,它为Hadoop的认证、授权和审计提供了强大的支持,使得在大规模分布式环境下进行数据处理时,能够确保数据的安全性和访问控制的有效性。 Hadoop Auth的核心功能在于...

    hadoop winutils hadoop.dll

    这个文件通常与winutils.exe一起使用,为Hadoop的Java API提供底层支持。例如,当Java程序需要与HDFS交互时,会调用这个dll文件中的函数来执行实际的文件操作。 在Windows下使用Eclipse进行Hadoop开发时,确保正确...

    基于Linux构建Hadoop高性能服务器集群.pdf

    基于Linux构建Hadoop高性能服务器集群 本文档介绍了如何在Linux下构建高性能的Hadoop服务器集群,以满足大数据时代对高性能计算的需求。文章首先介绍了Hadoop框架的重要性,然后详细介绍了如何在Linux下搭建Hadoop...

Global site tag (gtag.js) - Google Analytics