`
乡里伢崽
  • 浏览: 111883 次
  • 性别: Icon_minigender_1
  • 来自: 深圳
社区版块
存档分类
最新评论

hadoop 面试题

 
阅读更多
1.Hadoop集群可以运行的3个模式?

单机(本地)模式
伪分布式模式
全分布式模式
2.  单机(本地)模式中的注意点?

在单机模式(standalone)中不会存在守护进程,所有东西都运行在一个JVM上。这里同样没有DFS,使用的是本地文件系统。单机模式适用于开发过程中运行MapReduce程序,这也是最少使用的一个模式。

3.  伪分布模式中的注意点?

伪分布式(Pseudo)适用于开发和测试环境,在这个模式中,所有守护进程都在同一台机器上运行。

4.  VM是否可以称为Pseudo?

不是,两个事物,同时Pseudo只针对Hadoop。

5.  全分布模式又有什么注意点?

全分布模式通常被用于生产环境,这里我们使用N台主机组成一个Hadoop集群,Hadoop守护进程运行在每台主机之上。这里会存在Namenode运行的主机,Datanode运行的主机,以及task tracker运行的主机。在分布式环境下,主节点和从节点会分开。

6.  Hadoop是否遵循UNIX模式?

是的,在UNIX用例下,Hadoop还拥有“conf”目录。

7.  Hadoop安装在什么目录下?

Cloudera和Apache使用相同的目录结构,Hadoop被安装在cd/usr/lib/hadoop-0.20/。

8.  Namenode、Job tracker和task tracker的端口号是?

Namenode,70;Job tracker,30;Task tracker,60。

9.  Hadoop的核心配置是什么?

Hadoop的核心配置通过两个xml文件来完成:1,hadoop-default.xml;2,hadoop-site.xml。这些文件都使用xml格式,因此每个xml中都有一些属性,包括名称和值,但是当下这些文件都已不复存在。

10.  那当下又该如何配置?

Hadoop现在拥有3个配置文件:1,core-site.xml;2,hdfs-site.xml;3,mapred-site.xml。这些文件都保存在conf/子目录下。

11.  RAM的溢出因子是?

溢出因子(Spill factor)是临时文件中储存文件的大小,也就是Hadoop-temp目录。

12.  fs.mapr.working.dir只是单一的目录?

fs.mapr.working.dir只是一个目录。

13.  hdfs-site.xml的3个主要属性?

dfs.name.dir决定的是元数据存储的路径以及DFS的存储方式(磁盘或是远端)
dfs.data.dir决定的是数据存储的路径
fs.checkpoint.dir用于第二Namenode
14.  如何退出输入模式?

退出输入的方式有:1,按ESC;2,键入:q(如果你没有输入任何当下)或者键入:wq(如果你已经输入当下),并且按下Enter。

15.  当你输入hadoopfsck /造成“connection refused java exception’”时,系统究竟发生了什么?

这意味着Namenode没有运行在你的VM之上。

16.  我们使用Ubuntu及Cloudera,那么我们该去哪里下载Hadoop,或者是默认就与Ubuntu一起安装?

这个属于Hadoop的默认配置,你必须从Cloudera或者Edureka的dropbox下载,然后在你的系统上运行。当然,你也可以自己配置,但是你需要一个Linux box,Ubuntu或者是Red Hat。在Cloudera网站或者是Edureka的Dropbox中有安装步骤。

17.  “jps”命令的用处?

这个命令可以检查Namenode、Datanode、Task Tracker、 Job Tracker是否正常工作。

18.  如何重启Namenode?

点击stop-all.sh,再点击start-all.sh。
键入sudo hdfs(Enter),su-hdfs (Enter),/etc/init.d/ha(Enter),及/etc/init.d/hadoop-0.20-namenode start(Enter)。
19.  Fsck的全名?

全名是:File System Check。

20.  如何检查Namenode是否正常运行?

如果要检查Namenode是否正常工作,使用命令/etc/init.d/hadoop-0.20-namenode status或者就是简单的jps。

21.  mapred.job.tracker命令的作用?

可以让你知道哪个节点是Job Tracker。

22.  /etc /init.d命令的作用是?

/etc /init.d说明了守护进程(服务)的位置或状态,其实是LINUX特性,和Hadoop关系不大。

23.  如何在浏览器中查找Namenode?

如果你确实需要在浏览器中查找Namenode,你不再需要localhost:8021,Namenode的端口号是50070。

24.  如何从SU转到Cloudera?

从SU转到Cloudera只需要键入exit。

25.  启动和关闭命令会用到哪些文件?

Slaves及Masters。

26.  Slaves由什么组成?

Slaves由主机的列表组成,每台1行,用于说明数据节点。

27.  Masters由什么组成?

Masters同样是主机的列表组成,每台一行,用于说明第二Namenode服务器。

28.  hadoop-env.sh是用于做什么的?

hadoop-env.sh提供了Hadoop中. JAVA_HOME的运行环境。

29.  Master文件是否提供了多个入口?

是的你可以拥有多个Master文件接口。

30.  hadoop-env.sh文件当下的位置?

hadoop-env.sh现在位于conf。

31.  在Hadoop_PID_DIR中,PID代表了什么?

PID代表了“Process ID”。

32.  /var/hadoop/pids用于做什么?

/var/hadoop/pids用来存储PID。

33.  hadoop-metrics.properties文件的作用是?

hadoop-metrics.properties被用做“Reporting”,控制Hadoop报告,初始状态是“not to report”。

34.  Hadoop需求什么样的网络?

Hadoop核心使用Shell(SSH)来驱动从节点上的服务器进程,并在主节点和从节点之间使用password-less SSH连接。

35.  全分布式环境下为什么需求password-less SSH?

这主要因为集群中通信过于频繁,Job Tracker需要尽可能快的给Task Tracker发布任务。

36.  这会导致安全问题吗?

完全不用担心。Hadoop集群是完全隔离的,通常情况下无法从互联网进行操作。与众不同的配置,因此我们完全不需要在意这种级别的安全漏洞,比如说通过互联网侵入等等。Hadoop为机器之间的连接提供了一个相对安全的方式。

37.  SSH工作的端口号是?

SSH工作的端口号是NO.22,当然可以通过它来配置,22是默认的端口号。

38.  SSH中的注意点还包括?

SSH只是个安全的shell通信,可以把它当做NO.22上的一种协议,只需要配置一个密码就可以安全的访问。

39.  为什么SSH本地主机需要密码?

在SSH中使用密码主要是增加安全性,在某些情况下也根本不会设置密码通信。

40.  如果在SSH中添加key,是否还需要设置密码?

是的,即使在SSH中添加了key,还是需要设置密码。

41.  假如Namenode中没有数据会怎么样?

没有数据的Namenode就不能称之为Namenode,通常情况下,Namenode肯定会有数据。

42.  当Job Tracker宕掉时,Namenode会发生什么?

当Job Tracker失败时,集群仍然可以正常工作,只要Namenode没问题。

43.  是客户端还是Namenode决定输入的分片?

这并不是客户端决定的,在配置文件中以及决定分片细则。

44.  是否可以自行搭建Hadoop集群?

是的,只要对Hadoop环境足够熟悉,你完全可以这么做。

45.  是否可以在Windows上运行Hadoop?

你最好不要这么做,Red Hat Linux或者是Ubuntu才是Hadoop的最佳操作系统。在Hadoop安装中,Windows通常不会被使用,因为会出现各种各样的问题。因此,Windows绝对不是Hadoop的推荐系统。
分享到:
评论

相关推荐

    常见Hadoop面试题

    "Hadoop 面试题知识点总结" Hadoop 面试题中涵盖了 HDFS、MapReduce、Hive、HBase 等多个方面的知识点。下面是对这些知识点的详细解释: HDFS 知识点 1. HDFS 中的 block 默认保存几份?答案是 3 份。 2. 在 HDFS...

    Hadoop面试题(含代码和原理讲解)

    Hadoop面试题(含代码和原理讲解)Hadoop面试题(含代码和原理讲解)Hadoop面试题(含代码和原理讲解)Hadoop面试题(含代码和原理讲解)Hadoop面试题(含代码和原理讲解)Hadoop面试题(含代码和原理讲解)Hadoop...

    hadoop面试题

    ### Hadoop面试题之TCP/IP状态与时序分析 #### TCP/IP状态图的TIME_WAIT作用解析 **背景介绍:** 在探讨Hadoop等大数据处理技术时,深入理解底层通信机制至关重要。TCP/IP作为互联网数据传输的基础协议之一,在...

    hadoop面试题汇总

    ### Hadoop面试题知识点解析 #### 1. HDFS数据存储程序 - **知识点**: HDFS(Hadoop Distributed File System)是由多个节点组成的分布式文件系统,主要包括两类节点:NameNode和DataNode。其中,**DataNode** 负责...

    最新大数据Hadoop面试题!(附答案解析).pdf

    大数据Hadoop面试题解析 Hadoop面试题解析 在大数据时代,Hadoop技术的需求越来越高,成为大数据开发岗位的必备技能。以下是Hadoop面试题解析,旨在帮助大家更好地掌握Hadoop技术。 1. HDFS数据存储 HDFS...

    hadoop面试题大全

    本文将围绕"Hadoop面试题大全"这一主题,深入解析Hadoop的相关知识点,帮助你应对面试,提升专业技能。 1. **Hadoop概述** Hadoop是一个开源的分布式计算框架,由Apache基金会开发,主要用于处理和存储海量数据。...

    hadoop面试题分解.pdf

    Hadoop 面试题解析 Hadoop 是一个开源的大数据处理框架,由 Apache 基金会开发和维护。下面是 Hadoop 面试题的解析,涵盖了 Hadoop 的安装、配置、核心组件、调度器、MapReduce 编程等方面。 1. Hadoop 安装配置 ...

    Hadoop面试题.pdf

    Hadoop 面试题 Hadoop 是一个基于分布式计算的开源框架,主要用于处理大规模数据。以下是 Hadoop 面试题中的重要知识点: 1. Hadoop 集群可以运行的 3 个模式:单机(本地)模式、伪分布式模式、全分布式模式。在...

    hadoop 面试题大全

    Hadoop面试题大全涵盖了从基础概念到高级应用的各个方面,对于准备Hadoop相关职位的面试者来说,这些知识点至关重要。首先,我们要理解Hadoop的基本架构和运行模式。 1. Hadoop集群的瓶颈通常在于磁盘I/O,这是大...

    hadoop面试题答案

    ### Hadoop面试题知识点解析 #### 一、HDFS数据存储程序 **题目:** 下面哪个程序负责HDFS数据存储? - a) NameNode - b) Jobtracker - c) Datanode - d) secondaryNameNode - e) tasktracker **答案:** c) ...

    Hadoop面试题3家公司就业面试宝典含参考答案.doc

    Hadoop面试题3家公司就业面试宝典含参考答案 本文档提供了Hadoop相关的面试题和答案,涵盖了Hadoop的基本概念、MapReduce编程模型、YARN的工作流程、Hive的使用、数据挖掘等主题。本文档适合Hadoop开发者、数据分析...

    Apache Hadoop面试题

    ### Apache Hadoop 面试题解析 #### 一、启动Hadoop集群会分别启动哪些进程?各自的作用是什么? 1. **NameNode**: - **功能**:维护整个HDFS文件系统的目录树结构,记录文件与目录之间的层级关系。它还负责记录...

    Hadoop面试题.docx

    Hadoop面试题 Hadoop 是一个基于分布式处理的大数据处理平台,由 Apache 开源社区开发。Hadoop 的核心是 MapReduce 计算模型和分布式文件系统 HDFS。下面是关于 Hadoop 的一些重要知识点: Hadoop 集群运行模式 ...

    大数据技术Hadoop面试题 (2).docx

    【大数据技术Hadoop面试题解析】 1. HDFS的数据存储由Datanode负责,因此正确答案是c)Datanode。 2. HDFS中的block默认保存3份,以确保数据的容错性,正确答案是a)3份。 3. 通常与NameNode在一个节点启动的程序是...

Global site tag (gtag.js) - Google Analytics