1.Hadoop集群可以运行的3个模式?
- 单机(本地)模式
- 伪分布式模式
- 全分布式模式
2. 单机(本地)模式中的注意点?
在单机模式(standalone)中不会存在守护进程,所有东西都运行在一个JVM上。这里同样没有DFS,使用的是本地文件系统。单机模式适用于开发过程中运行MapReduce程序,这也是最少使用的一个模式。
3. 伪分布模式中的注意点?
伪分布式(Pseudo)适用于开发和测试环境,在这个模式中,所有守护进程都在同一台机器上运行。
4. VM是否可以称为Pseudo?
不是,两个事物,同时Pseudo只针对Hadoop。
5. 全分布模式又有什么注意点?
全分布模式通常被用于生产环境,这里我们使用N台主机组成一个Hadoop集群,Hadoop守护进程运行在每台主机之上。这里会存在Namenode运行的主机,Datanode运行的主机,以及task tracker运行的主机。在分布式环境下,主节点和从节点会分开。
6. Hadoop是否遵循UNIX模式?
是的,在UNIX用例下,Hadoop还拥有“conf”目录。
7. Hadoop安装在什么目录下?
Cloudera和Apache使用相同的目录结构,Hadoop被安装在cd/usr/lib/hadoop-0.20/。
8. Namenode、Job tracker和task tracker的端口号是?
Namenode,70;Job tracker,30;Task tracker,60。
9. Hadoop的核心配置是什么?
Hadoop的核心配置通过两个xml文件来完成:1,hadoop-default.xml;2,hadoop-site.xml。这些文件都使用xml格式,因此每个xml中都有一些属性,包括名称和值,但是当下这些文件都已不复存在。
10. 那当下又该如何配置?
Hadoop现在拥有3个配置文件:1,core-site.xml;2,hdfs-site.xml;3,mapred-site.xml。这些文件都保存在conf/子目录下。
11. RAM的溢出因子是?
溢出因子(Spill factor)是临时文件中储存文件的大小,也就是Hadoop-temp目录。
12. fs.mapr.working.dir只是单一的目录?
fs.mapr.working.dir只是一个目录。
13. hdfs-site.xml的3个主要属性?
- dfs.name.dir决定的是元数据存储的路径以及DFS的存储方式(磁盘或是远端)
- dfs.data.dir决定的是数据存储的路径
- fs.checkpoint.dir用于第二Namenode
14. 如何退出输入模式?
退出输入的方式有:1,按ESC;2,键入:q(如果你没有输入任何当下)或者键入:wq(如果你已经输入当下),并且按下Enter。
15. 当你输入hadoopfsck /造成“connection refused java exception’”时,系统究竟发生了什么?
这意味着Namenode没有运行在你的VM之上。
16. 我们使用Ubuntu及Cloudera,那么我们该去哪里下载Hadoop,或者是默认就与Ubuntu一起安装?
这个属于Hadoop的默认配置,你必须从Cloudera或者Edureka的dropbox下载,然后在你的系统上运行。当然,你也可以自己配置,但是你需要一个Linux box,Ubuntu或者是Red Hat。在Cloudera网站或者是Edureka的Dropbox中有安装步骤。
17. “jps”命令的用处?
这个命令可以检查Namenode、Datanode、Task Tracker、 Job Tracker是否正常工作。
18. 如何重启Namenode?
- 点击stop-all.sh,再点击start-all.sh。
- 键入sudo hdfs(Enter),su-hdfs (Enter),/etc/init.d/ha(Enter),及/etc/init.d/hadoop-0.20-namenode start(Enter)。
19. Fsck的全名?
全名是:File System Check。
20. 如何检查Namenode是否正常运行?
如果要检查Namenode是否正常工作,使用命令/etc/init.d/hadoop-0.20-namenode status或者就是简单的jps。
21. mapred.job.tracker命令的作用? 可以让你知道哪个节点是Job Tracker。 22. /etc /init.d命令的作用是? /etc /init.d说明了守护进程(服务)的位置或状态,其实是LINUX特性,和Hadoop关系不大。 23. 如何在浏览器中查找Namenode? 如果你确实需要在浏览器中查找Namenode,你不再需要localhost:8021,Namenode的端口号是50070。 24. 如何从SU转到Cloudera? 从SU转到Cloudera只需要键入exit。 25. 启动和关闭命令会用到哪些文件? Slaves及Masters。 26. Slaves由什么组成? Slaves由主机的列表组成,每台1行,用于说明数据节点。 27. Masters由什么组成? Masters同样是主机的列表组成,每台一行,用于说明第二Namenode服务器。 28. hadoop-env.sh是用于做什么的? hadoop-env.sh提供了Hadoop中. JAVA_HOME的运行环境。 29. Master文件是否提供了多个入口? 是的你可以拥有多个Master文件接口。 30. hadoop-env.sh文件当下的位置? hadoop-env.sh现在位于conf。 31. 在Hadoop_PID_DIR中,PID代表了什么? PID代表了“Process ID”。 32. /var/hadoop/pids用于做什么? /var/hadoop/pids用来存储PID。 33. hadoop-metrics.properties文件的作用是? hadoop-metrics.properties被用做“Reporting”,控制Hadoop报告,初始状态是“not to report”。 34. Hadoop需求什么样的网络? Hadoop核心使用Shell(SSH)来驱动从节点上的服务器进程,并在主节点和从节点之间使用password-less SSH连接。 35. 全分布式环境下为什么需求password-less SSH? 这主要因为集群中通信过于频繁,Job Tracker需要尽可能快的给Task Tracker发布任务。 36. 这会导致安全问题吗? 完全不用担心。Hadoop集群是完全隔离的,通常情况下无法从互联网进行操作。与众不同的配置,因此我们完全不需要在意这种级别的安全漏洞,比如说通过互联网侵入等等。Hadoop为机器之间的连接提供了一个相对安全的方式。 37. SSH工作的端口号是? SSH工作的端口号是NO.22,当然可以通过它来配置,22是默认的端口号。 38. SSH中的注意点还包括? SSH只是个安全的shell通信,可以把它当做NO.22上的一种协议,只需要配置一个密码就可以安全的访问。 39. 为什么SSH本地主机需要密码? 在SSH中使用密码主要是增加安全性,在某些情况下也根本不会设置密码通信。 40. 如果在SSH中添加key,是否还需要设置密码? 是的,即使在SSH中添加了key,还是需要设置密码。 41. 假如Namenode中没有数据会怎么样? 没有数据的Namenode就不能称之为Namenode,通常情况下,Namenode肯定会有数据。 42. 当Job Tracker宕掉时,Namenode会发生什么? 当Job Tracker失败时,集群仍然可以正常工作,只要Namenode没问题。 43. 是客户端还是Namenode决定输入的分片? 这并不是客户端决定的,在配置文件中以及决定分片细则。 44. 是否可以自行搭建Hadoop集群? 是的,只要对Hadoop环境足够熟悉,你完全可以这么做。 45. 是否可以在Windows上运行Hadoop? 你最好不要这么做,Red Hat Linux或者是Ubuntu才是Hadoop的最佳操作系统。在Hadoop安装中,Windows通常不会被使用,因为会出现各种各样的问题。因此,Windows绝对不是Hadoop的推荐系统。 |
相关推荐
在 Hadoop 中,Shuffle Error 是一个常见的问题,主要是由于系统默认的文件打开数限制太小,导致程序无法正常运行。解决方法是修改 `/etc/security/limits.conf` 文件,增加文件打开数的限制,将 `nofile` 的值设置...
【Hadoop中文乱码问题详解】 在大数据处理领域,Hadoop是一个不可或缺的开源框架,它提供了分布式存储(HDFS)和分布式计算(MapReduce)的能力。然而,在处理包含中文字符的数据时,用户可能会遇到中文乱码的问题...
hadoop常见问题及解决方法 Hadoop是大数据处理的重要工具,但是在安装和使用Hadoop时,可能会出现一些常见的问题,这些问题可能会导致Hadoop无法正常工作,或者无法达到预期的性能。下面是Hadoop常见的问题及解决...
hadoop2.7中文文档hadoop2.7中文文档hadoop2.7中文文档hadoop2.7中文文档hadoop2.7中文文档hadoop2.7中文文档hadoop2.7中文文档hadoop2.7中文文档hadoop2.7中文文档hadoop2.7中文文档hadoop2.7中文文档hadoop2.7中文...
Hadoop常见问题及解决办法汇总 Hadoop是一个基于Apache的开源大数据处理框架,广泛应用于大数据处理、数据分析和机器学习等领域。然而,在使用Hadoop时,经常会遇到一些常见的问题,这些问题可能会导致Hadoop集群...
Hadoop 2.7.1 是一个开源框架,主要用于分布式存储和处理大数据。这个版本的文档为中文,方便中国用户理解和应用Hadoop的核心概念和技术。Hadoop是Apache软件基金会的一个项目,它允许在廉价硬件上运行大规模数据...
根据提供的文件信息,我们可以提炼出以下关于Hadoop官方中文文档的知识点。 首先,文档标题为“Hadoop官方中文文档”,这意味着文档是Apache Hadoop项目的官方指南,且已经被翻译成中文,以便中文读者更容易理解和...
hadoop 中文手册 Hadoop文档 下面的文档是一些概念介绍和操作教程,可帮助你开始使用Hadoop。如果遇到了问题,你可以向邮件列表求助或者浏览一下存档邮件。 Hadoop快速入门 Hadoop集群搭建 ...常见问题
总之,Hadoop是一个复杂但强大的工具,快速入门资料可以帮助初学者快速理解其基本原理和操作流程,而常见问题解答则可以解决实践中遇到的实际问题,进一步提高使用效率。这份资料对于希望在大数据领域工作或研究的人...
《Hadoop权威指南》第三版是一本深度剖析Hadoop生态系统的经典著作,旨在帮助读者从基础知识到高级技术全面掌握这个大数据处理平台。Hadoop作为开源的分布式计算框架,以其高可扩展性和容错性,成为了大数据时代的...
**正解:** 实际上,Hadoop 的并行计算架构(MapReduce)和分布式文件系统(HDFS)使其能够支持高速计算和大规模存储,因此在高能物理、生命科学等领域的研究中,Hadoop 已经被用于配合HPC或Grid Computing执行特定...
Hadoop使用常见问题以及解决方法.doc Hadoop使用常见问题以及解决方法.doc
本文档为Apache官方Hadoop 1.1.0中文文档 文档目录: 1.概述 2.快速入门 3.集群搭建 4.HDFS构架设计 5.HDFS使用指南 6.HDFS权限指南 7.HDFS配额管理指南 8.命令手册 9.FS Shell使用指南 10.DistCp使用指南 ...
Hadoop是一个由Apache基金会开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序,充分利用集群的威力进行高速运算和存储。Hadoop实现了一个分布式文件系统(Hadoop Distributed ...
此外,还涵盖了Hadoop的生态系统的其他组件,如HBase(一个分布式的、支持列式存储的数据库),Hive(一个基于Hadoop的数据仓库工具),Pig(一种用于分析大型数据集的语言和平台),以及YARN(资源管理系统),这些...
"Hadoop大数据常见面试题库"通常涵盖了Hadoop生态系统的核心组件、数据处理原理、集群管理和优化等多个方面,这对于求职者或者想要提升自己Hadoop技能的人来说是宝贵的资料。以下是基于这个主题的一些关键知识点: ...
通过阅读这份“Hadoop官方文档中文版”,开发者和管理员可以深入了解Hadoop的工作原理、配置方法、最佳实践以及如何解决常见问题,从而更好地利用Hadoop处理大数据挑战。这份文档对于学习和掌握Hadoop技术至关重要,...
作为一个专业的IT大师,我很高兴为你解析Hadoop常见的45个面试题中的关键知识点。由于文件名仅给出面试题的文档,我们无法直接引用具体问题,但我们可以从Hadoop的核心组件、工作原理、应用案例等方面展开讨论,这些...
这个文档包含了Hadoop相关的常见笔试题答案,涵盖了Hadoop的基本概念、架构组件、配置文件以及操作命令等多个方面。 1. Hadoop的核心组成部分是HDFS(Hadoop Distributed File System),它是一个分布式文件系统,...
在使用winutils.exe和hadoop.dll时,可能会遇到一些常见问题,如找不到相关文件的错误、权限问题或版本不兼容等。解决这些问题通常需要检查环境变量设置、确保使用与Hadoop版本匹配的winutils.exe和hadoop.dll,以及...