`
85977328
  • 浏览: 1899038 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

hadoop经典系列(二)hadoop常用命令初步

 
阅读更多
distcp 并行复制
相同版本的hadoop集群
hadoop distcp hdfs//namenode1/foo hdfs//namenode2/bar

不同版本的hadoop集群(hdfs版本),在写的一方执行
hadoop distcp hftp://namenode1:50070/foo hdfs://namenode2/bar

hadoop的归档
归档的标准命令:archive -archiveName NAME -p <parent path> <src>* <dest>
hadoop archive -archiveName archive.har -p / archive /output

递归查看
hadoop dfs -lsr har:///test/archive.har

查看块的信息
./hadoop fsck /
./hadoop fsck / -files -blocks
分享到:
评论

相关推荐

    熟悉常用的Linux操作和Hadoop操作.docx

    本实验旨在帮助学生熟练掌握Linux操作系统中的常用命令,并初步了解如何在Linux环境下安装和配置Hadoop集群,为后续进行云计算与大数据处理打下坚实的基础。 ##### 实验环境 本次实验使用的操作系统为CentOS 6.5。...

    Hadoop 安装文档 性能测试

    常用的测试工具有Hadoop自带的Benchmark工具如`hadoop dfsio`和`testDFSIO`等。通过执行这些工具的不同模式(如读、写、随机读等),可以评估Hadoop集群的性能表现,为后续的调优提供数据支持。 #### 四、结语 ...

    Hadoop大数据管理实验详细参考文档

    "大数据管理实验之三Hadoop基础命令与编程初步.docx"则深入到Hadoop的使用层面,包括HDFS的基本命令,如上传、下载、查看文件等,以及编写MapReduce程序的初步概念,如Mapper和Reducer的工作原理,以及使用Java API...

    基于hadoop的云计算研究报告

    它由一系列子项目构成,每一个都有特定的功能。 1. **Hadoop Common**:作为整个项目的基石,为其他子项目提供了必要的支持。 2. **Avro**:负责Hadoop中的RPC通信。 3. **Chukwa**:主要用于收集和分析分布式系统...

    Hadoop大数据学习线路图.docx

    - 学习Hadoop时,建议先了解Java基础、Linux环境和常用命令。然后,从单机模式开始,逐步过渡到伪分布式和完全分布式。伪分布式模式适用于学习,完全分布式则适用于生产环境。 6. **Hadoop版本选择** - 虽然...

    Hadoop快速入门

    #### 五、Hadoop常用命令 - `hadoop fs -ls /`: 列出HDFS根目录下的文件和目录。 - `hadoop fs -put localfile /hdfsdir`: 将本地文件上传至HDFS。 - `hadoop fs -get /hdfsdir/localfile .`: 从HDFS下载文件到本地...

    Hadoop HDFS初级部分

    **常用命令**: - `hdfs dfs -ls /`:列出根目录下的文件和目录。 - `hdfs dfs -put localfile /`:将本地文件`localfile`上传到HDFS的根目录下。 - `hdfs dfs -cat /filename`:查看HDFS中的文件内容。 - `hdfs dfs...

    [Hadoop权威指南(第三版)].Tom.White.文字版.pdf

    本书是Hadoop领域内的经典之作,被视为学习Hadoop的重要参考资料之一。该版本为第三版,相较于之前的版本进行了大量的更新与改进,以反映Hadoop技术的最新发展。 #### 书籍内容概览 1. **前言**:介绍了Hadoop的...

    林子雨-大数据课程实验题目1

    在Linux操作部分,主要涉及以下常用命令: 1. `cd`:用于切换目录,如切换到"/usr/local"、返回上一级目录和切换到用户主目录。 2. `ls`:查看目录中的文件和子目录,例如查看"/usr"目录。 3. `mkdir`:创建新目录...

    一个基础的大数据开发教程,涵盖了大数据的基本概念、常用工具和技术栈,以及一个简单的实战项目

    文中还概述了一系列重要的大数据技术和常用的工具栈如Hadoop、Spark等。特别地,文章给出了一套实战案例指导如何使用Hadoop MapReduce和Spark处理Web服务器日志进行访问情况统计分析。 适用人群:本文适用于想要入门...

    大数据平台技术—实验1.doc

    2. **Linux操作系统常用命令操作**: (1) 创建以学号命名的文本文件,使用`touch`命令创建文件,然后通过`vim`编辑器输入内容,保存并退出。 (2) 使用`cp`命令将文件复制到指定目录并重命名,可能需要`sudo`提升...

    大数据实验报告.doc

    实验结果显示,通过这两部分的学习,吴勇对Linux操作系统和Hadoop有了初步的认识,但同时也遇到了一些问题,比如不清楚如何下载Java JDK,如何在特定目录下创建文件,以及Hadoop的环境配置和编译原理。这些问题中的...

    大数据、云计算系统高级架构师课程学习路线图.pdf

    Linux 基础,涵盖了 Linux 系统概述、系统安装及相关配置、Linux 网络基础、OpenSSH 实现网络安全连接、vi 文本编辑器、用户和用户组管理、磁盘管理、Linux 文件和目录管理、Linux 终端常用命令、linux 系统监测与...

    大数据实训方案.pdf

    2. 掌握Linux的基础知识,包括安装、常用命令、文件权限管理、用户及权限管理,以及在Linux环境下搭建Java开发环境。 3. 学会Hadoop集群的搭建和配置,理解HDFS的分布式文件系统原理,并通过API进行开发。 4. 通过...

    姓名_javaEE软件工程师_2年_模板(42).doc

    - 熟悉 HDFS 及 MAP-REDUCE 工作机制,具有初步的基于 Hadoop 的应用开发能力。 11. Web Service 技术: - 熟悉 Web Service 技术。 12. POI 开发: - 熟悉 POI 开发。 13. SVN 和 Maven 等项目开发及管理工具...

    山西省职业院校技能大赛高职组大数据技术与应用赛项规程2资料全.doc

    4. 常见数据类型的数据抓取,实现数据抓取、解析和初步整理,常见的网络数据、数据文件、关系数据库等数据源的数据抓取掌握 Hive 数据仓库导入、导出以与 Hadoop 数据文件的转换,掌握 Hive 数据管理常用命令。...

    姓名_javaEE软件工程师_2年_模板(47).doc

    * 熟悉 Linux 常用命令 大数据处理技能 * 熟悉大数据处理等方面的知识 * 熟悉 Hadoop 体系架构 * 能熟练部署、配置 Hadoop 分布式数据集群 * 熟悉 HDFS 及 MAP-REDUCE 工作机制 * 具有初步的基于 Hadoop 的应用...

Global site tag (gtag.js) - Google Analytics