`
greenhunter
  • 浏览: 5191 次
  • 性别: Icon_minigender_1
  • 来自: 成都
文章分类
社区版块
存档分类
最新评论

Hadoop、Spark 搭建过程遇到的问题(win10环境)

 
阅读更多

1、JAVA_HOME,在配置环境变量的时候,JDK安装时默认的program file 路径,有空格。这里在配置的地方,要将 C:\Program Files (x86)\Java  路径修改为 C:\Progra~1\Java 。否则hadoop启动会报错 (JAVA_HOME is set incorrect)。

2、Hadoop 配置自身的HADOOP_HOME。 下载hadoop-2.7.2.tar.gz,解压后的目录,不能有空格

3、下载scala。在官网下载msi安装包。安装后,自动设置路径到PATH环境变量。

4、Spark配置自身的SPARK_HOME。下载spark-2.1.1-bin-hadoop2.7.tgz,解压后的目录,不能有空格。添加SPARK_HOME到PATH环境变量。

5、中文分词,找了jcseg。目前正在试用。(http://git.oschina.net/lionsoul/jcseg

 

分享到:
评论

相关推荐

    win10下搭建Hadoop环境(jdk+mysql+hadoop+scala+hive+spark) 3.docx

    在Windows 10环境下搭建Hadoop生态系统,包括JDK、MySQL、Hadoop、Scala、Hive和Spark等组件,是一项繁琐但重要的任务,这将为你提供一个基础的大数据处理平台。下面将详细介绍每个组件的安装与配置过程。 **1. JDK...

    win10编译过的hadoo2.6.4包括hadoop.dll和winutils.exe

    通过hadoop.dll和winutils.exe,用户可以在Win10系统上搭建和运行Hadoop集群,进行分布式计算和存储任务,享受Hadoop带来的强大功能。同时,这个版本的Hadoop也体现了社区对跨平台兼容性的持续努力,使得大数据技术...

    windows10下spark2.3.0本地开发环境搭建-亲测

    本教程将基于指定的组件版本,包括Win10家庭版(64位),JDK 1.8.0_171,Hadoop 2.7.6,Spark 2.3.0,Scala 2.11.8,Maven 3.5.3以及IntelliJ IDEA 2018.1.4。所有软件将安装在D:\setupedsoft目录下。 **一、JDK ...

    win10下hadoo2.7.2的hadoop.dll和winutils.exe.rar

    在Windows 10环境下搭建Apache Hadoop 2.7.2环境时,经常会遇到与`hadoop.dll`和`winutils.exe`相关的挑战。这两个组件是Hadoop在Windows上运行的关键部分,尤其对于本地开发和测试工作至关重要。下面将详细阐述它们...

    hadoop2.6,window7 64bit,hadoop.dll、winutils.exe文件下载

    不过,通过一些特定的工具和设置,我们可以在Windows上搭建Hadoop环境。 在Windows上安装Hadoop时,有两个关键文件至关重要:hadoop.dll和winutils.exe。这两个文件对于Hadoop在Windows环境中的正常运行至关重要。 ...

    win7下Eclipse开发Hadoop应用程序环境搭建

    以上步骤是基础的环境搭建过程,实际开发中可能还需要考虑其他因素,如配置Hadoop的YARN资源管理器,或者使用更高级的编程模型如Spark。此外,源码分析和工具的熟练运用能帮助提升开发效率和代码质量。 至于压缩包...

    hadoop-win10-winutils

    在Windows 10环境下搭建和使用Hadoop时,`hadoop-win10-winutils`扮演着至关重要的角色。Hadoop最初是为Linux操作系统设计的,但在Windows系统上运行Hadoop需要一些额外的工具,其中`winutils.exe`是关键组件之一。...

    spark hadoop 2.7.7 winutil bin.zip

    在Windows 7或10上运行Spark时,可能会遇到权限问题、文件系统兼容性问题以及网络配置等问题。Winutil工具可以帮助解决这些问题,使得Spark能在Windows环境中顺利运行,进行分布式计算。 总的来说,"Spark Hadoop ...

    win10下的Spark本地idea环境搭建教程.docx

    【Spark本地开发环境搭建】 在Windows 10操作系统中,要进行Spark的本地开发和调试,首先需要确保安装了必要的软件环境,包括OpenJDK、Scala、Hadoop以及IntelliJ IDEA(简称IDEA)。以下是详细的步骤: 1. **安装...

    hadoop2.6_Win_x64-master

    "hadoop2.6_Win_x64-master"压缩包提供了一种简便的方式来解决在Windows上使用Eclipse进行Hadoop开发时遇到的挑战,使得开发者可以更专注于编写和测试MapReduce或Spark程序,而不用过多地关注底层的环境配置问题。

    Hadoop 2.7.4 win10 64位 bin文件夹

    4. **Windows下安装Hadoop**: 在Windows 10 64位系统上部署Hadoop,你需要配置环境变量,包括`HADOOP_HOME`指向Hadoop安装目录,将`%HADOOP_HOME%\bin`添加到`PATH`变量中,以便于命令行直接调用Hadoop命令。...

    Hadoop-win依赖资料

    10. **故障排查**:在Windows上运行Hadoop可能会遇到特有的问题,如权限问题、路径格式不兼容等。学会使用日志文件和命令行工具进行故障排查至关重要。 在实际操作中,"windows客户端依赖资料"可能包含用于安装、...

    hadoop-2.7.2_win.zip

    《Hadoop 2.7.2在Windows环境下的部署与应用》 Hadoop是一个开源的分布式计算框架,它由Apache基金会开发,旨在处理和存储大量数据。本文将围绕Hadoop 2.7.2版本在Windows环境下的安装、配置及使用进行详细讲解,...

    windows-hadoop-bin

    这个压缩包提供的就是这些必要的工具,帮助开发者在Windows环境下搭建和测试Hadoop和Spark的环境。 标签 "hadoop" 明确表示这个话题与Hadoop生态系统紧密相关,无论是对于初学者还是有经验的开发人员,理解如何在...

    hadoop_32bit

    在描述中,用户提到自己在Linux环境下搭建了一个分布式Hadoop集群,并在32位Windows 7操作系统中使用Eclipse进行开发工作。通常情况下,Hadoop及其相关工具主要为64位系统设计,因此在32位系统上运行可能需要特别...

    win7,hadoop 2.7.5

    在本文中,我们将深入探讨如何在Windows 7环境下安装Hadoop 2.7.5,这是一个...通过这个过程,你可以搭建一个本地Hadoop环境,用于学习Hadoop的基础概念和操作。记得定期更新和维护Hadoop,以保持其安全性和稳定性。

    Hadoop3.0 + JDK1.8.1+Hadoop-win运行包2.6.0--3.0.0

    安装和配置过程中需要注意环境变量的设置,确保Hadoop和Java的路径正确,同时也需要配置Hadoop的相关配置文件,如`core-site.xml`、`hdfs-site.xml`等,以便于HDFS的正常运行和数据存储。最后,通过编写MapReduce...

    hadoop-2.7.7.tar.gz

    如果一切正常,系统应该能够识别这个命令并显示相关信息,表明Hadoop已经正确地配置在你的Windows 10环境中。 Hadoop的主要组件包括HDFS(Hadoop Distributed File System)和MapReduce。HDFS是一种分布式文件系统...

    Windows装Hadoop的一些必须文件和包

    在Windows上安装Hadoop的过程需要一定的耐心和调试,因为与Linux环境相比,可能存在更多的兼容性和配置问题。但一旦设置完成,你就可以在本地环境中进行Hadoop的学习和开发了。如果你遇到了任何问题,记得查看Hadoop...

    Hadoop.zip

    在Windows 10环境下安装Hadoop 2.7.2,首先需要解压下载的"hadoop-2.7.2.zip"文件。解压后,你将得到一个包含多个目录和文件的结构,其中最重要的几个目录包括: 1. `bin`:包含可执行文件,如`hadoop`, `hdfs`, `...

Global site tag (gtag.js) - Google Analytics