`
wsppstwo
  • 浏览: 14365 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

基于eclipse的spark开发环境搭建-scala篇

阅读更多

 

 安装前说明:

根据我在配置过程中遇见的各种情况给出如下建议,仅供参考

  1. 不建议在现有的eclipse的中安装scala IDE插件,建议使用scalaIDE官网提供的已经集成好的eclipse作为开发工具,这样避免在插件安装过程中遇到的各种稳定,而且集成的版本比较稳定。
  2. 如果必须在现有的eclipse环境中安装scalaIDE,不建议采用离线安装的方式安装,建议采用在线安装的方式安装,而且需要根据eclipse的版本选择对应的scalaIDE进行安装,切不要随意选择版本进行安装。在http://scala-ide.org/download/prev-stable.html页面中选择eclipse版本对应的scalaIDE
  3. 暂时不要奢望(等新版本的scalaIDE发布再看)在一个eclipse 开发环境上安装基于scala2.10和scala2.11两个版本的插件;即当前情况下不能再同一个eclipse中对项目选择不同的scala版本进行编译,必须准备两个eclipse,一个安装scala2.10的插件,另一个安装scala2.11的插件,虽然在当前最新版本的scalaIDE4.5.0的版本上官方说同时支持scala2.11和scala2.10,同时也官方声明这个支持较为脆弱,我测试下来在scala IDE 4.5.0上不能对项目选择scala2.10进行编译,而且尝试多种方式都没能解决这个问题。
  4. 如上所述,我再这里推荐scala IDE官方集成的eclispe:
    1>scala-SDK-4.5.0-vfinal-2.11-win32.win32.x86_64自带scala2.11.8
        下载地址http://scala-ide.org/download/sdk.html
    2>scala-SDK-3.0.3-2.10-win32.win32.x86_64自带scala2.10.4
         下载地址http://downloads.typesafe.com/scalaide-pack/3.0.3.vfinal-210-20140327/scala-SDK-3.0.3-2.10-win32.win32.x86_64.zip

 打开eclipse进行创建工程

  1. 设置maven,选择自己的本地版本库


     

     
  2. 使用maven创建项目




     
     选择scala-archetype-simple作为创建项目的模板


     

     
  3. 修改pom文件添加相关的spark的依赖
  • 大小: 6.1 KB
  • 大小: 27.2 KB
  • 大小: 33.6 KB
  • 大小: 10.9 KB
  • 大小: 37.2 KB
  • 大小: 23.5 KB
分享到:
评论

相关推荐

    spark开发环境搭建(eclipse)

    Spark 开发环境搭建(Eclipse) Spark 开发环境搭建是指在 Eclipse 集成开发环境中设置和配置 Spark 开发环境的过程。Spark 是一个基于 Hadoop 的大数据处理框架,它提供了高效的数据处理能力。为了在 Eclipse 中...

    Spark集群及开发环境搭建(完整版)

    ### Spark集群及开发环境搭建(完整版) #### 一、软件及下载 本文档提供了详细的步骤来指导初学者搭建Spark集群及其开发环境。首先需要准备的软件包括: - **VirtualBox-5.1**:虚拟机软件,用于安装CentOS操作...

    Spark集群及开发环境搭建

    初学者手册 一、 软件及下载 2 二、 集群环境信息 2 ...八、 Scala开发环境搭建 21 1、系统安装 21 2、安装jdk8 21 3、安装scala2.11 21 4、安装scala for eclipse 21 5、创建scala工程 21

    scala eclipse maven环境搭建

    总结来说,要搭建Scala、Eclipse和Maven的开发环境,你需要安装Eclipse和Scala IDE插件,配置Maven,创建Maven Scala项目,并在`pom.xml`中管理依赖。这个环境能够支持你进行高效的Scala开发,利用Maven自动化构建...

    Spark 编程基础(Scala 版)-机房上机实验指南

    - **环境搭建**: - **安装Scala**:确保Scala版本与Spark兼容。 - **安装Spark**:下载并解压Spark二进制包,配置环境变量。 - **IDE支持**:推荐使用IntelliJ IDEA或Eclipse with the Scala plugin。 - **配置...

    eclise开发spark集成环境.doc

    一、Eclipse 开发环境搭建 1. 解压 Eclipse 到 Linux 相关目录 在 Linux 中解压 Eclipse 安装包,并将其移到相关目录下。 2. 启动 Eclipse 在 Linux 中启动 Eclipse,确保在 CentOS 6.5 上正确设置。 二、Spark ...

    scala-2.11.8(windows系统)

    这个压缩包包含了在Windows系统上安装Scala的MSI(Microsoft Installer)文件,方便用户在Windows环境下搭建Scala开发环境。 Scala的主要特点包括: 1. **类型安全**:Scala是一种静态类型的编程语言,它在编译时...

    spark安装

    #### Spark开发环境搭建 本部分将介绍如何在Windows和Linux环境下搭建Spark开发环境。这里我们以Linux环境下的ScalaIDE为例。 ##### 配置IDEA 1. **安装JDK**:如前所述,确保已经正确安装并设置了JAVA_HOME环境...

    大数据技术开发环境搭建.docx

    本教程涵盖了大数据技术开发环境的搭建,涉及多个重要组件,包括Hadoop、Spark、HBase、Hive等。以下将详细介绍这些技术的安装与配置过程。 首先,搭建开发环境通常从软件下载开始,这里可能包括虚拟机管理器(如...

    eclipse的hadoop2.7插件以及hadoop-common编译文件

    总结来说,通过Eclipse的Hadoop2.7插件和Hadoop-common编译文件,开发者可以在Windows环境下搭建一个功能强大的Hadoop和Spark集成开发环境,方便地进行大数据处理应用的开发和调试。这对于理解和掌握Hadoop和Spark的...

    scala&spark;-v4.0

    #### Scala的安装与开发环境搭建 对于初学者来说,安装Scala开发环境是一个重要的步骤。下面介绍一种简单的安装方式: 1. **下载与安装ScalaShell**:ScalaShell是一个交互式的开发工具,可以帮助开发者快速测试...

    Spark简单测试案例

    1. **安装 Scala IDE for Eclipse**:这是一个集成 Scala 开发环境的 Eclipse 插件,适合进行 Scala 项目的开发。 2. **新建 Scala 工程**:打开 Scala IDE for Eclipse,选择 `New` -> `Scala Project`,在弹出的...

    老汤spark开发.zip

    在"老汤spark开发.zip"这个压缩包中,我们主要关注的是如何在Windows环境下搭建Spark开发环境,这对于想要入门或者深入学习Spark的开发者至关重要。 首先,Spark开发环境的搭建涉及以下几个关键步骤: 1. **安装...

    Spark入门基础--简介及环境搭建

    ## Spark开发环境搭建 在本地或开发环境中,通常使用集成开发环境(IDE)如IntelliJ IDEA或Eclipse,配合Scala、Java、Python或R语言进行Spark应用开发。以下是一般步骤: 1. **安装编程语言**: 根据选择的语言...

    windows 下搭建eclipse的hadoop开发环境.rar_SPARKK_blew1bh_manufacturingkf

    在Windows环境下搭建Eclipse的Hadoop开发环境是一个重要的步骤,对于大数据开发人员来说,这是进行Spark和Hadoop项目开发的基础。以下将详细讲解这个过程,以及如何利用ECLIPSE大数据开发插件来优化配置。 首先,...

    Spark+Hadoop+IDE环境搭建

    本文将详细介绍如何在IDE环境下搭建Spark与Hadoop的集成环境。 首先,我们需要了解Hadoop的组成部分。Hadoop主要由HDFS(Hadoop Distributed File System)和MapReduce两部分组成。HDFS是分布式文件系统,用于存储...

    Spark项目计划书v1.0版2

    总结,本项目计划书详细规划了基于Spark的软件项目,涵盖了项目的目标、范围、预期交付物、开发环境、团队组织、实施计划等多个方面,旨在构建一个高效、稳定、易用的大数据处理平台,服务于企业的数据处理和分析...

    spark零基础入门线路指导

    官方文档和网络上有大量关于如何在Eclipse和IDEA中配置Spark开发环境的教程,这里不再赘述。 Spark开发过程中,编程语言是重中之重。虽然Spark支持多种编程语言,但其最核心的API是用Scala语言编写的。因此,如果你...

    kafka环境搭建

    本文将详细讲解如何搭建 Kafka 开发环境,包括 Scala 环境的配置、Eclipse 中的 Scala 开发环境安装以及依赖包的管理。 首先,你需要对 Kafka 的功能有基本的了解,理解其分布式工作原理。Kafka 通常作为日志系统...

Global site tag (gtag.js) - Google Analytics