`

spark 2.3.1 Standalone+zookeeper 集群

 
阅读更多

1. 修改spark-env.sh 文件加入zookeeper配置(http://spark.apache.org/docs/latest/configuration.html#deploy 具体配置说明)

export SPARK_DAEMON_JAVA_OPTS="-Dspark.deploy.recoveryMode=ZOOKEEPER -Dspark.deploy.zookeeper.url=sky1:2181,sky2:2181,sky3:2181"

  修改完后,同步到其它节点

2. 修改spark 重master节点,(例 指定sky1为重master节点)

   vim spark-env.sh

export SPARK_MASTER_HOST=sky1

 3.启动重master节点

   

./sbin/start-master.sh 

 4. 查看重master节点服务状态 是否为 STANDBY

    http://ip:8080

   

 5. 测试

    杀掉主master节点,等一段时间是否可自动切换到重master节点

 

分享到:
评论

相关推荐

    Springboot+Dubbo+Zookeeper船新版本

    此外,Zookeeper还可以用于集群管理、分布式锁等场景。 在这个“Springboot+Dubbo+Zookeeper船新版本”中,你将学习到如何: 1. 配置Spring Boot项目,引入Dubbo和Zookeeper的相关依赖。 2. 创建服务提供者,定义...

    spark 2.3.1 支持Hive Yarn Hadoop 2.7 已编译版本

    Spark 2.3.1是Apache Spark的一个重要版本,它为大数据处理提供了高效、可扩展的计算框架。这个版本特别强调了对Hive和YARN的兼容性,并且与Hadoop 2.7版本进行了良好的集成。以下是关于这些关键组件及其相互作用的...

    torch-2.3.1+cu118-cp38-cp38-linux-x86-64.whl

    更多:https://download.pytorch.org/whl/torch/

    spark-2.3.1-bin-hadoop2.7.zip

    Spark 2.3.1是Spark的一个稳定版本,它在2.3系列中包含了多个性能优化和新功能的引入。这次我们讨论的是Spark 2.3.1与Hadoop 2.7的集成版本,名为"spark-2.3.1-bin-hadoop2.7.zip"的压缩包。 首先,Spark的核心设计...

    官方Quartz.NET 2.3.1 源码+15个示例

    2.3.1版本是官方在2015年1月15日发布的,这个压缩包包含了该版本的源代码和15个示例项目,方便开发者深入理解和使用Quartz.NET。 源代码分析: 源代码的结构通常包括以下几个部分: 1. `src`目录:这是核心源代码...

    spark2.3.1-with-hive

    Spark 2.3.1 是一个重要的大数据处理框架,它提供了高效的分布式计算能力,而与 Hive 的集成使得 Spark 可以充分利用 Hive 的元数据、SQL 查询功能和存储系统,为大数据分析提供更丰富的选择。Hive 是一种基于 ...

    跳一跳cocosCreator(2.3.1)+JavaScript源码

    《使用Cocos Creator 2.3.1与JavaScript开发“跳一跳”小游戏详解》 在数字娱乐领域,游戏开发是一项充满挑战与创意的工作。本文将深入探讨如何使用Cocos Creator 2.3.1这一强大的游戏开发引擎,结合JavaScript编程...

    spark-2.3.1-bin-hadoop2.9-without-hive.tgz

    Spark 2.3.1是Apache Spark的一个稳定版本,它是一个快速、通用且可扩展的大数据处理框架。这个版本在2.3.0的基础上进行了优化和改进,提供了更丰富的功能和更高的性能。Hadoop 2.9.0是用于分布式存储和计算的开源...

    spark-2.3.1源码包

    6. **部署与运行**:将生成的jar包分发到集群,配置相应的环境变量,如`SPARK_HOME`,然后通过`spark-submit`命令提交应用程序或者直接运行`bin/spark-shell`进入交互式环境。 总结来说,Spark 2.3.1源码的打包编译...

    spark-2.3.1-bin-hadoop2.6.tgz

    6. **Hadoop集成**:Spark 2.3.1与Hadoop 2.6集成,意味着它可以读写HDFS上的数据,并可以与其他Hadoop组件(如YARN或MapReduce)配合工作,实现大数据处理的集群资源管理。 7. **DataFrame和Dataset API**:这些...

    spark-2.3.1-bin-hadoop2.7.rar

    "spark-2.3.1-bin-hadoop2.7.rar"是一个压缩包文件,包含了Spark的所有核心组件,包括Spark Core、Spark SQL、Spark Streaming、MLlib(机器学习库)和GraphX(图处理库)。用户无需进行复杂的安装过程,只需将其...

    图像标注、训练、识别(Keras2.3.1+TensorFlow-gpu2.1.0 + cuda10.0).zip

    图像标注、训练、识别(Keras2.3.1+TensorFlow-gpu2.1.0 + cuda10.0) 图像标注、训练、识别(Keras2.3.1+TensorFlow-gpu2.1.0 + cuda10.0) 图像标注、训练、识别(Keras2.3.1+TensorFlow-gpu...

    Spark-2.3.1源码解读

    Spark-2.3.1源码解读。 Spark Core源码阅读 Spark Context 阅读要点 Spark的缓存,变量,shuffle数据等清理及机制 Spark-submit关于参数及部署模式的部分解析 GroupByKey VS ReduceByKey OrderedRDDFunctions...

    struts-2.3.1+spring3.1.1+hibernate3.6.9整合&配置文件

    这个压缩包文件"struts-2.3.1+spring3.1.1+hibernate3.6.9整合&配置文件"提供了将这三个框架整合使用的配置和依赖。下面我们将详细讨论这三个框架以及它们的整合过程。 **Struts 2** 是一个基于MVC设计模式的Java ...

    springboot-rsa-aes-demo:RSA和AES前端数据加密,对数据解密,以及返回参数加密,前端解密,完整原始文件,由于是城市表面常用的是这二种加解密方式,所以就写了这二种,每天会自动更换密关键字,后续我会陆续更新其他的加解密算法,技术点采用在新的spring-boot 2.3.1版本+ mybatisPlus + mysql数据库

    boot 2.3.1版本+ mybatisPlus + mysql数据库介绍RSA和AES前端数据加密,数据解密,以及返回参数加密,前端解密,完整原始码,由于是城市表面常用的是这二种加解密方式,所以就写了这二种,每天会自动更换密钥,随后...

    spark-docs-api_2.3.1.zip

    1. **RDD(Resilient Distributed Datasets)**:这是Spark的基础数据抽象,是一个容错的、只读的数据集,可以在集群中的多个节点上分区存储。RDD支持转换和动作两种操作,转换创建新的RDD,动作触发计算并返回结果...

    spring3.1.1+struts2.3.1+hibernate3.3.2

    在"spring3.1.1+struts2.3.1+hibernate3.3.2"这个项目中,这三个框架的版本都是相对稳定的,能够提供良好的功能性和兼容性。 Spring 3.1.1是Spring框架的一个重要版本,它引入了若干改进和新特性。其中包括对Java...

    基于opencv2.3.1+vs2010的相机标定程序

    "基于opencv2.3.1+VS2010的相机标定程序"是用于进行这一过程的一个软件工具。OpenCV(Open Source Computer Vision Library)是一个开源的计算机视觉库,它提供了大量的图像处理和计算机视觉功能,包括相机标定。而...

    GD32F2系列MCU单片机固件库GD32F20x_Firmware_Library_V2.3.1+文档资料.zip

    GD32F2系列MCU单片机固件库GD32F20x_Firmware_Library_V2.3.1+文档资料是一份全面的资源包,旨在为开发者提供在GD32F2系列微控制器上进行软件开发的基础。这份资源包含了一个经过优化的固件库以及相关的文档资料,有...

    spark-2.3.1-bin-hadoop2-without-hive.tgz

    Spark 2.3.1是Apache Spark的一个稳定版本,它包含了许多重要的性能改进和新特性。这个特定的压缩包"spark-2.3.1-bin-hadoop2-without-hive.tgz"是针对Hadoop 2.x平台编译的Spark二进制发行版,但不包括对Hive的支持...

Global site tag (gtag.js) - Google Analytics