`
FeiNiBukeZyh
  • 浏览: 12953 次
  • 性别: Icon_minigender_1
  • 来自: 沈阳
社区版块
存档分类
最新评论

Flink 1.7.0 集群搭建(standalone cluster)

 
阅读更多
软件要求
  • Java 1.7.x 或者更高
  • ssh sshd必须运行起来,因为flink用来管理远程的组件

    如果集群不满足全部上述要求,必须进行更新,否则无法搭建flink集群.
如果已经配置了ssh免密和在所有的节点创建了一样的目录结构,那么就可以使用flink脚本来管理一切fink集群事务了。 安装过程如下:

 

环境信息
  • 机器三台:IP是192.168.1.6/192.168.1.7/192.168.1.8
  • 系统版本:Centos 7
  • java版本:java version "1.8.0_162"
 
准备工作
  1. 安装scala:
  • 下载 
        wget https://downloads.lightbend.com/scala/2.12.8/scala-2.12.8.rpm
  • 安装
        rpm -ivh scala-2.12.8.rpm
  • 配置环境变量
        export SCALA_HOME=/usr/share/scala
        export PATH=$PATH:$SCALA_HOME/bin
  1. 配置SSH免密登陆
        生成ssh密码的命令,直接回车。


 执行本地命令,将公钥分别传输到远程免密机器

 

 

 

        免密登陆配置完毕.
  1. 下载Flink安装文件
        安装文件下载地址:https://flink.apache.org/downloads.html
        
集群安装
  • 解压安装包,flink-1.7.0-bin-scala_2.12.tgz

  • flink-conf.yaml 的修改
填写主节点的地址


 

  • masters 的修改
填写master地址

 


 
  • slaves的修改
填写slave地址


 
集群启动
  • 执行命令 bin/start-cluster.sh 启动集群


 
到这里集群就已经搭建完毕了。
 
 
  • 大小: 20.9 KB
  • 大小: 28.2 KB
  • 大小: 27.9 KB
  • 大小: 58.1 KB
  • 大小: 12.8 KB
  • 大小: 18.9 KB
  • 大小: 2.6 KB
  • 大小: 3 KB
  • 大小: 42.6 KB
分享到:
评论

相关推荐

    Flink1.7.0&1.7.2.rar

    在Flink 1.7.0和1.7.2版本中,它提供了高效、低延迟的数据流处理能力,支持实时计算和批处理任务。这两个版本的发布旨在增强稳定性和性能,同时也引入了一些新特性。 1. **流处理核心特性** - **状态管理**:Flink...

    Flink的standalone模式集群启动的流程及注意事项

    1.进行相应的解压操作之后,...4.进入bin目录执行 ./start-cluster.sh启动集群 (之前要做好ssh免密设置,可以省去输密码的麻烦) 5.查看Web UI 输入通过浏览器访问flink主节点的8081端口 http://192.168.198.129:8081

    flink集群搭建包.zip

    启动Flink集群,可以使用bin目录下的`start-cluster.sh`脚本启动standalone模式,或者`start-yarn-session.sh`启动YARN模式。 对于开发者而言,理解Flink的数据模型(DataStream和DataSet)和API是非常关键的。...

    Flink standalone 集群安装步骤-v1.6.1

    Flink standalone集群安装步骤-V1.6.1 一主两从的Flink集群安装配置步骤

    flink-1.7.0-bin-scala_2.11 (1).tgz

    《Flink 1.7.0:大数据处理的利器》 Apache Flink 是一个开源的流处理和批处理系统,其强大的数据处理能力在大数据领域备受赞誉。在Flink 1.7.0版本中,它继续提升了性能、稳定性和易用性,使得开发者能够更加高效...

    flink standalone部署的dockerfile

    flink 独立集群部署的dockerfile、dockercompose文件

    Flink-Standalone-Cluster.md

    Flink_Standalone_Cluster

    搭建Flink standalone HA 模式所需的jar包

    在搭建Apache Flink的standalone高可用(HA)模式时,理解相关概念和技术要点至关重要。高可用性确保了Flink集群在面临硬件故障或其他异常情况时仍能保持服务连续性,保证数据处理不中断。本篇文章将深入探讨如何配置...

    start-cluster.bat(windows安装flink所需批处理文件)

    start-cluster.bat(windows安装flink所需批处理文件)

    flink安装程序,具体版本flink-1.7.0-bin-scala-2.12

    Flink(Apache Flink)是一个开源的流处理和批处理框架,它被设计用于在大规模分布式环境中进行高性能、可靠且容错的数据处理。Flink提供了一种统一的编程模型,可以处理无界流数据和有界批量数据,并支持事件时间和...

    Flink源码解析.zip

    5、Flink 源码解析 —— Standalone Session Cluster 启动流程深度分析之 Job Manager 启动 6、Flink 源码解析 —— Standalone Session Cluster 启动流程深度分析之 Task Manager 启动 7、Flink 源码解析 —— ...

    flink新版本bat启动文件.zip

    `start-cluster.bat`是启动Flink集群的脚本,它会启动JobManager(任务管理器)和TaskManager(任务执行器)节点,使得Flink集群能够处理流式和批处理任务。`flink.bat`文件则是一个通用的命令行工具,用于执行各种...

    Flink 开发环境搭建和应用的配置部署及运行.pdf

    Flink应用的运行有几种模式,包括单机standalone模式、standalone集群模式和Yarn集群模式。不同的运行模式适用于不同的场景和需求。在进行模式选择时,需要根据实际的计算需求、资源情况和集群规模来决定。 Flink...

    Flink1.7.2集群安装.docx

    6. 在主节点上启动Flink集群,使用`./bin/start-cluster.sh`命令。 至此,Flink 1.7.2的集群安装已经完成。你可以通过Flink的Web UI(默认端口8081)监控作业运行情况,或者通过提交`./bin/flink run`命令来执行...

    Flink大数据集群资源监控项目实战课程(基于flink1.13版本)

    课程分享——Flink大数据集群资源监控项目实战课程,基于flink1.13版本,附PPT+软件+代码下载。 本课程为Flink大数据项目实战教程,以Flink项目实现为主线,重点讲解Flink项目相关的核心技术,包含Flink流式计算、...

    Flink 1.9.1 Standalone 集群部署.pdf

    本文档主要讲解Flink Standalone模式的集群的安装部署方法。此外,还包含了集群启停、任务提交、查看日志、执行自定义流处理程序等扩展主题。文档力求内容详实、步骤清晰,使读者阅后即可百分百掌握,不留疑问,轻松...

    flink 1.14.4 集成 hive 3.12 的依赖包

    flink 集成 hive 所需要的依赖包,包括 antlr-runtime-3.5.2.jar flink-connector-hive_2.12-1.14.4.jar flink-shaded-hadoop-3-3.1.1.7.2.9.0-173-9.0.jar flink-sql-connector-hive-3.1.2_2.12-1.14.4.jar hive-...

    Flink+Kafka搭建流式处理框架(内涵docker部署脚本和k8s多副本部署脚本)

    flink搭配kafka,构建流式采集框架,提供了docker部署方式脚本和k8s多副本方式部署脚本

    docker-flink:Apache Flink Docker映像

    设置运行一个Flink Master和多个Flink Worker的独立集群 在Scala,Java或Python中构建Flink应用程序以在Flink集群上运行 当前支持的版本: 用于Hadoop 3.2和Scala 2.11的Flink 1.12.2 适用于Hadoop 2.8和Scala ...

    Hadoop+Spark+Hive+HBase+Oozie+Kafka+Flume+Flink+ES+Redash等详细安装部署

    综上所述,搭建这样一个大数据集群需要深入了解每个组件的特性和配置要求,同时还需要具备一定的网络和系统管理知识。过程中可能遇到的问题包括网络配置、权限设置、依赖冲突等,解决这些问题通常需要查阅官方文档、...

Global site tag (gtag.js) - Google Analytics