`
woodding2008
  • 浏览: 289609 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

异常导致 Storm Worker 重启

 
阅读更多

 spout一直报错导致worker重启

2016-10-25 14:00:12 STDIO [ERROR] at com.mysql.jdbc.Util.getInstance(Util.java:386)
2016-10-25 14:00:12 STDIO [ERROR] at com.mysql.jdbc.SQLError.createSQLException(SQLError.java:1015)
2016-10-25 14:00:12 STDIO [ERROR] at com.mysql.jdbc.SQLError.createSQLException(SQLError.java:989)
2016-10-25 14:00:12 STDIO [ERROR] at com.mysql.jdbc.SQLError.createSQLException(SQLError.java:975)
2016-10-25 14:00:12 STDIO [ERROR] at com.mysql.jdbc.MysqlIO.doHandshake(MysqlIO.java:1112)
2016-10-25 14:00:12 STDIO [ERROR] at com.mysql.jdbc.ConnectionImpl.coreConnect(ConnectionImpl.java:2486)
2016-10-25 14:00:12 STDIO [ERROR] at com.mysql.jdbc.ConnectionImpl.connectWithRetries(ConnectionImpl.java:2327)
2016-10-25 14:00:12 STDIO [ERROR] ... 21 more
2016-10-25 14:00:12 b.s.util [ERROR] Async loop died!
java.lang.NullPointerException: null
        at com.javagc.util.JdbcUtil.executeQuerySql(JdbcUtil.java:85) ~[stormjar.jar:na]
        at com.javagc.cache.LiveInfoCache.refreshjavagcLiveInfoMap(LiveInfoCache.java:27) ~[stormjar.jar:na]
        at com.javagc.cache.LiveInfoCache.getjavagcLiveInfoByScreenID(LiveInfoCache.java:88) ~[stormjar.jar:na]
        at com.javagc.bean.SLiveSuep.parseLog(SLiveSuep.java:63) ~[stormjar.jar:na]
        at com.javagc.spout.SLiveSuepSpout.nextTuple(SLiveSuepSpout.java:37) ~[stormjar.jar:na]
        at backtype.storm.daemon.executor$fn__6579$fn__6594$fn__6623.invoke(executor.clj:565) ~[storm-core-0.9.5.jar:0.9.5]
        at backtype.storm.util$async_loop$fn__459.invoke(util.clj:463) ~[storm-core-0.9.5.jar:0.9.5]
        at clojure.lang.AFn.run(AFn.java:24) [clojure-1.5.1.jar:na]
        at java.lang.Thread.run(Thread.java:745) [na:1.7.0_76]
2016-10-25 14:00:12 b.s.d.executor [ERROR] 
java.lang.NullPointerException: null
        at com.javagc.util.JdbcUtil.executeQuerySql(JdbcUtil.java:85) ~[stormjar.jar:na]
        at com.javagc.cache.LiveInfoCache.refreshjavagcLiveInfoMap(LiveInfoCache.java:27) ~[stormjar.jar:na]
        at com.javagc.cache.LiveInfoCache.getjavagcLiveInfoByScreenID(LiveInfoCache.java:88) ~[stormjar.jar:na]
        at com.javagc.bean.SLiveSuep.parseLog(SLiveSuep.java:63) ~[stormjar.jar:na]
        at com.javagc.spout.SLiveSuepSpout.nextTuple(SLiveSuepSpout.java:37) ~[stormjar.jar:na]
        at backtype.storm.daemon.executor$fn__6579$fn__6594$fn__6623.invoke(executor.clj:565) ~[storm-core-0.9.5.jar:0.9.5]
        at backtype.storm.util$async_loop$fn__459.invoke(util.clj:463) ~[storm-core-0.9.5.jar:0.9.5]
        at clojure.lang.AFn.run(AFn.java:24) [clojure-1.5.1.jar:na]
        at java.lang.Thread.run(Thread.java:745) [na:1.7.0_76]
2016-10-25 14:00:12 b.s.util [ERROR] Halting process: ("Worker died")
java.lang.RuntimeException: ("Worker died")
        at backtype.storm.util$exit_process_BANG_.doInvoke(util.clj:325) [storm-core-0.9.5.jar:0.9.5]
        at clojure.lang.RestFn.invoke(RestFn.java:423) [clojure-1.5.1.jar:na]
        at backtype.storm.daemon.worker$fn__7028$fn__7029.invoke(worker.clj:497) [storm-core-0.9.5.jar:0.9.5]
        at backtype.storm.daemon.executor$mk_executor_data$fn__6480$fn__6481.invoke(executor.clj:240) [storm-core-0.9.5.jar:0.9.5]
        at backtype.storm.util$async_loop$fn__459.invoke(util.clj:473) [storm-core-0.9.5.jar:0.9.5]
        at clojure.lang.AFn.run(AFn.java:24) [clojure-1.5.1.jar:na]
        at java.lang.Thread.run(Thread.java:745) [na:1.7.0_76]
2016-10-25 14:00:12 b.s.d.worker [INFO] Shutting down worker zhiboyaha_analyst-291-1477292001 33adcdcf-e32f-424c-bb1d-d11c56eca3c4 5

 

重启分析

spout执行线程无法处理nextTuple方法抛出来的异常,这时认为worker已经不能正常工作,通过重启【飘移】worker解决。

 

spout数据处理

 

bolt数据处理

 

 

 

参考资料 

http://www.cnblogs.com/fxjwind/p/3238648.html

  • 大小: 133.2 KB
  • 大小: 109.5 KB
分享到:
评论

相关推荐

    ThinkPHP5集成GatewayWorker

    - **心跳检测**:设置合理的心跳检测机制,防止因网络波动导致的连接异常。 - **负载均衡**:在高并发环境下,可能需要部署多台服务器,通过Nginx或者其他负载均衡器分发请求。 - **日志记录**:合理记录和分析...

    Storm 源码分析

    5. **容错机制**:为了保证数据处理的可靠性,Storm设计了一套完整的容错机制,包括消息确认机制、任务重启机制等。 #### 六、Storm与Hadoop的集成 虽然Storm和Hadoop分别针对实时计算和批处理两个不同的场景,但...

    tp5.1+GatewayWorker 修复GatewayWorker在windows启动问题

    命令php think worker:gateway在windows下运行...根据GatewayWorker-for-win提供的demo修改的 本资源依赖GatewayWorker扩展,请先安装扩展。 使用方法,把解压后的文件夹放到项目根目录,双击start_for_win.bat,启动

    Nginx worker_connections配置太低导致500错误案例

    原来是Nginx配置文件中的worker_connections配置太低,只有50,导致与php-fpm交互过程中超出了connections限制,出现了500错误。直接将此参数的值改成10240就解决了此问题。 您可能感兴趣的文章:Nginx中worker ...

    Storm入门到精通

    * Worker:Storm 的执行节点,负责执行具体的计算任务。 Storm 属性 Storm 的主要属性包括: * fault-tolerant:Storm 可以自动恢复故障节点,保证系统的高可用性。 * scalable:Storm 可以根据需要水平扩展,...

    细细品味Storm_Storm简介及安装

    ### Storm简介及安装知识点梳理 #### 一、Storm简介 **Storm** 是一款由BackType公司开发的分布式实时计算系统,后被Twitter收购并开源。它主要用于处理大规模的数据流,能够简单、高效、可靠地处理实时数据。...

    apache-storm-2.4.0.tar.gz

    描述中的 "帮助不能下载的同学下载storm安装包" 表明这个文件是为那些无法正常下载 Apache Storm 的人提供的,可能是因为网络问题或其他原因导致的下载失败。 在标签中,"storm 安装包" 暗示了这个文件的用途,即它...

    Storm笔记-PPT

    2. **流式数据处理**:如日志收集、实时监控,及时响应异常情况。 3. **消息路由**:结合Flume或Kafka,构建高效的数据传输和处理管道。 通过对Storm的学习,我们可以理解实时数据处理的核心原理,掌握如何构建和...

    nextjs-worker-example:这是Webpack使用Next.js加载Web Worker的示例

    NextJS Worker示例这是使Web Worker在NextJS项目中运行的示例。 要使用worker-loader将Web Worker加载到NextJS站点上,并允许在其worker上运行babel等webpack加载器,必须覆盖构建输出路径。 感谢。 // next.config....

    STORM学习文档

    Storm 的架构主要由四个组件组成:Nimbus、Supervisor、Worker 和 Zookeeper。 * Nimbus:负责接收用户提交的 topology,并将其分配给 Supervisor。 * Supervisor:负责管理多个 Worker,监控 Worker 的状态,并将...

    Laravel开发-laravel-worker

    - **异常捕获**:在Job的`handle`方法中抛出的异常会被记录并可能导致任务失败。 - **重试机制**:Laravel提供了自动重试失败任务的功能,可通过`--tries`选项设置重试次数。 - **失败队列**:失败的任务会被移到...

    storm原理分析

    1. **Storm/workerbeats/<topology-id>/node-port**:存储 Worker 的运行状态和统计信息,包括 topology-id、Worker 上所有 Executor 的统计信息(例如发送和接收的消息数)、Worker 的启动时间和最后更新时间等。...

    向Webpack添加原生WebWorker捆绑支持

    此外,Web Worker的使用应当谨慎,避免过度使用导致内存消耗增加。 总结来说,`GoogleChromeLabs-worker-plugin`是一个非常实用的Webpack插件,它让在Webpack项目中集成和管理Web Worker变得简单。通过正确配置和...

    HTML5 WebWorker

    合理使用Web Worker,避免过度使用导致资源浪费。对于小规模的计算任务,直接在主线程中处理可能更高效。 综上所述,HTML5的Web Worker为Web开发者提供了一种解决性能瓶颈的有效手段,通过在后台线程执行任务,提高...

    storm的jar包

    在Storm中,数据流被抽象为持续不断的Tuple(元组)序列,这些Tuple在网络中的worker节点间进行分布式处理,保证每个消息至少被处理一次(At-Least-Once Processing Guarantees)。这使得Storm非常适合于实时数据...

    Storm源码走读笔记

    本文档是关于Storm源码的详细走读笔记,主要分析了Storm的启动场景、Topology提交过程、worker进程中的线程使用情况、消息传递机制以及 TridentTopology的创建和ack机制等多个方面。 首先,文档提到了Storm集群中的...

    Web Worker用法汇总

    在传统的JavaScript执行环境中,所有的任务都在同一个线程上运行,如果一个任务耗时过长,就会阻塞整个页面,导致用户界面无响应,也就是我们常说的"页面卡死"。Web Worker的出现就是为了缓解这一问题,它允许开发者...

    storm实时数据处理

    Storm的核心组件包括:Nimbus(主控节点)、Supervisor(工作节点)、Worker进程以及Spout和Bolt。Nimbus负责任务调度,Supervisor管理worker进程,而worker则执行实际的计算任务。Spout是数据源,负责生成数据流;...

    storm入门 PDF 下载

    1. **Storm架构**:Storm的核心组件包括nimbus(主控节点)、supervisor(工作节点)、worker进程、spout(数据源)和bolt(处理逻辑)。Nimbus负责任务调度,Supervisor管理worker进程,worker运行spout和bolt实例...

Global site tag (gtag.js) - Google Analytics