spout一直报错导致worker重启
2016-10-25 14:00:12 STDIO [ERROR] at com.mysql.jdbc.Util.getInstance(Util.java:386) 2016-10-25 14:00:12 STDIO [ERROR] at com.mysql.jdbc.SQLError.createSQLException(SQLError.java:1015) 2016-10-25 14:00:12 STDIO [ERROR] at com.mysql.jdbc.SQLError.createSQLException(SQLError.java:989) 2016-10-25 14:00:12 STDIO [ERROR] at com.mysql.jdbc.SQLError.createSQLException(SQLError.java:975) 2016-10-25 14:00:12 STDIO [ERROR] at com.mysql.jdbc.MysqlIO.doHandshake(MysqlIO.java:1112) 2016-10-25 14:00:12 STDIO [ERROR] at com.mysql.jdbc.ConnectionImpl.coreConnect(ConnectionImpl.java:2486) 2016-10-25 14:00:12 STDIO [ERROR] at com.mysql.jdbc.ConnectionImpl.connectWithRetries(ConnectionImpl.java:2327) 2016-10-25 14:00:12 STDIO [ERROR] ... 21 more 2016-10-25 14:00:12 b.s.util [ERROR] Async loop died! java.lang.NullPointerException: null at com.javagc.util.JdbcUtil.executeQuerySql(JdbcUtil.java:85) ~[stormjar.jar:na] at com.javagc.cache.LiveInfoCache.refreshjavagcLiveInfoMap(LiveInfoCache.java:27) ~[stormjar.jar:na] at com.javagc.cache.LiveInfoCache.getjavagcLiveInfoByScreenID(LiveInfoCache.java:88) ~[stormjar.jar:na] at com.javagc.bean.SLiveSuep.parseLog(SLiveSuep.java:63) ~[stormjar.jar:na] at com.javagc.spout.SLiveSuepSpout.nextTuple(SLiveSuepSpout.java:37) ~[stormjar.jar:na] at backtype.storm.daemon.executor$fn__6579$fn__6594$fn__6623.invoke(executor.clj:565) ~[storm-core-0.9.5.jar:0.9.5] at backtype.storm.util$async_loop$fn__459.invoke(util.clj:463) ~[storm-core-0.9.5.jar:0.9.5] at clojure.lang.AFn.run(AFn.java:24) [clojure-1.5.1.jar:na] at java.lang.Thread.run(Thread.java:745) [na:1.7.0_76] 2016-10-25 14:00:12 b.s.d.executor [ERROR] java.lang.NullPointerException: null at com.javagc.util.JdbcUtil.executeQuerySql(JdbcUtil.java:85) ~[stormjar.jar:na] at com.javagc.cache.LiveInfoCache.refreshjavagcLiveInfoMap(LiveInfoCache.java:27) ~[stormjar.jar:na] at com.javagc.cache.LiveInfoCache.getjavagcLiveInfoByScreenID(LiveInfoCache.java:88) ~[stormjar.jar:na] at com.javagc.bean.SLiveSuep.parseLog(SLiveSuep.java:63) ~[stormjar.jar:na] at com.javagc.spout.SLiveSuepSpout.nextTuple(SLiveSuepSpout.java:37) ~[stormjar.jar:na] at backtype.storm.daemon.executor$fn__6579$fn__6594$fn__6623.invoke(executor.clj:565) ~[storm-core-0.9.5.jar:0.9.5] at backtype.storm.util$async_loop$fn__459.invoke(util.clj:463) ~[storm-core-0.9.5.jar:0.9.5] at clojure.lang.AFn.run(AFn.java:24) [clojure-1.5.1.jar:na] at java.lang.Thread.run(Thread.java:745) [na:1.7.0_76] 2016-10-25 14:00:12 b.s.util [ERROR] Halting process: ("Worker died") java.lang.RuntimeException: ("Worker died") at backtype.storm.util$exit_process_BANG_.doInvoke(util.clj:325) [storm-core-0.9.5.jar:0.9.5] at clojure.lang.RestFn.invoke(RestFn.java:423) [clojure-1.5.1.jar:na] at backtype.storm.daemon.worker$fn__7028$fn__7029.invoke(worker.clj:497) [storm-core-0.9.5.jar:0.9.5] at backtype.storm.daemon.executor$mk_executor_data$fn__6480$fn__6481.invoke(executor.clj:240) [storm-core-0.9.5.jar:0.9.5] at backtype.storm.util$async_loop$fn__459.invoke(util.clj:473) [storm-core-0.9.5.jar:0.9.5] at clojure.lang.AFn.run(AFn.java:24) [clojure-1.5.1.jar:na] at java.lang.Thread.run(Thread.java:745) [na:1.7.0_76] 2016-10-25 14:00:12 b.s.d.worker [INFO] Shutting down worker zhiboyaha_analyst-291-1477292001 33adcdcf-e32f-424c-bb1d-d11c56eca3c4 5
重启分析
spout执行线程无法处理nextTuple方法抛出来的异常,这时认为worker已经不能正常工作,通过重启【飘移】worker解决。
spout数据处理
bolt数据处理
参考资料
http://www.cnblogs.com/fxjwind/p/3238648.html
相关推荐
- **心跳检测**:设置合理的心跳检测机制,防止因网络波动导致的连接异常。 - **负载均衡**:在高并发环境下,可能需要部署多台服务器,通过Nginx或者其他负载均衡器分发请求。 - **日志记录**:合理记录和分析...
5. **容错机制**:为了保证数据处理的可靠性,Storm设计了一套完整的容错机制,包括消息确认机制、任务重启机制等。 #### 六、Storm与Hadoop的集成 虽然Storm和Hadoop分别针对实时计算和批处理两个不同的场景,但...
命令php think worker:gateway在windows下运行...根据GatewayWorker-for-win提供的demo修改的 本资源依赖GatewayWorker扩展,请先安装扩展。 使用方法,把解压后的文件夹放到项目根目录,双击start_for_win.bat,启动
原来是Nginx配置文件中的worker_connections配置太低,只有50,导致与php-fpm交互过程中超出了connections限制,出现了500错误。直接将此参数的值改成10240就解决了此问题。 您可能感兴趣的文章:Nginx中worker ...
* Worker:Storm 的执行节点,负责执行具体的计算任务。 Storm 属性 Storm 的主要属性包括: * fault-tolerant:Storm 可以自动恢复故障节点,保证系统的高可用性。 * scalable:Storm 可以根据需要水平扩展,...
### Storm简介及安装知识点梳理 #### 一、Storm简介 **Storm** 是一款由BackType公司开发的分布式实时计算系统,后被Twitter收购并开源。它主要用于处理大规模的数据流,能够简单、高效、可靠地处理实时数据。...
描述中的 "帮助不能下载的同学下载storm安装包" 表明这个文件是为那些无法正常下载 Apache Storm 的人提供的,可能是因为网络问题或其他原因导致的下载失败。 在标签中,"storm 安装包" 暗示了这个文件的用途,即它...
2. **流式数据处理**:如日志收集、实时监控,及时响应异常情况。 3. **消息路由**:结合Flume或Kafka,构建高效的数据传输和处理管道。 通过对Storm的学习,我们可以理解实时数据处理的核心原理,掌握如何构建和...
NextJS Worker示例这是使Web Worker在NextJS项目中运行的示例。 要使用worker-loader将Web Worker加载到NextJS站点上,并允许在其worker上运行babel等webpack加载器,必须覆盖构建输出路径。 感谢。 // next.config....
Storm 的架构主要由四个组件组成:Nimbus、Supervisor、Worker 和 Zookeeper。 * Nimbus:负责接收用户提交的 topology,并将其分配给 Supervisor。 * Supervisor:负责管理多个 Worker,监控 Worker 的状态,并将...
- **异常捕获**:在Job的`handle`方法中抛出的异常会被记录并可能导致任务失败。 - **重试机制**:Laravel提供了自动重试失败任务的功能,可通过`--tries`选项设置重试次数。 - **失败队列**:失败的任务会被移到...
1. **Storm/workerbeats/<topology-id>/node-port**:存储 Worker 的运行状态和统计信息,包括 topology-id、Worker 上所有 Executor 的统计信息(例如发送和接收的消息数)、Worker 的启动时间和最后更新时间等。...
此外,Web Worker的使用应当谨慎,避免过度使用导致内存消耗增加。 总结来说,`GoogleChromeLabs-worker-plugin`是一个非常实用的Webpack插件,它让在Webpack项目中集成和管理Web Worker变得简单。通过正确配置和...
合理使用Web Worker,避免过度使用导致资源浪费。对于小规模的计算任务,直接在主线程中处理可能更高效。 综上所述,HTML5的Web Worker为Web开发者提供了一种解决性能瓶颈的有效手段,通过在后台线程执行任务,提高...
在Storm中,数据流被抽象为持续不断的Tuple(元组)序列,这些Tuple在网络中的worker节点间进行分布式处理,保证每个消息至少被处理一次(At-Least-Once Processing Guarantees)。这使得Storm非常适合于实时数据...
本文档是关于Storm源码的详细走读笔记,主要分析了Storm的启动场景、Topology提交过程、worker进程中的线程使用情况、消息传递机制以及 TridentTopology的创建和ack机制等多个方面。 首先,文档提到了Storm集群中的...
在传统的JavaScript执行环境中,所有的任务都在同一个线程上运行,如果一个任务耗时过长,就会阻塞整个页面,导致用户界面无响应,也就是我们常说的"页面卡死"。Web Worker的出现就是为了缓解这一问题,它允许开发者...
Storm的核心组件包括:Nimbus(主控节点)、Supervisor(工作节点)、Worker进程以及Spout和Bolt。Nimbus负责任务调度,Supervisor管理worker进程,而worker则执行实际的计算任务。Spout是数据源,负责生成数据流;...
1. **Storm架构**:Storm的核心组件包括nimbus(主控节点)、supervisor(工作节点)、worker进程、spout(数据源)和bolt(处理逻辑)。Nimbus负责任务调度,Supervisor管理worker进程,worker运行spout和bolt实例...