`
x-rip
  • 浏览: 106934 次
  • 性别: Icon_minigender_1
  • 来自: 杭州
社区版块
存档分类
最新评论

Storm 与 Esper

 
阅读更多

将storm做更高层次的抽象就没有办法绕开数据的元数据。Storm本身只提供到fields级别的,而且发送单位只能是List<Object>,nathan在这方面虽有意向,但没有说明开发计划。

基于事件流分析的Esper有较为丰富的上层接口,其类SQL语言对数据开发人员也比较友好。在Github上也有人做过此类的尝试,https://github.com/tomdz/storm-esper ,可能由于作者只是一时兴起,并没有做完善的开发,在元数据方面也仅仅以Object类型代之,使得Esper中利用持久层数据库做过滤、查询等操作就形同鸡肋。

于是自己写了一个Storm的Esper接口,思想还是借鉴于tomdz的将Esper置于Bolt中,增加了元数据的支持并进行了更高层次的抽象。对于使用HBase的操作进行了二次事件发送,使得其暂时可以支持HBase作为持久层。

 

分享到:
评论
4 楼 di1984HIT 2014-11-21  
呵呵,挺复杂啊,能分享一下么
3 楼 x-rip 2014-01-14  
marsorp 写道
使得Esper中利用持久层数据库做过滤、查询等操作就形同鸡肋。

楼主是否可以解释一下。

谢谢!


SQL执行时需要利用表的Meta来做语义分析,Storm本身缺乏对Tuple中各个字段的类型定义,必须要自己从外部做一套。
2 楼 marsorp 2013-11-08  
使得Esper中利用持久层数据库做过滤、查询等操作就形同鸡肋。

楼主是否可以解释一下。

谢谢!
1 楼 colder_coder 2013-04-12  
博主介意共享一下你的代码吗?
triggerpuller916@gmail.com

相关推荐

    基于Storm+Esper架构实现的证券异常交易行为监控系统源码+项目说明(支持金证交易系统的指令拦截 、复制与解析).zip

    【资源说明】 1、该资源包括项目的全部源码,下载可以直接使用! 2、本项目适合作为计算机、数学...基于Storm+Esper架构实现的证券异常交易行为监控系统源码+项目说明(支持金证交易系统的指令拦截 、复制与解析).zip

    基于Storm+Esper架构实现的证券异常交易行为监控系统完整源码+说明(支持金证交易系统的指令拦截 、复制与解析).zip

    2、适用人群:主要针对计算机相关专业(如计科、信息安全、数据科学与大数据技术、人工智能、通信、物联网、数学、电子信息等)的同学或企业员工下载使用,具有较高的学习借鉴价值。 3、不仅适合小白学习实战练习,也...

    storm-esper:Storm-Esper集成实验

    storm-esper库提供了一个,使您可以在Storm数据流上使用Esper查询。 螺栓是通过构建器创建的: EsperBolt esperBolt = new EsperBolt.Builder() .inputs() .aliasComponent("some-spout") .withFields("a", "b...

    storm-esper-example

    Storm-esper-example 一个简单的演示来说明 Storm 和 Esper 的集成。 如何跑步 10 秒日志喷口 此 spout 将连续循环输出 10 秒日志。 此 spout 的输出不准确。 这个模拟的主要类是 ...

    CEP:cep相关学习信息

    CEP学习Esper学习WSO2 CEP学习DroolsPulsar市面上CEP产品大全CEP比较WSO2 CEP与Esper对比信息CEP Tooling Market Survey 2014(CEP工具情况)Stream与CEP结合Spark Streaming与Siddhi结合处理流式数据Storm与Esper结合...

    漫谈大数据第四期-storm

    Storm可以方便地在一个计算机集群中编写与扩展复杂的实时计算,Storm之于实时处理,就好比Hadoop之于批处理。Storm保证每个消息都会得到处理,而且它很快——在一个小集群中,每秒可以处理数以百万计的消息。更棒的...

    SD_Storm_CEP:使用Storm和Espertech进行分布式实时数据分析,以识别交通侵权后可能发生的车辆事故

    使用Storm和Espertech进行分布式实时数据分析,以识别交通侵权后可能发生的车辆事故该项目的主要目标是确定过境侵权后可能引起的事故。 通过跨越有关累西腓市的侵权和事故的流数据,可以实现Thi。 在某个位置发生...

    StormEPL-jar.zip )

    标题 "StormEPL-jar.zip" 提供的信息表明这是一个与实时计算框架 Apache Storm 相关的软件包,其中包含了 EPL(Event Processing Language)的集成组件。EPL 是一种事件处理语言,通常用于复杂事件处理(CEP)系统中...

    智能实时选股系统Leek.zip

    Leek — 韭菜的自我救赎  ...相关部署ZooKeeper 高可用集群的安装及配置Kafka 集群的部署与测试JStorm2.1.1集群的安装和使用Flume 集群负载均衡(待完善)架构图:Storm计算节点:Esper计算模型: 标签:Leek

    基于流计算大数据技术的通用实时信令数据处理平台解决方案.pdf

    本解决方案提出的是一种基于Flume-ng、Kafka、Storm、Esper、ZooKeeper和Redis等技术的通用实时信令数据处理平台。这些技术都是大数据处理领域中的重要组成部分,它们分别扮演着不同的角色。 Flume-ng是一个分布式...

    实时计算-流数据处理系统简介与简单分析.docx

    同时,淘宝还利用Storm进行实时日志处理,如实时统计、风控和推荐,与metaQ、timetunnel和HBase等组件相结合,处理TB级别的实时消息。 总的来说,实时计算涉及到多个技术层面,包括数据采集、处理和存储,而选择...

    cep-football-demo:此 repo 包含所需的文件,例如配置,用于使用下载的新 CEP 包设置足球演示

    4. 分析并理解源代码,查看如何集成CEP引擎(如Apache Storm或Esper)处理足球相关的实时数据。 5. 调试和测试代码,确保CEP逻辑按预期工作。 通过这个项目,学习者可以深入理解如何使用JavaScript进行复杂事件处理...

    PSP:服务和流程编程 (DAM2 @ CEP)

    在Java中,例如Apache Flink、Apache Storm或Esper等库提供了CEP的能力。CEP的核心是事件处理器,它们接收事件,分析时间序列数据,检测预定义的模式,然后触发相应的操作。 4. **DAM2**:这个缩写没有提供具体的上...

    SmartCar:大数据物联网Hadoop CentOS

    安装,配置和开发Flume,Storm,Kafka,Esper,HDFS,Hbase,Redis,Zookeeper,Oozie,Sqoop,Impala,Zepplin,Mahout,Cloudera。 1.大数据概念 * 대규모, 고속의 다양한 데이터를 분석하여 Insight와 Value를 ...

    携程机票数据仓库建设之路.docx

    此外,实时数据处理技术也经历了从Esper、Storm到Spark Streaming和Flink的迭代,最终逐渐收敛至Flink作为主流实时数据处理框架。 ##### 2.2 当前技术栈 目前携程机票的数据仓库主要基于以下几种类型的数据: 1. ...

Global site tag (gtag.js) - Google Analytics