0 0

web处理“大数据”量能够采用什么方案?10

场景:
   一个彩票过滤网站, 用户使用文件上传自己的投注方案,最大控制在50w条[需要保留原始投注单],需要和网站系统的过滤集进行对比。

1.在过滤集内的,保存到投注单列表(TZD)
2.不在过滤集内的,保存到过滤单列表(GLD)
3.如果用户的原始单,有多条相同投注号,只能过滤掉一条,其它的全部保存到投注单(YSD)


需要注意的是:当用户上传自己的投注方案后,网站需要按照以上规则算出对应的数量,以及用户对应的需要支付的金额,当用户选择支付以后,才允许用户下载过滤后的投注单列表。

现在的问题是:
   所有的过滤操作都使用sql在oracle里操作,这样用户量大的时候问题会很大,而且很多用户过滤后计算出金额并不支付,而这也占用了数据库的资源。
过滤的sql现在的性能也有比较大的问题,执行25万条原始单数据时就卡住了:

<statement id="BETSAVE_trade_saveprepare" parameterClass="hashMap">
begin  update zc_ysd$qsbh$ a
     set blbz = '1'
   where fxdid = #fxdid#
     and  exists (select 1  from zc_bqglz$qsbh$ b  where b.ysz = a.tzh);
 update  zc_ysd$qsbh$  a set  blbz = '1' 
     where fxdid = #fxdid# and blbz='0' 
     and  exists (select 1
                     from (select ROWID as RID,
                                  row_number() over(partition by  tzh order by rowid) as rn
                             from zc_ysd$qsbh$
                            where  fxdid = #fxdid# and blbz='0') b
                    where b.rn > 1 and b.RID = a.rowid);
  insert into zc_tzd$qsbh$
    (ysdid, gh, tzh, rq, fxdid)
    select ysdid, gh, tzh, rq, fxdid
      from zc_ysd$qsbh$
     where fxdid = #fxdid# and blbz = '1';
  insert into zc_gld$qsbh$
    (ysdid, gh, tzh, rq, fxdid)
    select ysdid, gh, tzh, rq, fxdid
      from zc_ysd$qsbh$
     where fxdid = #fxdid# and blbz = '0';
     
 update zc_tzglrz set jzsj=sysdate where  qsbh='$qsbh$' and fxdid=#fxdid# and jzsj is null; end;
 </statement>
2013年3月03日 18:12

2个答案 按时间排序 按投票排序

0 0

采纳的答案

可以参考spring batch

2013年3月04日 08:24
0 0

引用
很多用户过滤后计算出金额并不支付

这样的理由不够异步处理的吗?

后台起个单独批处理线程慢慢去跑,时不时报告下进度。

或者分优先级,比如

- 付费会员优先处理。
- 支付金额的优先处理。

能降低些压力就降低些。
(变成搞业务了,我跑题。)

2013年3月04日 19:18

相关推荐

    大数据应用解决方案

    ### 大数据应用解决方案 #### 一、大数据概述 ##### 1.1 概述 随着信息技术的迅猛发展,人类社会进入了数据爆炸的时代。...通过合理利用大数据技术和解决方案,各行业都能够从中受益,实现业务增长和服务优化。

    大数据实时处理系统技术方案.docx

    在构建大数据实时处理系统时,通常会涉及到多个关键技术组件的集成。本技术方案重点讨论了使用Flume、Kafka、Storm和Redis构建实时处理系统的方法。以下是对这些组件及其整合的详细说明: **Flume**: Flume是Apache...

    社保大数据综合分析平台建设方案.ppt

    【社保大数据综合分析平台建设方案】的目的是解决社保领域中数据量剧增所带来的挑战,构建一个高效、灵活、可扩展的大数据分析平台。该方案聚焦于以下几个核心知识点: 1. **大数据存储与处理**:面对日益增长的...

    社保大数据综合分析平台建设方案.pptx

    【社保大数据综合分析平台建设方案】的目的是构建一个高效、智能的社保数据分析系统,以应对日益增长的社保数据量和复杂的数据管理需求。方案聚焦于解决数据存储、处理、分析和安全等方面的问题,旨在提高数据利用率...

    大数据简介

    为了有效处理大数据,需要依赖一系列的技术,包括但不限于: - **大规模并行处理(MPP)数据库**:能够支持大量数据的快速处理。 - **分布式文件系统**:如Hadoop的HDFS,用于存储大量数据。 - **分布式数据库**:...

    大数据平台技术方案.docx

    大数据平台技术方案旨在应对当前数字化时代产生的海量数据挑战,它是一个综合性的系统,旨在高效地存储、处理和分析这些数据,以提取出有价值的洞察。大数据技术的基石在于其能力,能够在处理复杂、多样、高速增长的...

    100套大数据可视化炫酷大屏Html5模板-简单编辑就可以作为自己公司、企业的大数据展示平台。

    这些模板可能采用了JavaScript库,如D3.js、ECharts、Highcharts等,它们提供了强大的数据可视化功能,能够处理复杂的数据结构并生成动态效果。此外,CSS3也可能被用于美化界面,提供流畅的动画效果和视觉吸引力。 ...

    大数据平台解决方案.doc

    1. 高负载和海量数据处理能力:大数据平台能够承载千万级别的页面浏览量(PV),服务于亿级用户,存储如日志、图片、文档、影音等E8级别的数据。它能够处理持续增长的TB级数据,并能满足实时业务的需求。 2. 实时性...

    金融行业的大数据应用案例及解决方案 (2).pdf

    大数据的应用使得金融机构能够快速处理大量交易数据,进行实时的风险评估,预测市场波动,优化投资策略。此外,大数据还被用于反欺诈分析,通过模式识别来检测潜在的非法交易行为。 4. 用户案例:FactSet是一家为...

    智慧IT大数据平台解决方案.pptx

    综上所述,智慧IT大数据平台解决方案通过集成先进的大数据处理技术,实现了对日志数据的高效管理,提升了IT运维的智能化水平,为企业在智慧城市背景下构建了一个强大的数据分析和决策支持体系。

    微软大数据解决方案交流44.pptx

    2. **实时分布式高吞吐高并发数据存取处理**:针对大数据的实时性需求,微软可能采用了NoSQL数据库技术,允许快速读写和高并发操作,适应不断变化的数据需求。 3. **大数据流计算模型**:对于需要实时响应的场景,...

    大数据云服务解决方案与产品应用场景高峰论坛 高清完整中文版PDF下载

    - **WEB数据自动抽取解决方案**:针对互联网数据的自动抓取和处理,帮助企业快速获取有价值的信息。 - **高频交易数据分析解决方案**:针对金融行业高频交易场景,提供低延迟、高并发的数据处理能力。 - **Hadoop...

    IT大数据平台解决方案.pptx

    IT大数据平台解决方案旨在为企业提供一个高效、全面的数据管理和分析工具,以应对日益增长的数据量和复杂的数据结构。这个解决方案的核心是大数据平台,它包括数据采集、存储、处理、分析和可视化等多个关键环节。 ...

    苏宁大数据平台运维方案.pptx

    苏宁大数据平台运维方案主要关注如何通过技术创新来提升大数据平台的稳定性、高效性、安全性以及性能,同时强调自动化、故障预测和智能流程等关键要素。在苏宁的大数据生态系统中,涉及了多个层次和组件,包括计算层...

    大数据下的Web数据集成与挖掘探讨.pdf

    本文旨在探讨大数据背景下Web数据集成与挖掘的关键问题及其解决方案。 #### 二、Web数据集成与挖掘的关键技术 ##### 2.1 数据抽取与集成 由于Web数据的多样性和复杂性,数据抽取与集成面临着诸多挑战。首先,需要...

    大数据量报表展现系统建设方案详细.pdf

    大数据量报表展现系统建设方案是针对互联网环境下,企业面临海量数据处理挑战的一种解决方案。系统的主要目标是构建一个数据集散中心、报表处理中心和决策辅助支持中心,将分散的业务数据整合,提供高效的数据提取、...

    大数据平台解决方案.docx

    该解决方案以云存储为基础,利用云计算的强大处理能力,构建了一个能够支撑亿级用户和E8级数据存储的大数据平台。该平台不仅能处理每日TB级别的数据增量,还能够满足实时业务需求,实现秒级的实时性突破。 在实时性...

    智慧社保大数据解决方案.pdf

    智慧社保大数据解决方案旨在应对社会保险行业中日益增长的数据量和复杂性,通过采用先进的技术和架构来优化数据管理和分析。传统的社保系统面临着存储、查询性能、维护成本和数据管理的挑战,而大数据解决方案则为...

    基于Web系统的大数据搜索技术的实现和优化.zip

    总的来说,基于Web系统的大数据搜索技术是通过综合运用分布式计算、自然语言处理、数据挖掘等多学科技术,实现对海量数据的快速、精准搜索。随着技术的不断发展,我们可以期待更加智能、高效的搜索体验。

Global site tag (gtag.js) - Google Analytics