`

关于大数据量查询报表优化

阅读更多
针对数据量巨大的报表查询,总结了一下几个处理方法:
看一个运用案例:多粒度(年月日,省、地市、热点、ac、ap)下每天20W条,每月800W条,自由选择35天内数据的查询。
直接查询页面崩溃,运用了以下几点,基本上能保证在1-2分钟(100秒左右)内页面相应加载。

一:表分区
当某张表每天都有上十万,百万的数据量时,考虑每天创建一个分区来存储每天的数据。

二:粒度汇聚
报表查询中遇到多粒度分组查询的,事先将粒度数据单独汇聚成表,按粒度查询。

三:索引创建
给关键使用的几个字段创建索引,注意不能使用like对索引字段操作,索引字段也不能使用运算符,否则创建的索引不生效。

四:分页加载
由于查找的数据量大,一定要用分页加载的方式给页面返回数据。需要注意的是分页的返回条数也不要设置的太小,不然数据页数处理增加也会影响sql速度。比如每页30条数据,在数据量为20W的情况下,比每页15条就快不少。另外注意的是,分页其实分两部分,一部分是count(*),另一部分就是查找返回30条。

五:并行度(/*+ parallel */ )
当数据量过大时还可以考虑打开数据库的并行度,这样用资源空间换取时间。

创建oracle多线程:

select /*+ parallel(t ,64) */ nick,id from seller t

其中64 代表线程数,这个数最好与linux版本位数一致。

六:加大neginx相应时间
通过以上5个步骤如果页面相应时间还是比较长的话,页面还是会崩溃掉,没办法只好设置neginx的响应时长了。
分享到:
评论

相关推荐

    java动态大数据量EXCEL下载

    Java 动态大数据量EXCEL下载是一个常见的需求,在企业级应用中尤为常见,尤其是在数据分析、报表生成和数据导出场景下。以下是对这个主题的详细解释: 首先,我们需要理解Java如何处理大数据量的EXCEL文件。传统的...

    大数据量报表展现系统建设方案.doc

    为此,大数据量报表展现系统应运而生,它为企业提供了一个集数据集散、报表处理和决策辅助于一体的中心平台。这样的系统不仅能整合分散在不同业务系统中的数据,还能为各级用户提供高效的数据提取和查询服务,从而...

    C# 大数据量快速导出到 Excel方法

    在C#编程中,将大数据量导出到Excel是一个常见的需求,特别是在数据分析、报表生成或者数据交换场景下。Microsoft.Office.Interop.Excel库是.NET Framework提供的一个用于与Microsoft Excel交互的COM接口,它允许...

    大数据量报表展现系统建设实施计划方案.docx

    总结,大数据量报表展现系统建设实施计划方案是一项涉及数据整合、查询优化、决策支持等多方面技术的复杂工程。通过精心设计和实施,系统将为企业提供强大的信息处理能力,提升决策效率,促进业务发展。

    大数据量报表展现系统建设方案.docx

    大数据量报表展现系统旨在构建一个高效的数据集散中心、报表处理中心和决策辅助支持中心,将分布在不同业务系统中的海量数据整合起来,以提供全面的数据提取、查询和分析服务。这个系统的核心目标是通过建立企业级...

    \jasperreports 对大数据量报表的支持.txt

    JasperReports的报告虚拟化技术,通过将大数据量报表的处理过程优化,有效地解决了内存消耗过高的问题,使得JasperReports能够更加稳健地应对大数据量报表的生成需求。对于那些需要处理海量数据的企业级应用而言,这...

    大数据量报表展现系统建设技术方案.doc

    大数据量报表展现系统建设技术方案 大数据量报表展现系统建设技术方案是为了建立一个集成的数据管理平台, nhằm满足企业的报表展现需求。该系统的目标是将信息中心建设成为数据集散中心、报表处理中心和决策辅助...

    Java_批量导出大数据量Excel方法.zip

    在Java开发中,批量导出大数据量到Excel是一项常见的任务,尤其在数据分析、报表生成或者数据交换场景下。为了高效地处理这种情况,开发者通常需要掌握一些特定的技术和策略。本资料"Java_批量导出大数据量Excel方法...

    (完整word)大数据量报表展现系统建设方案.doc

    【大数据量报表展现系统建设方案】的文档详细阐述了如何构建一个高效的数据处理和报表展现系统,以应对海量数据的挑战。以下是对该方案主要内容的详细解析: 1. **目标与需求**: - 系统旨在成为数据的集散中心、...

    大数据量报表展现系统建设方案设计.pdf

    大数据量报表展现系统建设方案设计正是为了解决这一问题应运而生,旨在通过构建企业级中央数据仓库,整合分散在各个业务系统中的数据,实现数据的高效提取、查询服务以及综合查询与分析,支持企业管理层的决策过程。...

    大数据量报表展现系统建设方案概要.doc

    《大数据量报表展现系统建设方案概要》 一、系统目标与需求 本系统旨在构建一个高效的数据集散中心、报表处理中心和决策辅助支持中心,以整合来自各个业务处理系统中的大量数据,提供数据提取和查询服务。系统开发...

    利用itext操作pdf从数据库导出大量数据--汇总(一)

    这篇博客"利用iText操作PDF从数据库导出大量数据--汇总(一)"显然讨论了如何利用iText将数据库中的数据高效地导出到PDF文件中,这对于报告生成、数据分析或者报表制作等场景非常有用。 首先,我们需要了解iText的...

    大数据量报表展现系统建设实施计划方案.pdf

    大数据量报表展现系统建设实施计划方案旨在构建一个高效、灵活的信息中心,以整合和管理海量数据,为各级机构提供决策支持。系统的主要目标是: 1. 建立数据集散中心,集中处理来自各个业务系统的数据,提供数据...

    大数据量高性能前端表格grid 动态加载数据

    在现代Web应用中,处理大数据量的前端表格是常见的需求,尤其在数据分析、报表展示等领域。"大数据量高性能前端表格grid 动态加载数据"这一技术主题,旨在优化用户体验,解决因一次性加载大量数据导致的页面卡顿问题...

    ABAP报表性能优化注意事项

    - 对于大数据量的处理,考虑分批处理(BATCH INPUT或MODIF ID)以减轻系统压力。 - 使用ABAP的性能分析工具(如ST05)来识别和优化性能瓶颈。 总的来说,优化ABAP报表性能需要综合考虑数据处理逻辑、查询设计、...

    大数据量报表展现系统建设实施计划方案.doc

    大数据量报表展现系统建设实施计划方案旨在构建一个高效的数据处理和决策支持系统,以满足不同层级的用户对信息的需求。该系统将集中处理大量分散在各个业务系统中的数据,通过建立逻辑数据模型和数据集市,形成企业...

    itext导出大数据量pdf

    在处理大数据量时,主要考虑的挑战包括内存管理、性能优化以及如何有效地布局和展示数据。iText提供了一些高级功能,如流式布局、表格和列表的创建、动态内容插入等,这些可以帮助我们高效地处理大规模数据。 1. **...

    报表性能优化方案之数据集缓存与共享

    报表性能优化方案之数据集缓存与共享主要解决大数据量报表查询时对数据库服务器的压力问题,以及降低因数据库查询延迟而影响的报表展现速度。通过缓存查询结果,可以避免每次报表运行时重新连接数据库查询相同的数据...

    Oracle查询优化技术在电信业务报表系统中的应用

    本文将重点探讨Oracle查询优化技术在电信业务报表系统中的应用,旨在改善前台实时查询的响应速度和后台大数据量分类统计的速度。 #### 报表系统的查询优化策略 ##### 前台实时查询优化 **充分使用索引** 索引是...

Global site tag (gtag.js) - Google Analytics