`

数据库表分割技术

 
阅读更多

数据库表分割技术包含以下内容:

  • 水平分割
  • 垂直分割
  • 库表散列

1.1、水平分割

  什么是水平分割?打个比较形象的比喻,在食堂吃饭的时候,只有一个窗口,排队打饭的队伍太长了,都排成S型了,这时容易让排队的人产生焦虑情绪,容易产生混 乱,这时一个管理者站出来,增加多个打饭窗口,把那条长长的队伍拦腰截断成几队。更形象一点的理解,你拿一把“手术刀”,把一个大表猛的切了几刀,结果这个大表,变成了几个小表。

  水平分割根据某些条件将数据放到两个或多个独立的表中。即按记录进分分割,不同的记录可以分开保存,每个子表的列数相同。水平切割将表分为多个表。每个表包含的列数相同,但是数据行更少。例如,可以将一个包含十亿行的表水平分区成 12 个表,每个小表表示特定年份内一个月的数据。任何需要特定月份数据的查询只需引用相应月份的表。

  通常用来水平分割表的条件有:日期时间维度、地区维度等,当然还有更多的业务维度。

  下面我举几个例子来解说一下 

  • 案例1:某个公司销售记录数据量太大了,我们可以对它按月进行水平分割,每个月的销售记录单独成一张表。 
  • 案例2:某个集团在各个地区都有分公司,该集团的订单数据表太大了,我们可以按分公司所在的地区进行水平切割。 
  • 案例3:某电信公司的话单按日期、地市水平切割后,发现数据量太大,然后他们又按品牌、号码段进行水平切割 

  水平分割通常在下面的情况下使用:
  (1)表数据量很大,分割后可以降低在查询时需要读的数据和索引的页数,同时也降低了索引的层数,加快了查询速度。 
  (2)表中的数据本来就有独立性,例如表中分别记录各个地区的数据或不同时期的数据,特别是有些数据常用,而另外一些数据不常用。 
  (3)需要把数据存放到多个介质上。 
  (4)需要把历史数据和当前的数据拆分开。

  水平分割优点: 
    1:降低在查询时需要读的数据和索引的页数,同时也降低了索引的层数,加快了查询速度。

  水平分割缺点: 
    1:水平分割会给应用增加复杂度,它通常在查询时需要多个表名,查询所有数据需要union操作。在许多数据库应用中,这种复杂性会超过它带来的优点,因为只要索引关键字不大,则在索引用于查询时,表中增加两到三倍数据量,查询时也就增加读一个索引层的磁盘次数。 

1.2、垂直分割

  什么是垂直分割呢?打个形象的比喻,一个小公司通过短短几年发展变成了一个跨国大企业,以前的部门架构明显不能满足现在的业务发展,CEO噼里啪啦的把公司分成了财务部、人事部、生产部、销售部门.....,一下子成立了多个部门,各司其职。这个还算比较形象吧,有木有?呵呵 
  垂直分割表(不破坏第三范式),把主键列和一些列放到一个表,然后把主键列和另外的一些列放到另一个表中。将原始表分成多个只包含较少列的表。如果一个表中某些列常用,而另外一些列不常用,则可以采用垂直分割

  垂直分割优点: 
  1:垂直分割可以使得行数据变小,一个数据块(Block)就能存放更多的数据,在查询时就会减少I/O次数(每次查询时读取的Block 就少)。 
  2:垂直分割表可以达到最大化利用Cache的目的。 
  垂直分割缺点: 
  1:表垂直分割后,主码(主键)出现冗余,需要管理冗余列 
  2:会引起表连接JOIN操作(增加CPU开销)需要从业务上规避

1.3、库表散列

  表散列与水平分割相似,但没有水平分割那样的明显分割界限,采用Hash算法把数据分散到各个分表中, 这样IO更加均衡。一般来说,我们会按照业务或者功能模块将数据库进行分离,不同的模块对应不同的数据库或者表,再按照一定的策略对某个页面或者功能进行更小的数据库散列,比如用户表,按照用户ID进行表散列,散列128张表,则应就能够低成本的提升系统的性能并且有很好的扩展性

分享到:
评论

相关推荐

    数据库表分割技术浅析(水平分割/垂直分割/库表散列)

    数据库表分割技术是应对大数据量和高并发场景的有效策略,主要分为水平分割、垂直分割和库表散列三种方式。 1. **水平分割** 水平分割是指按照记录的某一属性或条件,将一个大表的数据分散到多个表中,每个子表的...

    数据库中的水平分割和垂直分割

    在大型系统中,为了优化性能、管理和维护,经常会使用到两种数据分割技术:水平分割和垂直分割。这两种策略各有优势和适用场景,但也会带来相应的挑战。 **1. 水平分割** 水平分割,也称为分片(Sharding),是将...

    weizmann分割图像数据库

    3. **研究评估**:研究人员可以使用此数据库评估现有图像分割技术的局限性和改进空间。 4. **教育用途**:在计算机视觉课程中,这个数据库可以帮助学生理解图像分割的基本概念和挑战。 总的来说,Weizmann分割图像...

    表分区资料表分区资料

    根据给定的信息,我们可以推断出这是一篇与数据库中的“表分区”技术相关的文章。由于原文中的部分内容难以理解,我们将主要依据标题、描述和标签来进行详细的解释。 ### 表分区资料 #### 一、什么是表分区? 表...

    国科大数据库新技术复习提纲答案

    【数据库新技术复习提纲】 本复习提纲涵盖了数据库领域的核心概念和技术,主要针对关系数据库模型和关系运算。首先,我们来看看关系数据库相较于网状和层次数据库的优势: 1. 数据结构单一:关系数据库采用二维...

    分布式数据库数据复制技术.pdf

    文档的参考文献部分列出了多篇与分布式数据库数据复制技术相关的研究文献,包括利用垂直分割技术的分布式数据库设计、集群数据库系统日志复制和故障恢复等研究内容。 综上所述,分布式数据库数据复制技术涉及的内容...

    用于图像理解分割的数据库

    图像分割技术有多种,如阈值分割、区域生长、边缘检测、水平集方法、基于深度学习的像素级分类等。在这个数据库中,每张原始图片都配有手工分割的“groundtruth”图片,这对于训练和评估分割算法至关重要。 Sowerby...

    数据库表/视图的创建与维护实验

    ### 数据库表与视图的创建与维护:深入解析与实践 #### 实验核心知识点概览 本实验报告聚焦于数据库表与视图的创建与维护,尤其在Sybase数据库环境下进行深度探索。核心知识点包括: 1. **E-R图到逻辑模式的转换*...

    SQL数据库查询技术

    3. 分区表:对于大数据量的表,可以考虑使用分区技术,将数据分割到不同的物理存储区域,提高查询效率。 4. 适当缓存:利用数据库缓存机制,将常用查询结果暂存,减少磁盘I/O。 总之,掌握SQL数据库查询技术是每个...

    网络分割技术

    图像分割是图像处理的核心技术,旨在将图像划分成多个具有特定属性的区域,这些区域可以是根据颜色、纹理、亮度或其他特征定义的。常见的分割方法包括基于区域、基于边缘和结合两者的策略。基于区域的方法侧重于根据...

    数据库分库分表的技术演进与最佳实践.docx

    数据库分区技术可以将大型数据库分割成多个小的逻辑数据库,从而提高数据库的性能和可扩展性。但是,数据库分区技术也存在一些缺陷,例如,数据分布不均、查询性能下降等问题。因此,在实际应用中,数据库分库分表...

    面向大型数据处理系统的Oracle数据库性能优化技术.pdf

    【标题】:“面向大型数据处理系统的Oracle数据库性能优化技术” 【概述】: 本文主要探讨了在大型数据处理系统中,针对Oracle数据库的性能优化策略。作者通过实例分析,提出了一套关键的优化技术和方法,以解决...

    数据库的新技术数据库的新技术.ppt

    3. 并行数据库系统:在并行数据库系统中,数据处理任务被分割并在多个处理器或计算节点上同时执行,提高了处理速度和系统性能。这种系统适用于大数据量的实时分析场景。 4. 多媒体数据库:多媒体数据库专门设计用于...

    分布式数据库技术系列概览:分布式数据库核心技术发展趋势(2021)(29页).pdf

    分布式数据库的核心之一是数据分片,即将大数据库分割成多个较小的部分,或称“分片”,分布到不同的节点上。数据分片策略包括范围分片、哈希分片、复合分片等,每种方法都有其适用场景。例如,范围分片适合于数据...

    空间数据库索引技术的研究

    ### 空间数据库索引技术的深度剖析 #### 核心知识点提炼: - **空间数据库索引技术的重要性**:空间数据库索引技术是提升空间数据库存储效率与空间检索性能的关键,尤其在处理大规模空间数据时更为显著。传统索引...

    jsp分页技术及其对数据库两张表的增删查改和模糊查询

    jsp分页技术及其对数据库两张表的增删查改和模糊查询 jsp分页技术是指在Web应用程序中实现对数据库数据的分页展示的技术。分页技术的主要目的是为了提高数据的查询效率和用户体验。jsp分页技术可以与数据库的增删...

    SQL 数据库实现分页技术教程

    因此,采用分页技术对查询结果进行分割,按需加载数据成为了提高Web应用程序性能的有效手段之一。本文旨在通过详细介绍如何在SQL Server数据库中实现分页技术,并结合ASP.NET平台进行具体实践。 #### 二、数据分页...

Global site tag (gtag.js) - Google Analytics