`
lt200819
  • 浏览: 188058 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

Infobright工作原理

 
阅读更多

前面已经简要分析了Infobright的构架,现在来介绍Infobright的工作原理。

  粗糙集(Rough Sets)是Infobright的核心技术之一。Infobright在执行查询的时候会根据知识网络(Knowledge Grid)把DP分成三类:

  相关的DP(Relevant Packs),满足查询条件限制的DP

  不相关的DP(Irrelevant Packs),不满足查询条件限制的DP

  可疑的DP(Suspect Packs),DP里面的数据部分满足查询条件的限制

 

  下面是一个案例:

  

  如图所示,每一列总共有5个DP,其中限制条件是A>6。所以A1、A2、A4就是不相关的DP,A3是相关的DP,A5是可疑的DP。那么执行查询的时候只需要计算B5中满足条件的记录的和然后加上Sum(B3),Sum(B3)是已知的。此时只需要解压缩B5这个DP。从上面的分析可以知道,Infobright能够很高效地执行一些查询,而且执行的时候where语句的区分度越高越好。where区分度高可以更精确地确认是否是相关DP或者是不相关DP亦或是可以DP,尽可能减少DP的数量、减少解压缩带来的性能损耗。在做条件判断的使用,一般会用到上一章所讲到的Histogram和CMAP,它们能够有效地提高查询性能。

  多表连接的的时候原理也是相似的。先是利用Pack-To-Pack产生join的那两列的DP之间的关系。

  比如:SELECT MAX(X.D) FROM T JOIN X ON T.B = X.C WHERE T.A > 6。Pack-To-Pack产生T.B和X.C的DP之间的关系矩阵M。假设T.B的第一个DP和X.C的第一个DP之间有元素交叉,那么M[1,1]=1,否则M[1,1]=0。这样就有效地减少了join操作时DP的数量。

  前面降到了解压缩,顺便提一提DP的压缩。每个DP中的64K个元素被当成是一个序列,其中所有的null的位置都会被单独存储,然后其余的non-null的数据会被压缩。数据的压缩跟数据的类型有关,infobright会根据数据的类型选择压缩算法。infobright会自适应地调节算法的参数以达到最优的压缩比。

转自 http://www.cnblogs.com/inmanhust/archive/2010/05/08/1730343.html

分享到:
评论

相关推荐

    Infobright原理

    Infobright的工作原理利用了粗糙集理论,将DP分为相关、不相关和可疑三类。在查询时,系统能快速识别并排除不相关的DP,只处理可能包含匹配数据的DP,大大减少了数据处理量,提高了查询速度。 Infobright的查询性能...

    infobright-社区版.zip

    Infobright是一款高效、高性能的开源数据仓库系统,专门设计用于大数据分析。社区版是Infobright提供的免费版本,让开发者和小型企业有机会体验其强大的分析能力。在本压缩包"infobright-社区版.zip"中,包含了...

    infobright

    infobright-4.0.7,32位系统,32位。

    infobright最新安装包.zip

    Infobright是一款开源的数据仓库系统,专为大数据分析设计,具有高效能、高并发和低存储成本的特点。本文将详细解析Infobright的核心技术、安装过程以及如何利用Infobright-4.0.7-0-x86_64-ice.rpm安装包进行部署。 ...

    mysql.rar_infobright

    MySQL是一种广泛使用的开源关系型...总之,“mysql.rar_infobright”是一个关于MySQL数据库到Infobright数据仓库迁移的资源包,通过这个压缩包,你可以学习到如何利用Infobright的优势来提升大数据分析的效率和性能。

    infobright4.0.7-win.zip

    Infobright是一款高效、轻量级的开源数据仓库解决方案,主要设计用于大数据分析。这款数据库管理系统以其出色的查询性能和极低的存储需求而受到关注。标题中的"infobright4.0.7-win.zip"表明这是一个针对Windows操作...

    infobright珍贵资料(官方)

    Infobright是一款高效的数据仓库解决方案,它以列式存储为主,特别适合大数据分析场景。这款数据库系统被设计用于处理大规模的结构化数据,提供快速的查询性能和低存储成本。结合MySQL,它能够为用户提供一个全面的...

    infobright for windows 64 数据仓库

    描述中的"infobright for windows 64 数据仓库 快速安装包"意味着这个压缩包包含了快速安装Infobright数据仓库所需的全部组件,用户可以便捷地在Windows 64位系统上搭建数据仓库环境,快速启动数据分析工作。...

    Ubuntu安装Infobright及主从同步

    **Ubuntu安装Infobright及主从同步** Infobright是一款开源的企业级数据仓库系统,以其高效的数据压缩和快速查询性能而受到关注。在Ubuntu操作系统上安装Infobright并配置主从同步是数据库管理员常见的任务,这有助...

    infobright-4.0.7-0-src-ice.tar.gz

    开发者可以通过这些源代码了解Infobright的内部工作原理,对其进行定制化开发,或者针对特定场景优化性能。 Infobright的源代码结构通常会包括以下几个关键部分: 1. **源代码文件(Source Code)**:包含了数据库...

    infobright包

    Infobright最近有部分工作涉及到了 Infobright 数据仓库,就浏览了一些相关的资料,感觉很受启发。下面写一些感想,如有谬误,还请指正。 简单的来讲,Infobright 主要有下面的一些优点: 1. TB 级的数据存储和...

    infobright-4.0.7-0-x86_64-ice.rpm

    Infobright是一款高效的数据仓库解决方案,专为大数据分析设计。这款产品以其优秀的性能、低存储成本和快速查询能力而闻名。在你提供的信息中,“infobright-4.0.7-0-x86_64-ice.rpm”是Infobright的一个特定版本,...

    infobright-4.0.7-0-x86_64-ice.zip

    infobright-4.0.7-0-x86_64-ice.rpm infobright社区版,本来就是开源的东西,还要资源分,没办法了,只能选最低2分, csdn禁止重复上传,于是采用了压缩包加密上传,zip解压,密码是2CcMBzP8,云盘分享:htt去ps://...

    infobright.7z

    Infobright是一款高性能、列式存储的开源数据库系统,主要用于大数据分析和数据仓库应用。它在处理大量结构化数据时表现出色,尤其在读取密集型任务中,因其优化的查询性能而备受赞誉。Infobright的核心优势在于其...

    infobright-rpm.zip

    Infobright是一款高效、开源的数据仓库系统,专为大规模数据集的分析而设计。RPM(Red Hat Package Manager)是Linux系统中广泛使用的软件包管理器,用于安装、升级、查询和卸载软件。在本例中,“infobright-rpm....

    安装infobright

    Infobright是一款高效的数据仓库系统,它以列式存储的方式设计,特别适合处理大量数据分析任务。列式存储的优势在于,对于查询操作,尤其是涉及多列的聚合查询,它能显著提高查询速度,因为只需读取所需列的数据,而...

    infobright for windows 32 数据仓库

    Infobright是一款高效的数据仓库解决方案,特别针对大数据分析和处理进行了优化。在Windows 32位平台上,Infobright提供了一种快速安装的途径,使得企业在处理海量数据时能够享受到其强大的性能。在这个"infobright ...

    infobright-4.0.6-0-x86_64-ice

    infobright ,一个基于mysql的数据仓库系统实现,它已经是很多开源或商用BI系统的底层存储引擎。

Global site tag (gtag.js) - Google Analytics