`
jiezhu2007
  • 浏览: 245948 次
  • 性别: Icon_minigender_1
  • 来自: 深圳
博客专栏
Cfa1f850-3fc3-3a36-9cd8-c3415c9610c6
hadoop技术学习
浏览量:144435
Group-logo
大数据产业分析
浏览量:2985
社区版块
存档分类
最新评论

IQ数据库简单分析总结

阅读更多
Sybase IQ是一款专门针对OLAP应用的数据仓库,不适合OLTP。

1. IQ数据库特点:列式存储 和默认的FP压缩。
列式存储读取多个列中读取部分列时,可以明显减少IO,加快读取速度。同时由于列式的原因,只适合批量写和查询,不适合数据更改。所以只适合OLAP应用,不适合OLTP应用。
默认的FP压缩,一般压缩比为4~5倍。

2、CPU bound类型数据库。
正是由于IQ的默认将所有数据FP索引化,需要消耗大量的CPU时间,所以相比其他的一般数据仓库,如GP/ORACLE(EXDATA),IQ数据库是一款CPU bound类型数据库,所以在选型硬件时,CPU尽量选择多核,高频率的CPU。对IQ性能会有明显改善。

3、share everything架构。
IQ数据库和ORACLE RAC一样,为share everything架构,所以的数据都需要使用磁阵作为共同的存储,各个数据库之间主要也是通过存储来交换数据。
Share everything架构,带来的对应的是扩展问题。当数据量大到一定的程度,需要应用层手动拆分业务部署在各个机器上。

4、DQP功能:
DQP是IQ针对查询扩展做的一个优化, SQL会通过查询解析器分解成多个步骤,一台机器的性能不够时,分散到多个机器进行负荷分担。
各个节点之间数据交换通过两种方式,一种是共同的存储(share tmp store),一种是网络(IQ 16以后版本才支持)

5、IQ数据库结构如图所示:
数据库文件分以下几种:
Catalog store (for metadata)
IQ store (for data)
IQ temporary store (for temporary data)
Server files
IQ message log
Catalog store transaction log
IQ server logs

其中catalog store只能放在文件系统上,物理名称是dbname.db,逻辑名称是SYSTEM。
IQ Store存放的是以压缩的索引方式存储在磁盘上的数据,包括表的事物日志,第一个表空间的逻辑名是IQ_SYSTEM_MAIN。
IQ Temporary Store,装载时对数据进行排序以建立某些索引,查询时使用临时工作区排序或者分组。

6、IQ PAGE SIZE:
条带根据数据量大小来设置,是创建数据库时设置。128K是IQ数据库的默认值,32位平台64K性能更好,数据库最大表包含多余40亿或者可能增长到8T以上,设置为256KB。
登陆数据库执行sp_iqfile可以查询到PAGE大小。

7.IQ索引:
数据仓库数据量大,创建索引带来的开销巨大,所以一般数据仓库并不推荐创建索引。
IQ数据库由于自身特点,可以创建少量索引来明显提高查询效率。索引会加快查询,但是会明显降低加载的效率。因此数据库索引个数不能多,一般单表最多1~2个索引。
IQ一共有9种索引,如HG.LF,FP等等,索引具体用法本文不介绍。

8.IQ调优思路:
(1)索引。索引可以提升查询速度,但是过多的索引会降低加载速度。
(2)准确的数据描述。合适的数据类似和描述来定义数据,会获得更好的性能。
(3)IQ使用的是表锁,所以单表加载只能依赖单HOST的能力。如果通过并行来加载提高速度,
考虑通过分表,查询时使用UNION ALL来查询。UNION ALL的使用需要满足一些条件,如不能有distinct语句,否则性能会急剧下降。
(4)配置合理的iqmc(main cache)和iqtc(tmp cache)。一般比例为4:6。根据不同的应用做适当的调整。



  • 大小: 71.8 KB
分享到:
评论

相关推荐

    LINUX系统安装SybaseIQ数据库所用到的库文件合集

    在LINUX操作系统中安装SybaseIQ数据库(服务器或客户端),总是会报这样那样的错误,其原因大都是因为缺少某些库文件(文件后缀为.so, 类似于Windows系统中的.dll文件)。本帖分享的“LINUX系统安装SybaseIQ数据库所...

    DSP28335IQ数据库说明.zip

    IQ数据库是针对这类处理器进行数据分析和处理的重要工具,它允许工程师对信号进行快速、高效地采样、存储和分析,以优化系统性能。 **1. DSP28335概述** DSP28335芯片具备强大的处理能力,拥有浮点运算单元(FPU)...

    sybaseiq数据库迁移实例.pdf

    5. 数据库迁移总结 Sybase IQ 数据库迁移实例是一个复杂的过程,需要对数据库的结构、数据、触发器、存储过程等进行导出和导入。需要对环境和软件版本进行检查,对表结构和视图进行导出,并对数据进行导出和导入。...

    SybaseIQ数据库v16.0版本指南文档合集(简体中文版)

    SybaseIQ数据库v16.0版本指南文档合集,全部是简体中文版的,包含多大34份文档内容十分全面,其中有原Sybase公司发布的《TransactSQL用户指南》,非常适合数据库初学者使用,而网上目前能找到的指南文档大都是英文版...

    SybaseIQ数据库64位Windows系统服务器v16.0安装包

    总的来说,Sybase IQ数据库64位Windows系统服务器v16.0是针对大数据场景的一款强大工具,无论是在硬件兼容性、性能优化还是功能丰富度上,都为用户提供了优秀的数据管理和分析体验。正确安装和使用这款软件,将极大...

    SybaseIQ数据库-64位LINUX系统服务器v16.0安装包

    SybaseIQ数据库64位LINUX系统服务器v16.0安装包,可选择Express Edition模式安装(在该模式下无试用时长30天限制、无使用功能限制、数据库最大容量5GB),只能安装在64位的LINUX操作系统(IA-AMD架构)上。...

    SybaseIQ数据库备份与恢复操作

    Sybase IQ是一款高效、高性能的数据仓库系统,主要用于数据分析和数据挖掘。本篇主要介绍如何在Linux环境下对Sybase IQ数据库进行备份与恢复的操作。 首先,我们来详细讲解数据库的备份过程: 1. **启动数据库**:...

    Sybase IQ 17 数据库连接驱动(64、32)安装包

    SQLAnywhere是一个轻量级的数据库管理系统,适合移动设备和分布式环境,而Sybase IQ则专注于数据仓库和分析应用。这些标签强调了该驱动程序适用于这两个特定的Sybase数据库产品。 根据压缩包子文件的文件名称“SQLA...

    SybaseIQ数据库32/64位Windows系统通用客户端v15.2安装包

    SybaseIQ数据库32/64位Windows系统通用客户端v15.2安装包,可安装在32位的Windows操作系统上,官方网站目前仅有适用于64位平台的服务器安装包供下载,适用于32位平台的安装包已绝迹。。。本安装包在百度云盘的下载...

    Sybase iq数据库函数整理文档.pdf

    《Sybase IQ数据库函数详解》 Sybase IQ是一款高性能的数据仓库系统,专为复杂查询和数据分析设计。本文将深入探讨其数据库创建、数据类型、日期时间格式以及一系列关键函数的使用,帮助用户更好地理解和操作Sybase...

    sybase iq 16 数据库连接驱动

    支持sybase iq 16 数据库连接驱动 jconn2.jar 在jdk1.5下是好用的 jconn3.jar 未测试 jconn4.jar 在jdk1.6下是好用的 连接串: jdbc:sybase:Tds:127.0.0.1:2638/iqdemo

    数据库 IQ资料.7z

    数据库 IQ 资料.7z 这个压缩包文件主要涵盖了关于数据库领域的知识,特别是可能包含了一些关于数据库设计、管理、优化以及查询语言等方面的内容。数据库是信息时代的核心组成部分,用于存储、管理和检索数据,它是...

    Sybase IQ 16.0中文版本 管理:数据库

    SAP Sybase IQ 是一款高性能的列式数据库管理系统,适用于数据分析和报告处理等场景。Sybase IQ 16.0 版本进一步提升了性能和易用性。每个 SAP Sybase IQ 数据库都在一个服务器上运行,而根据平台的不同以及所使用的...

    Sybase-iq数据库函数整理文档.docx

    Sybase IQ是一款高性能、面向数据分析的数据库管理系统,广泛应用于互联网行业的大数据处理。本文将对Sybase IQ中的数据库创建、数据类型以及关键函数进行详细解析。 首先,我们来看数据库的创建过程。创建数据库的...

    Sybase iq数据库函数整理文档.docx

    Sybase IQ 是一种高性能的数据仓库数据库管理系统,特别适合于复杂查询和大数据分析。本文档主要整理了Sybase IQ的一些关键知识点,包括数据库创建、数据类型、日期和时间格式,以及特定的函数用法。 首先,创建...

    Sybase-iq数据库函数整理文档.pdf

    在Sybase IQ数据库中,数据类型和函数是构建和操作数据库的关键元素。下面是对这些概念的详细阐述: 一、数据类型 1.1 日期及时间数据类型 - DATE:表示日历日期,范围从0001年到9999年,占用4个字节。 - ...

Global site tag (gtag.js) - Google Analytics