`

ORACEL IOT(转载)

 
阅读更多

 

转载(http://blog.sina.com.cn/s/blog_4b12778b0101cgl9.html)

对关系型数据库产品(RDBMS)而言,一个重要特性就是:数据信息都被组织为二维数据表,信息的表达可以通过一系列的关联(Join)来完成。具体数据库产品在实现这个标准的时候,又有千差万别的特点。就是一个特定的数据库RDBMS产品,往往也提供不同的实现方法。

 

1、从堆表(Heap Table)到索引组织表(Index Organization Table)

 

Oracle作为一款成熟的数据库软件产品,就提供了多种数据表存储结构。我们最常见的就是三种,分别为堆表(Heap Table)、索引组织表(Index Organization Table,简称为IOT)和聚簇表(Cluster Table)。

 

Heap Table是我们在Oracle中最常使用的数据表,也是Oracle的默认数据表存储结构。在Heap Table中,数据行是按照“随机存取”的方式进行管理。 从段头块之后,一直到高水位线一下的空间,Oracle都是按照随机的方式进行“粗放式”管理。当一条数据需要插入到数据表中时,默认情况 下,Oracle会在高水位线以下寻找有没有空闲的地方,能够容纳这个新数据行。如果可以找到这样的地方,Oracle就将这行数据放在空位上。注意,这 个空位选择完全依“能放下”的原则,这个空位可能是被删除数据行的覆盖位。

 

如果Heap Table段的HWM下没有找到合适的位置,Oracle堆表才去向上推高水位线。在数据行存储上,Heap Table的数据行是完全没有次序之分的。我们称之为“随机存取”特征。

 

对Heap Table,索引独立段的添加一般可以有效的缓解由于随机存取带来的检索压力。Index叶子节点上记录的数据行键值和Rowid取值,可以让Server Process直接定位到数据行的块位置。

 

聚簇(Cluster Table)是一种合并段存储的情况。Oracle认为,如果一些数据表更新频率不高,但是经常和另外一个数据表进行连接查询(Join)显示,就可以将其组织在一个存储结构中,这样可以最大限度的提升性能效率。对聚簇表而言,多个数据表按照连接键的顺序保存在一起。

 

通常系统环境下,我们使用Cluster Table的情况不太多。Oracle中的数据字典大量的使用聚簇。相比是各种关联的基表之间固定连接检索的场景较多,从而确定的方案。

 

最后就是本系列的IOT(Index Organization Table)。同Cluster Table一样,IOT是在Oracle数据表策略的一种“非主流”,应用的场景比较窄。但是一些情况下使用它,往往可以起到非常好的效果。

 

简单的说,IOT区别于堆表的最大特点,就在于数据行的组织并不是随机的,而是依据数据表主键,按照索引树进行保存。从段segment结构上看,IOT索引段就包括了所有数据行列,不存在单独的数据表段。

 

IOT在保存结构上有一些特殊之处,应用在一些特殊的场景之下。本系列将逐个分析IOT的一些特征,最后讨论我们究竟在什么样的场景下,可以选择IOT作为数据表方案。

 

2、IOT基础

 

在创建使用IOT上,我们要强调Primary Key的作用。对一般的堆表而言,Primary Key是可有可无的。一种说法是:当一个堆表没有设置主键的时候,rowid伪列就是对应的主键值。而且,Primary Key可以在数据表创建之后进行追加设置。

 

但是,IOT对于主键的设置格外严格,要求创建表的时候就必须指定明确的主键列。下面我们通过一系列的实验来证明,实验环境为Oracle 11g

 

 

SQL> select * from v$version;

BANNER

------------------------------------

Oracle Database 11g Enterprise Edition Release 11.2.0.1.0 - Production

PL/SQL Release 11.2.0.1.0 - Production

CORE   11.2.0.1.0 Production

 

 

我们使用相同的结构,来创建出IOT和Heap Table对照。

 

--不指定主键,是无法创建IOT

SQL> create table m (id number)organization index;

 

create table m (id number) organization index

ORA-25175: 未找到任何 PRIMARY KEY 约束条件

 

 

在create table语句后面使用organization index,就指定数据表创建结构是IOT。但是在不指定主键Primary Key的情况下,是不允许建表的。

 

 

SQL> create table t_iot (object_id number(10) primary key, object_name varchar2(100)) organization index;

Table created

 

SQL> create table t_heap (object_id number(10) primary key, object_name varchar2(100));

Table created

 

(插入相同数据来源行……)

 

SQL> exec dbms_stats.gather_table_stats(user,'T_IOT',cascade => true);

PL/SQL procedure successfully completed

 

SQL> exec dbms_stats.gather_table_stats(user,'T_HEAP',cascade => true);

PL/SQL procedure successfully completed

 

 

从数据字典的层面上,我们分析一下两个数据表的差异,一窥IOT的特点。

 

 

SQL> select table_name, tablespace_name, blocks, num_rows fromuser_tableswhere table_name in ('T_IOT','T_HEAP');

 

TABLE_NAME         TABLESPACE_NAME                   BLOCKS  NUM_ROWS

------------------------------ ------------------------ ---------- ----------

T_HEAP               SYSTEM                               157     72638

T_IOT                                                               72638

 

SQL> select segment_name, blocks, extents from user_segments wheresegment_name in ('T_IOT','T_HEAP');

 

SEGMENT_NAME            BLOCKS   EXTENTS

-------------------- ---------- ----------

T_HEAP                     256        17

 

 

上面两句SQL揭示了几个问题。首先,Oracle承认IOT是一个数据表,并且统计了数据行数。但是对数据表的存储表空间和大小没有明确的说明,user_tables视图中这部分的内容为空。

 

其次,从段结构来看,Oracle明确不承认存在T_IOT段。因为如果有段segment对象,就意味有空间分配。但是数据表有数据,是存放在哪里呢?

 

我们知道,给数据表添加索引的时候,Oracle会自动的添加一个唯一索引。那么我们去检查一下这部分的结构情况。

 

 

SQL> select index_name, index_type, table_name, PCT_THRESHOLD, CLUSTERING_FACTOR from user_indexes where table_name in ('T_IOT','T_HEAP');

 

INDEX_NAME   INDEX_TYPE          TABLE_NAME PCT_THRESHOLD CLUSTERING_FACTOR

-------------------- -------- ---------- ------------- -----------------

SYS_C0012408   NORMAL              T_HEAP                                256

SYS_IOT_TOP_75124IOT - TOP     T_IOT                50                0

 

SQL> select segment_name, blocks, extents from user_segments where segment_name in ('SYS_C0012408','SYS_IOT_TOP_75124');

 

SEGMENT_NAME            BLOCKS   EXTENTS

-------------------- ---------- ----------

SYS_C0012408               256        17

SYS_IOT_TOP_75124          256        17

 

 

索引段是存在的,而且明确标注索引类型为IOT索引。这说明几个问题:

 

首先,对于IOT而言,只有索引段,没有数据段。一般的索引而言,叶子节点上只有索引列的取值和rowid。而对于IOT而言,主键索引上对应就是数据行和索引列取值。

 

其次,IOT的溢出段阈值(PCT_THRESHOLD)。这是Oracle IOT的特殊策略。简单的说,当我们把全部数据行保存在叶子节点上,一旦发生主键值的变化、新值插入、删除等动作,索引叶子块的分裂动作是频繁的。数据行 保存在叶子节点上只会让这样的分裂动作更加频繁和后果严重。Oracle提出将一部分的非主键列单独存储,这个参数就是比例值。

 

最后,我们探讨一下IOT索引的Clustering Factor。Clustering Factor是反映索引叶子节点顺序和数据保存行直接离散程度的综合性指标。一般来说,堆表的Clustering Factor是随着DML操作不断退化的过程。Clustering Factor是影响到Oracle索引路径成本的一个重要参数(http://space.itpub.net/17203031/viewspace-680936),会影响到CBO的成本决策。IOT的索引这部分的值永远为0,因为索引的顺序就是数据行的顺序,两者存储顺序相同,绝对一致。

 

 

3、IOT与执行计划

 

在IOT数据表下,我们通常的执行计划会如何呢?普通Heap Table和IOT在这部分的差异很大。

 

通常而言,Heap Table的索引路径伴随着两次段结构的读取——索引段和数据段。先读取索引段段头,经历根节点、分支节点、叶子节点,最后获取到结果集合rowid列表。之后进行回表操作,使用rowid依次查询数据表的行。

 

但是IOT表可以不同。索引和数据保留在一起,理论上拿到了叶子节点,也就是拿到了数据行。IOT是不存在回表操作的,所以相对heap table来说,回表部分成本是节省的。

 

下面我们通过执行计划,来看IOT的特征。

 

 

SQL> explain plan for select * from t_iot whereobject_id=1000;

Explained

 

SQL> select * from table(dbms_xplan.display);

 

PLAN_TABLE_OUTPUT

---------------------------------------------------------------------------

Plan hash value: 2277898128

--------------------------------------------------------------------------

| Id | Operation        | Name            | Rows | Bytes | Cost (%CPU)| Tim

---------------------------------------------------------------------------

|  0 | SELECT STATEMENT |                |    1 |   11 |    1  (0)| 00:

|* 1 | INDEX UNIQUE SCAN| SYS_IOT_TOP_75124|   1 |   11 |    1  (0)| 00:

-------------------------------------------------------------------------------

Predicate Information (identified by operation id):

---------------------------------------------------

  1 - access("OBJECT_ID"=1000)

13 rows selected

 

SQL> explain plan for select * from t_iot;

Explained

 

SQL> select * from table(dbms_xplan.display);

 

PLAN_TABLE_OUTPUT

-------------------------------------------------------------------------------

Plan hash value: 4201110863

-------------------------------------------------------------------------------

| Id | Operation           | Name             | Rows | Bytes | Cost (%CPU)|

-------------------------------------------------------------------------------

|  0 | SELECT STATEMENT    |                  | 72638 |  780K|   47  (0)|

|  1 | INDEX FAST FULL SCAN| SYS_IOT_TOP_75124 | 72638 |  780K|   47  (0)|

------------------------------------------------------------------------

8 rows selected

 

 

对于IOT,我们要保证访问的数据表的方式是主键路径为主。在上面的两个执行计划中,我们按照主键进行检索,路径为Index Unique Scan。全表扫描为Index Fast Full Scan。两者都没有明显的回表动作。

 

试想,如果数据表较小,Index Full Scan也是IOT表常常出现的执行路径。

 

对一般的Heap Table,执行路径如何呢?

 

 

SQL> explain plan for select * from t_heap where object_id=1000;

Explained

 

SQL> select * from table(dbms_xplan.display);

 

PLAN_TABLE_OUTPUT

----------------------------------------------------------------------------

Plan hash value: 1833345710

-----------------------------------------------------------------------------

| Id | Operation               | Name        | Rows | Bytes | Cost (%CPU)

---------------------------------------------------------------------------

|  0 | SELECT STATEMENT          |             |    1 |   11 |    2  (0)

|  1 | TABLE ACCESS BY INDEX ROWID| T_HEAP     |    1 |   11 |    2  (0)

|* 2 |  INDEX UNIQUE SCAN       | SYS_C0012408 |    1 |      |    1  (0)

--------------------------------------------------------------------------

Predicate Information (identified by operation id):

---------------------------------------------------

  2 - access("OBJECT_ID"=1000)

14 rows selected

 

 

SQL> explain plan for select * from t_heap;

Explained

 

SQL> select * from table(dbms_xplan.display);

PLAN_TABLE_OUTPUT

---------------------------------------------------------------------------

Plan hash value: 1253663840

---------------------------------------------------------------------------

| Id | Operation        | Name  | Rows | Bytes | Cost (%CPU)| Time    |

----------------------------------------------------------------------------

|  0 | SELECT STATEMENT |       | 72638 |  780K|   42  (0)| 00:00:01 |

|  1 | TABLE ACCESS FULL|T_HEAP | 72638 |  780K|   42  (0)| 00:00:01 |

----------------------------------------------------------------------------

 

8 rows selected

 

 

普通堆表都不能避免出现回表动作。

 

最后,我们要声明一下回表动作的成本影响。IOT和Heap Table一个很大的执行计划差异,就是回表。但是从成本上计算,CBO并不是因为回表动作才确定执行计划,而是Clustering Factor的影响。

 

对堆表而言,Clustering Factor都是一个很大的问题,无论是CBO的成本公式上,还是不断Degrade的前景。IOT一个突出优势就是直接消灭了Clustering Factor的成本因素。

 

但是这也就带来一个问题,一个数据表只能按照主键的顺序进行组织,辅助索引(Secondary Index)的问题是很多版本Oracle和IOT使用者争议的话题。Secondary Index问题我们在后面会继续讨论到。

 

 

上篇中我们简单介绍了一下IOT的基本知识和概念。本篇继续来介绍IOT相关的内容。

 

4IOT日常维护

 

相对于堆表heap结构,索引组织表最大的特点在于将数据行全部内容作为叶子节点保存在索引结构中。IOT中只包括索引段(Index Segment)结构,没有对应的数据表段(Table Segment)结构。

 

在日常运维工作中,我们经常需要对索引结构进行定期的重构rebuild操作,来消除索引无效节点(Dead Node)。那么,IOT结构中,我们维护工作需要注意些什么问题呢?

 

我们依然使用上篇的IOT数据表T_IOT和堆表T_HEAP来进行比对实验。

 

 

SQL> select index_name from user_indexes where table_name='T_IOT';

 

INDEX_NAME

------------------------------

SYS_IOT_TOP_75124

 

 

数据表T_IOT对应的主键索引名称为SYS_IOT_TOP_75124。该索引段大致空间为2M

 

 

SQL> desc t_iot;

Name       Type         Nullable Default Comments

----------- ------------- -------- ------- --------

OBJECT_ID  NUMBER(10)                             

OBJECT_NAME VARCHAR2(100) Y                        

 

SQL> select count(*) from t_iot;

 COUNT(*)

----------

    72638

 

SQL> select segment_name, bytes/1024/1024 from user_segments where segment_name='SYS_IOT_TOP_75124';

 

SEGMENT_NAME                  BYTES/1024/1024

------------------------------ ---------------

SYS_IOT_TOP_75124                           2

 

 

我们删除一批数据,形成死叶子节点。

 

 

SQL> delete t_iot where rownum<40000;

39999 rows deleted

 

SQL> commit;

Commit complete

 

SQL> exec dbms_stats.gather_table_stats(user,'T_IOT',cascade => true);

PL/SQL procedure successfully completed

 

SQL> select segment_name, bytes/1024/1024 from user_segments where segment_name='SYS_IOT_TOP_75124';

 

SEGMENT_NAME                  BYTES/1024/1024

------------------------------ ---------------

SYS_IOT_TOP_75124                           2

 

 

数据行被删除,索引段HWM没有收缩。我们可以使用analyze index命令进行索引健康程度检查。

 

 

SQL> analyze index SYS_IOT_TOP_75124 validate structure;

Index analyzed

 

 

QL> select height, blocks, name, lf_rows, DEL_LF_ROWS, pct_used from index_stats;

 

   HEIGHT    BLOCKS NAME                 LF_ROWS DEL_LF_ROWS  PCT_USED

---------- ---------- ------------------------------ ---------- ----------- ----------

        2       256 SYS_IOT_TOP_75124           72638      39999        90

 

 

index_stats视图中,我们可以清晰看到有接近四万叶子节点是Dead状态,索引树高度为2。我们进行索引rebuild,是常用的整理索引操作。

 

 

SQL> alter index SYS_IOT_TOP_75124 rebuild;

alter index SYS_IOT_TOP_75124 rebuild

 

ORA-28650: IOT中的主索引不能重建

 

SQL> alter table t_iot disable constraint SYS_IOT_TOP_75124;

alter table t_iot disable constraint SYS_IOT_TOP_75124

 

ORA-25188:对于索引表或排序散列簇,无法删除/禁用/延迟主键约束条件

 

 

常用的rebuild操作不能使用在IOT主键索引中,而且disable索引也没有办法实现。整理IOT的方法,可以选择数据表的move方法。

 

 

SQL> alter table t_iot move;

 

Table altered

 

SQL> exec dbms_stats.gather_table_stats(user,'T_IOT',cascade => true);

 

PL/SQL procedure successfully completed

 

SQL> select segment_name, bytes/1024/1024 from user_segments where segment_name='SYS_IOT_TOP_75124';

 

SEGMENT_NAME                  BYTES/1024/1024

------------------------------ ---------------

SYS_IOT_TOP_75124                      0.6875

 

 

整理数据表t_iot move操作后,索引高水位线下降。

 

 

SQL> analyze index SYS_IOT_TOP_75124 validate structure;

 

Index analyzed

 

SQL> select height, blocks, name, lf_rows, DEL_LF_ROWS, pct_used from index_stats;

 

   HEIGHT    BLOCKS NAME                   LF_ROWS DEL_LF_ROWS  PCT_USED

---------- ---------- ------------------------------ ---------- ----------- ----------

        2        88 SYS_IOT_TOP_75124           32639          0        89

 

 

从分析结果看,我们消除了死叶子节点。那么,我们是否可以对数据表开启row movement呢?这个操作是move操作的替代品。

 

 

SQL> alter table t_iot enable row movement;

alter table t_iot enable row movement

 

ORA-14066:未分区的索引表的选项非法

 

SQL> alter table t_heap enable row movement;

Table altered

 

 

从实验结果看,row movement不能应用到IOT上。

 

 

5IOT Index Overflow Segment

 

IOT表而言,我们需要考虑Overflow Segment的问题。B树索引叶子节点存在一个长期让我们争议的问题,就是叶子块分裂、合并的问题。

 

索引结构成树过程和维持过程,是一个索引树不断分裂叶子节点、拷贝数据的过程。当一个新叶子节点值加入索引树的时候,索引结构需要将其有序的分配在特定的叶子“位置”上。这点和堆表heap table的随机保存策略差异很大。如果这个位置所在的数据块已经写“满”,就需要进行数据块分裂(5/5算法或者9/1算法),找一个新的空白块,将溢出的数据叶子节点信息写入到新块中。这个过程同时伴随着分支节点的调整。

 

维持B树平衡过程是很复杂的过程,一般数据表为了维持对应索引的同步结构通常要损失一个数量级的DML操作效率。

 

对于IOT来说,这种B树平衡过程代表更加复杂的消耗。因为IOT表的所有数据行都要保存在叶子块中,维持树过程中的拷贝和分裂操作更加剧烈。Oracle为了缓解这个情况,引入了IOT Overflow Segment概念。

 

通常来说,我们使用IOT表是需要进行考量的。我们很倾向选择数据主键列相对较大,列数相对较少的数据表作为IOT表。同时,读多写少也是IOT的重要定性指标。

 

Overflow Segment(溢出段)的理念很简单,通过设置一个阈值(PCTThreshold),来规定将数据行转移存储位置。如果我们将PCTThreshold值设置为10,那么如果一个数据行空间占有比例超过了10%数据块大小,非主键列都会被“溢”出到IOT索引之外进行保存。这个溢出空间我们称之为“Overflow Segment”,我们也可以为溢出段指定单独的表空间进行保存。

 

Overflow Segment存在的表空间,我们称之为Overflow Segment Tablespace。下面我们创建一个全新的IOT,设置专门的PCTThreshold值。

 

 

 

SQL> create table t_iotbig

 2 (object_id number primary key,

 3  object_name varchar2(200),

 4  object_type varchar2(100),

 5  EDITION_NAME varchar2(100),

 6  last_ddl_time date)

 7 organization index tablespace users

 8 pctthreshold 5

 9 overflow tablespace example;

 

Table created

 

 

SQL> insert into t_iotbig select object_id, object_name, object_type, edition_name, last_ddl_time from dba_objects;

72604 rows inserted

 

SQL> commit;

Commit complete

 

SQL> exec dbms_stats.gather_table_stats(user,'T_IOTBIG',cascade => true);

PL/SQL procedure successfully completed

 

 

数据表段(本质是索引段)所在表空间指定,是通过organization index tablespace指定的。Pctthreshold参数来指定溢出段阈值,我们试验中设置为5%。溢出段overflow segment通过overflow tablespace来指定。

 

装载约7万余条数据之后,我们检查数据段的情况。

 

 

SQL> col tablespace_name for a10;

SQL> col iot_name for a10;

SQL> select table_name, tablespace_name, num_rows, iot_type, iot_name from dba_tables where wner='SYS' and table_name='T_IOTBIG';

 

TABLE_NAME                    TABLESPACE  NUM_ROWS IOT_TYPE    IOT_NAME

------------------------------ ---------- ---------- ------------ ----------

T_IOTBIG                                      72604 IOT         

 

 

SSQL> select index_name, index_type, PCT_THRESHOLD, tablespace_name from dba_indexes where table_name='T_IOTBIG' and wner='SYS';

 

INDEX_NAME        INDEX_TYPE                 PCT_THRESHOLD TABLESPACE

------------------------------ --------------------------- ------------- ----------

SYS_IOT_TOP_75137             IOT - TOP                              5 USERS

 

 

索引具备属性pct_threshold=5。同时,我们在dba_tables中,可以看到溢出段的情况。

 

 

SQL> select table_name, tablespace_name, iot_name, iot_type from dba_tables where wner='SYS' and iot_name='T_IOTBIG';

 

TABLE_NAME                    TABLESPACE IOT_NAME  IOT_TYPE

------------------------------ ---------- ---------- ------------

SYS_IOT_OVER_75137            EXAMPLE   T_IOTBIG  IOT_OVERFLOW

 

 

在数据表视图中,我们发现IOT_NAME中对应IOT数据表名称的对象中,存在一个特殊的隐含数据表,命名为系统自动命名。这个数据表和IOT不同,明确表示存在表空间EXAMPLE中,IOT_TYPE也明确标注出IOT_OVERFLOW类型。

 

我们从段空间分配的角度,看IOTT_IOTBIG的情况。

 

 

SQL> select segment_name, segment_type, tablespace_name, extents, blocks from dba_segments where wner='SYS' and segment_name in ('SYS_IOT_OVER_75137','SYS_IOT_TOP_75137','T_IOTBIG');

 

SEGMENT_NAME        SEGMENT_TYPE      TABLESPACE   EXTENTS    BLOCKS

-------------------- ------------------ ---------- ---------- ----------

SYS_IOT_TOP_75137   INDEX             USERS             20       640

SYS_IOT_OVER_75137  TABLE             EXAMPLE            1         8

 

 

dba_segments中,可以清楚看到IOT表的空间使用情况:索引段是有空间分配的、溢出段也是有空间分配的。而且两者可以在不同的表空间。

 

 

参数pctthreshold是可以指定这个溢出段阈值。如果不指定,Oracle会选择一个默认值50%。我们的IOTt_iot就是这样的方式。

 

 

SQL> select index_name, index_type, PCT_THRESHOLD, tablespace_name from dba_indexes where table_name='T_IOT' and wner='SYS';

 

INDEX_NAME                    INDEX_TYPE                 PCT_THRESHOLD TABLESPACE

------------------------------ --------------------------- ------------- ----------

SYS_IOT_TOP_75124             IOT - TOP                             50 SYSTEM

 

SQL> select count(*) from dba_tables where wner='SYS' and iot_name='T_IOT';

 

 COUNT(*)

----------

        0

下面我们讨论一下由于数据存储为索引而带来的RowidSecondary Index问题。

 

6Logical Rowid & Secondary Index

 

IOT的环境下,我们是不能保证一个固定的物理Rowid的。

 

堆表(Heap Table)中,一行数据被保存在一个物理位置(file no. + block no.)之后,在正常保存行为中,即使发生行迁移现象,它的rowid是不会发生变化的。只有在进行数据表存储重构,如moveshrink space的时候才会发生新的rowid赋予。

 

堆表rowid的固定给我们带来一个好处,就是连带的数据表索引叶子节点上面的的rowid永远有效的,除非发生move或者和shrink space操作(此时索引失效)。

 

但是,IOT存在一些问题。索引叶子节点的分裂操作是相当频繁的,我们很难保证一个数据行维持在一个rowid不会发生大的变化。当然,如果我们保证每次访问数据表都是通过主键primary key方式,变化的rowid不会有任何影响。问题出在非主键的索引,IOT中称之为“二级索引”Secondary Index上。

 

对于一般的二级索引,如果叶子节点上保留数据行的rowid,那么失效的rowid意味着所有对应的二级索引非常容易变为invalid状态。

 

在很多数据库版本,包括早期的Oracle版本中,对于Secondary Index是不支持的。最近的oracle中,引入了Logical RowidPhysical Guess的方法,才最终解决了Secondary Index问题。

 

 

SQL> select rowid, object_id from t_iot where rownum<5;

 

ROWID                            OBJECT_ID

------------------------------- -----------

*BABBVmoCwQP+                            2

*BABBVmoCwQT+                            3

*BABBVmoCwQX+                            4

*BABBVmoCwQb+                            5

 

 

IOT而言,rowid基本上是不合乎我们常见的heap table rowid格式的。我们可以对t_iot添加secondary index

 

 

SQL> create index idx_t_iot_name on t_iot(object_name);

Index created

 

SQL> exec dbms_stats.gather_table_stats(user,'T_IOT',cascade => true);

PL/SQL procedure successfully completed

 

 

从数据字典中看,索引idx_t_iot_name没有什么额外的差异,只是对于一般索引来说,clustering factor取值略高。

 

 

SQL> select index_Name, index_type, clustering_factor from dba_indexes where wner='SYS' and index_name='IDX_T_IOT_NAME';

 

INDEX_NAME                    INDEX_TYPE                 CLUSTERING_FACTOR

------------------------------ --------------------------- -----------------

IDX_T_IOT_NAME                NORMAL                                 55006

 

SQL> select count(*) from t_iot;

 

 COUNT(*)

----------

    72604

 

 

SQL> select sum(bytes)/1024/1024, count(*) from dba_extents where wner='SYS' and segment_name='IDX_T_IOT_NAME';

 

SUM(BYTES)/1024/1024  COUNT(*)

-------------------- ----------

                  4        19

 

 

对于一个7万余条记录的数据表索引,占到了19个分区,总看空间4M。那么,如果是一般的heap table index呢?空间如何?

 

 

SQL> desc t_heap;

Name       Type         Nullable Default Comments

----------- ------------- -------- ------- --------

OBJECT_ID  NUMBER(10)                             

OBJECT_NAME VARCHAR2(100) Y                        

 

SQL> create index idx_t_heap_name on t_heap(object_name);

 

Index created

 

SQL> select count(*) from t_heap;

 

 COUNT(*)

----------

    72605

 

SQL> select sum(bytes)/1024/1024, count(*) from dba_extents where wner='SYS' and segment_name='IDX_T_HEAP_NAME';

 

SUM(BYTES)/1024/1024  COUNT(*)

-------------------- ----------

                  3        18

 

 

相同取值,正常index只有3M空间,约占到18个分区。说明:Secondary Index对比一些其他索引,有很多特殊的信息在其中。

 

 

SQL> col object_name for a20;

SQL> select object_id, object_name from dba_objects where object_name in ('IDX_T_HEAP_NAME','IDX_T_IOT_NAME');

 

 OBJECT_ID OBJECT_NAME

---------- --------------------

    75146 IDX_T_HEAP_NAME

    75143 IDX_T_IOT_NAME

 

 

我们尝试将两个索引树dump出来,探索其结构差异。

 

 

SQL> select value from v$diag_info where name='Default Trace File';

 

VALUE

--------------------------------------------------------------------------------

/u01/diag/rdbms/wilson/wilson/trace/wilson_ora_9101.trc

 

--堆表索引结构

SQL> alter system set events 'immediate trace name treedump level 75146';

System altered

 

--IOT表索引结构

SQL> alter system set events 'immediate trace name treedump level 75143';

System altered

 

 

 

首先,我们分析一下一般堆表的索引情况。由于篇幅原因,只截取部分内容。

 

 

*** ACTION NAME:(Command Window - New) 2012-10-05 02:43:39.561

 

----- begin tree dump

branch:0x415c01 4283393(0: nrow: 2, level: 2)

  branch:0x415d3b 4283707(-1: nrow: 312, level: 1)

     leaf:0x415c02 4283394(-1: nrow: 184 rrow: 184)

     leaf: 0x415c03 4283395 (0: nrow: 184 rrow: 184)

     leaf: 0x415c04 4283396 (1: nrow: 188 rrow: 188)

     leaf: 0x415c05 4283397 (2: nrow: 190 rrow: 190)

     leaf: 0x415c06 4283398 (3: nrow: 184 rrow: 184)

     leaf: 0x415c07 4283399 (4: nrow: 186 rrow: 186)

     leaf: 0x415c08 4283400 (5: nrow: 185 rrow: 185)

 

 

Dump结果上,我们可以清晰看到IDX_T_HEAP_NAME是一个两层索引结构。根节点地址为0x415c01file=1, block=89089)。

 

 

SQL> select to_number('415c01','xxxxxx') from dual;

 

TO_NUMBER('415C01','XXXXXX')

----------------------------

                    4283393

 

 

其中的一个数据块0x415c06进行试验,转化为十进制地址为4283398,二进制地址为:10000010101110000000110。根据rfile解析规则,最终地址为:file_no=1block_no=89094

 

 

SQL> alter system dump datafile 1 block 89094;

System altered

 

Dump文件中叶子节点的内容为:

 

row#0[8000] flag: ------, lock: 0, len=32

col 0; len 22; (22):

 2f 31 34 64 63 62 36 32 32 5f 53 79 6e 74 68 4c 61 62 65 6c 55 49

col 1; len 6; (6): 00 41 55 91 00 4b

row#1[7968] flag: ------, lock: 0, len=32

col 0; len 22; (22):

 2f 31 34 64 63 62 36 32 32 5f 53 79 6e 74 68 4c 61 62 65 6c 55 49

col 1; len 6; (6): 00 41 55 91 00 4c

row#2[7928] flag: ------, lock: 0, len=40

col 0; len 30; (30):

 2f 31 34 65 33 63 31 31 32 5f 50 4e 47 45 6e 63 6f 64 65 50 61 72 61 6d 50

 61 6c 65 74 74

col 1; len 6; (6): 00 41 5b 9a 00 9d

 

 

 

从结构上猜测,col0col1分别表示索引列取值和对应rowid信息。而IOTsecondary index如何呢?

 

 

*** 2012-10-05 02:43:55.944

----- begin tree dump

branch: 0x4154b9 4281529 (0: nrow: 2, level: 2)

  branch: 0x415acd 4283085 (-1: nrow: 330, level: 1)

     leaf: 0x4154ba 4281530 (-1: nrow: 160 rrow: 160)

     leaf: 0x4154bb 4281531 (0: nrow: 158 rrow: 158)

     leaf: 0x4154bc 4281532 (1: nrow: 163 rrow: 163)

     leaf: 0x4154bd 4281533 (2: nrow: 162 rrow: 162)

     leaf: 0x4154be 4281534 (3: nrow: 163 rrow: 163)

     leaf: 0x4154bf 4281535 (4: nrow: 160 rrow: 160)

     leaf: 0x4154c0 4281536 (5: nrow: 159 rrow: 159)

     leaf: 0x4154c1 4281537 (6: nrow: 161 rrow: 161)

     leaf: 0x4154c2 4281538 (7: nrow: 160 rrow: 160)

 

 

叶子节点0x4154bc,对应具体的二进制为:10000010101010010111100。分析获得的位置为:file_no=1block_no=87228

 

我们将该块dump出。

 

 

SQL> alter system dump datafile 1 block 87228;

System altered

 

 

row#0[7986] flag: K-----, lock: 0, len=46

col 0; len 30; (30):

 2f 31 32 30 66 34 37 30 38 5f 46 75 6c 6c 48 54 4d 4c 44 6f 63 75 6d 65 6e

 74 61 74 69 6f

col 1; len 4; (4): c3 04 39 24

tl: 8 fb: --H-FL-- lb: 0x0 cc: 1

col 0: [ 4] 00 41 59 3e

row#1[7940] flag: K-----, lock: 0, len=46

col 0; len 30; (30):

 2f 31 32 30 66 64 37 36 64 5f 4f 72 61 63 6c 65 44 61 74 61 62 61 73 65 4d

 65 74 61 44 61

col 1; len 4; (4): c3 02 50 1a

tl: 8 fb: --H-FL-- lb: 0x0 cc: 1

col 0: [ 4] 00 41 54 a1

row#2[7894] flag: K-----, lock: 0, len=46

col 0; len 30; (30):

 2f 31 32 30 66 64 37 36 64 5f 4f 72 61 63 6c 65 44 61 74 61 62 61 73 65 4d

 65 74 61 44 61

col 1; len 4; (4): c3 04 4c 1a

tl: 8 fb: --H-FL-- lb: 0x0 cc: 1

col 0: [ 4] 00 41 54 a2

 

 

上面标红的部分是我们看到了和Heap Index的差异,正式由于这部分信息的差异,才让IOT Secondary Index体积略大。

 

从概念上,Secondary Index包括三部分叶子节点内容:索引键值、logical rowid和对应数据行的主键值。在进行检索的时候,Oracle首先用logical rowid进行初步的试探,看看对应的位置是否可以找到对应数据。这个过程我们称为physical guess

 

如果找到了对应数据行,那么皆大欢喜。如果没有,oracle就只能通过数据行的主键值,进行IOT索引树定位。这个过程,要重复多读一个段结构。

 

具体Secondary Index的分析,留待下次进行更加详细的说明。

 

7IOT的使用

 

我们已经在一个系列中,详细介绍了IOT的特性,最后我们聊一聊IOT应用的场景。总的来说,笔者认为IOT在一般系统的应用中,是没有很广泛的发挥场景的。在没有明确的分析和POC实验基础上,我们不要轻易进行IOT决策。具体来说,有如下的几点:

 

ü IOT环境下,有更多的限制

 

我们常使用的堆表,虽然有各种问题,但是是目前我们可以得到的适应性最广,优化策略最多的一种表存储结构。IOT则要受到很多的限制,例如:IOT必须要制定主键,也就是定义出核心访问方式;PCTThreshold参数如果设置了,但是没有指定overflew segment,那么超出阈值的数据行是不会被接受,要抛出异常。IOT表中分区和Lob类型不能同时使用。IOT维护工作要更多。

 

ü 单一读取,读多写少的操作类型

 

我们定义出IOT后,实际上就是规定了数据表的核心访问方式。当我们使用主键条件时,IOT可以方便的帮助我们定位记录。但是其他查询条件应用secondary index的效率就是一个问题。而且secondary index也是不久前才支持的Oracle特性。如果我们的数据表应用是一个多种检索方式并存的操作表,那么IOT不是理想的选择。

 

索引操作本身对增加、修改和删除等DML操作是具有性能影响的。在IOT环境下,这种影响只会让其更加剧烈。所以,如果数据表不是很少修改的数据表,那么使用IOT不是最好的选择。

 

ü 主键列和列数目的约束

 

索引叶子节点中就能将所有数据行列保存在叶子节点上。而索引叶子节点是变化分裂频繁的对象。所以,如果数据行列数很多,或者数据主键列相对很小,那么IOT的效果是不好的。

 

 

8、结论

 

HeapIOTCluster是数据表的三大基本存储类型。我们在实际中,要把握原则是:以堆表为核心,默认都使用Heap Table。如果在架构分析、性能测试和试运行阶段,发现性能问题,可以考虑使用IOT或者Cluster。但是,在选型的时候,一定要明确两种表结构的优缺点和适用范围。
 
 
分享到:
评论

相关推荐

    Oracle云服务赋能企业IoT创新应用.pdf

    Oracle云服务为企业物联网(IoT)创新应用提供了强大的支持,旨在通过问题导向、业务驱动、避免过度技术化的方式,帮助企业实现数字化转型。这份文档详细探讨了IoT领域的发展背景、关键概念以及Oracle如何通过其云服务...

    IOT_Simulation_69448com_opnet_iot_陈敏iot仿真_IoTSimulation

    物联网(IoT,Internet of Things)技术作为现代信息技术的重要组成部分,已经在工业、交通、医疗等多个领域得到广泛应用。为了深入理解和优化物联网系统,进行仿真模拟是一种非常有效的手段。在《IOT_Simulation_...

    IoT DC3 最新管理 Web UI平台,搭配 IoT DC3 服务使用

    IoT DC3(Internet of Things Data Collection and Control Platform)是一个先进的物联网管理平台,其最新推出的Web UI界面为用户提供了更为直观和便捷的操作体验。这个平台是针对物联网(IOT)、边缘计算等前沿...

    IoT工具iot_toolkit.pdf

    ### IoT工具集合与安全研究 #### 一、IoT概览 IoT(Internet of Things,物联网)是指通过网络连接的物理设备、车辆、家用电器等物品,这些物品内置有电子器件、软件、传感器、执行器及连接能力,使得它们能够进行...

    IOT_FLASH TOOL

    “IOT_FLASH TOOL”是一款专为MTK(MediaTek)NB IoT模块设计的烧录工具,其主要功能是帮助用户方便快捷地对物联网设备进行固件更新和程序烧录。这款工具以其简洁的操作界面和广泛的兼容性,使得MTK模块的下载和配置...

    IoT平台软件:Azure IoT二次开发-AzureIoTEdge技术详解

    IoT平台软件:Azure IoT二次开发_AzureIoTEdge技术详解.docx IoT平台软件:Azure IoT二次开发_AzureIoTHub服务深入解析.docx IoT平台软件:Azure IoT二次开发_AzureIoT中心与设备的双向通信.docx IoT平台软件:Azure...

    IoT DC3 平台 公共配置相关源码,搭配 IoT DC3 服务使用

    **IoT DC3 平台公共配置源码详解** IoT DC3 平台是一款针对物联网(IOT)和边缘计算场景设计的综合性服务平台。它提供了丰富的功能,旨在支持大规模设备连接、数据处理、应用开发以及高效运营。在这个平台中,公共...

    IOTService_使用说明_202007081

    本文将详细介绍"IOTService"的使用说明,包括其工具安装、串口服务器设备连接、功能特性以及测试指导。IOTService是一个专为物联网(IoT)设计的服务平台,它提供了丰富的功能,如串口服务器设备管理、邮件报警、远程...

    IoT DC3 平台 Service gRpc API 集合源码,搭配 IoT DC3 服务使用

    IoT DC3 平台是物联网(IoT)领域中的一个重要组成部分,专注于数据收集、处理和控制。在本文中,我们将深入探讨与标题和描述相关的主题——IoT DC3 平台的Service gRpc API集合源码,以及如何与IoT DC3服务协同工作。...

    MyDrive_App_For_Oracle_IoT_Fleet_Monitoring_Cloud

    MyDrive_App_For_Oracle_IoT_Fleet_Monitoring_Cloud MyDrive android移动应用程序不仅可以用于跟踪车辆的位置,还可以用于驾驶员行为监控。 该应用程序连接到Oracle IoT Fleet Monitoring Cloud,以报告车辆位置,...

    NB-IOT模块电路图.pdf

    NB-IOT模块电路图 NB-IOT模块是基于 NarrowBand Internet of Things(NB-IOT)技术的模块,用于实现物联网应用中的低功耗、低成本、低带宽的数据传输。该模块的电路图是理解NB-IOT技术的关键。 NB-IOT模块的组成...

    IoT DC3 是一个基于 Spring Cloud 的开源的、分布式的物联网(IoT)平台

    IoT DC3,全称为Internet of Things Device Connection and Control Platform,是一个高度集成的、基于Spring Cloud的开源物联网平台。它专为快速构建物联网项目和高效管理各种物联网设备而设计,提供了一站式的物联...

    NB-IOT.rar_NB_NB-IOT-协议介绍_NB_IOT_iot_nb协议

    NB-IoT(窄带物联网)是物联网(IoT)技术的一种,专为低功耗广域网络(LPWAN)设计。它在移动通信领域内扮演着关键角色,为远程、低功耗设备提供了连接服务。这个压缩包文件"NB-IOT.rar_NB_NB-IOT-协议介绍_NB_IOT_...

    IOT替换工具V1.3.3.zip

    IOT替换工具V1.3.3.zip \IOT替换工具V1.3.3.zip \IOT替换工具V1.3.3.zip \IOT替换工具V1.3.3.zip \IOT替换工具V1.3.3.zip \IOT替换工具V1.3.3.zip \IOT替换工具V1.3.3.zip \IOT替换工具V1.3.3.zip \IOT替换工具V...

    制造业MES产线IoT平台架构.docx

    制造业 MES 产线 IoT 平台架构Oracle 全数据和云存储方案 制造业 MES 产线 IoT 平台架构是指在制造业中,通过应用 IoT 技术、MES 系统和 Oracle 全数据解决方案来提高制造质量、追踪缺陷和优化供应链的整体架构。该...

    SIEMENS西门子SIMATIC IOT2050操作手册.pdf

    **SIMATIC IOT2050 操作手册概述** SIMATIC IOT2050是西门子品牌下的工业物联网(IoT)设备,属于SIMATIC IOT系列。这款设备主要用于工业自动化领域的数据采集和处理,它能与自动化系统、编程设备等无缝连接,实现...

    IOT-Demo-Task (1)_iot_DEMO_AWSiotdemo_

    【标题】"IOT-Demo-Task (1)_iot_DEMO_AWSiotdemo_" 提供了一个关于物联网(IoT)的演示项目,其中涉及到AWS IoT服务的实例应用。AWS IoT是一个全面的云平台,允许设备安全地连接到云,进行双向通信,并处理来自大量...

Global site tag (gtag.js) - Google Analytics