论坛首页 移动开发技术论坛

Lucene4.3开发之第九步之渡劫中期(九)

浏览 1885 次
精华帖 (0) :: 良好帖 (0) :: 新手帖 (0) :: 隐藏帖 (0)
作者 正文
   发表时间:2014-01-13  
散仙,这段时间写了几篇关于lucene仙界篇的文章,同时,修真篇的文章也并没从此就到此结束,修真嘛,基础很重要,就像学JAVA一样,JAVA的一些基本API的用法和基础都是非常重要的,所以,必须的反复学习和巩固,那么散仙今天来写一下在lucene4.x中,lucene的索引文件的几种格式,以及它们的作用和结构。

下图是一个典型的Lucene4.x的索引结构图:




Lucene4.x之后的所有索引格式如下所示:
<table class="bbcode"><tr><td>文件名</td><td>后缀</td><td>描述<tr><td>Segments File</td><td>segments.gen, segments_N</td><td>存储段文件的提交点信息<tr><td>Lock File</td><td>write.lock</td><td>文件锁,保证任何时刻只有一个线程可以写入索引<tr><td>Segment Info</td><td>.si</td><td>存储每个段文件的元数据信息<tr><td>Compound File</td><td>.cfs, .cfe</td><td>复合索引的文件,在系统上虚拟的一个文件,用于频繁的文件句柄<tr><td>Fields</td><td>.fnm</td><td>存储域文件的信息<tr><td>Field Index</td><td>.fdx</td><td>存储域数据的指针<tr><td>Field Data</td><td>.fdt</td><td>存储所有文档的字段信息<tr><td>Term Dictionary</td><td>.tim</td><td>term字典,存储term信息<tr><td>Term Index</td><td>.tip</td><td>term字典的索引文件<tr><td>Frequencies</td><td>.frq</td><td>词频文件,包含文档列表以及每一个term和其词频<tr><td>Positions</td><td>.prx</td><td>位置信息,存储每个term,在索引中的准确位置<tr><td>Norms</td><td>.nrm.cfs, .nrm.cfe</td><td>存储文档和域的编码长度以及加权因子<tr><td>Per-Document Values</td><td>.dv.cfs, .dv.cfe</td><td>编码除外的额外的打分因素,<tr><td>Term Vector Index</td><td>.tvx</td><td>term向量索引,存储term在文档中的偏移距离<tr><td>Term Vector Documents</td><td>.tvd</td><td>包含每个文档向量的信息<tr><td>Term Vector Fields</td><td>.tvf</td><td>存储filed级别的向量信息<tr><td>Deleted Documents</td><td>.del</td><td>存储索引删除文件的信息</table>

复合索引文件是指,除了段信息文件,锁文件,以及删除的文件外,其他的一系列索引文件压缩一个后缀名为cfs的文件,意思,就是所有的索引文件会被存储成一个单例的Directory,而非复合索引是灵活的,可以单独的访问某几个索引文件,而复合索引文件则不可以,因为其压缩成了一个文件,所以在某些场景下能够获取更高的效率,比如说,查询频繁,而不经常更新的需求,就很适合这种索引格式。

lucene索引的基本概念组成由,索引,文档,域和项组成,一个索引,通常包含一些序列的文档,一个文档包含一些序列的域,而一些域又包含一些序列的项,而一些项则包含一些列序列的最低层的字节,注意这里的序列指的是在索引结构中有序,通常有序的这种方式,某些情况可以优化索引结构。


lucene使用了倒排索引(Inverted Indexing),来存储索引信息,大大提高了检索效率,
倒排索引,举一个通俗的例子,原来基于人们的正常思维,我们会存储的是一个文章中出现了那几个单词,而倒排索引,却恰恰相反,它存储的是这个单词,包含在几个文档中,当然这个关系是由倒排链表(存储一系列docid)构成的索引,我们在检索时,通过这个单词可以快速的定位,它出现在几篇文章中,从而大大提升了检索性能。

当然lucene中不仅仅有倒排索引,也有正向的存储,而倒排之所以是lucene的核心,是因为它提升了检索性能,在检索到一个个具体的文档时,就需要我们正向的拿出这些信息,反映在实际的代码中就是我们通过检索获取一个个docid,然后通过一个个docid获取整个文档,然后我们在正向的获取各个域,以及各个项存储的具体信息,当然前提是你存储了这个字段,如果你只是索引了,而并没有存储,那么你只能检索到此条信息,但无法获取具体term的值,这个需要在建索引之前就要设计好,索引的存储结构,那些字段是检索的,那些字段是存储的等等,如果你还需要高亮一些内容,则还需要存储这个域的偏移的位置,通过这样就能准确的在文中标记检索命中的关键词,如果你打算在前台来完成这个高亮,就不要存储这些信息了。


  • 大小: 70.5 KB
论坛首页 移动开发技术版

跳转论坛:
Global site tag (gtag.js) - Google Analytics