`
akululu
  • 浏览: 45633 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

Lucene 性能优化

阅读更多

当索引的文件不多时,用 Lucene 默认的设置就能得到很好的性能。但是,如果索引大量文件,就得通过一些手段去提高 Lucene 索引性能。

 

1、  索引性能差的原因

1)        Lucene 索引过程

 
   
在索引文件的过程中, Lucene 不是直接将文件索引到磁盘上,而是首先缓存,然后在写到磁盘。如上图所示。

2)        索引过程的瓶颈

²        往磁盘上写索引文件的过程

²        将磁盘上的几个小 Segment 合并成一个大的 Segment 的过程

 

2、  提高索引性能的方法

1)        方式 1 :调整 IndexWriter 参数

为控制索引占用的内存以及 Segment 段合并的频率, Lucene 提供了以下三个参数,通过调整这三个参数的值,可以改善索引的性能。

²        mergeFactor (合并因子):决定把磁盘上的索引块合并成一个大的索引块的频率,默认值为 10

比如, mergeFactor 10 ,那么当 Segment 的数量达到 10 的话,这 10 Segment 会被合并成一个新的 Segment 。如果合并后的这个大的 Segment 的数量达到 10 的话还会被合并成一个更大的 Segment 。直到 Segment 中索引的文件数量达到 maxMergeDocs 时不在合并。

如果需要索引的文档数非常多的话这个默认值将是非常不合适的。对批处理的索引来讲,为这个参数赋一个比较大的值会得到比较好的索引效果。

²        minMergeDocs 最小合并文档数 决定了内存中的文档数至少达到多少才能将它们写回磁盘(其实就是 buffer 的大小)。默认值是 10

如果你有足够的内存,那么将这个值尽量设的比较大一些将会显著的提高索引性能。

²        maxMergeDocs (最大合并文档数):决定了一个索引块中的最大的文档数。默认值是 Integer.MAX_VALUE

这个参数设置为比较大的值可以提高索引效率和检索速度,由于该参数的默认值是整型的最大值,所以我们一般不需要改动这个参数。

2)        方式 2 :使用 RAMDirectory

²        RAMDirectory FSDirectory 的不同: RAMDirectory 的所有操作都在内存中,而 FSDirectory 的操作直接对应磁盘。因此 RAMDirectory FSDirectory 要快。

²        先将索引写入 RAMDirectory 到一定程度在从 RAMDirectory 写入 FSDirectory 可以提高索引性能。

分享到:
评论

相关推荐

    lucene的封装和性能优化

    Lucene性能优化 #### 3.1 分片与分布式 在大数据量场景下,可以采用分片策略,将索引分散到多个节点上,利用Lucene的分布式搜索能力,提高查询效率。 #### 3.2 延迟索引更新 为了减少实时索引更新对系统性能的...

    Lucene学习笔记

    Lucene 性能优化** 为了提高性能,可以考虑以下方面: - 使用内存缓存提高查询速度。 - 选择合适的分词器,根据语言特性进行优化。 - 使用倒排索引加速查询。 - 调整索引和搜索的内存设置。 - 对大型数据集,可以...

    lucene分组查询优化facet

    在搜索引擎和大数据分析领域,Apache Lucene 是一个广泛使用的全文检索库,它提供了高效、可扩展的搜索功能。其中,Facet(分面)查询是Lucene提供的一种...理解其原理,掌握优化技巧,是提升Lucene应用性能的关键。

    Lucene全文检索引擎工具包 v7.7.3-源码.zip

    5. Lucene性能优化:探讨缓存策略、索引碎片整理、近实时搜索等技术,以提升系统性能。 通过对Lucene源码的学习,开发者不仅可以掌握全文检索的基本原理,还能深入了解其内部实现,为开发高效、定制化的搜索引擎...

    lucene索引优化多线程多目录创建索引

    本教程主要探讨的是如何利用Lucene进行索引优化,特别是通过多线程和处理多个目录来提高索引创建效率。 首先,我们需要理解Lucene的索引原理。Lucene将文档分解为词项(tokens),并对每个词项创建倒排索引。倒排...

    Lucene索引优化

    保持Lucene版本的更新可以确保利用所有可能的性能优化措施。 #### 采用本地文件系统 远程文件系统通常比本地文件系统慢,尤其是在索引构建过程中。若索引必须存储在远程文件系统上,一个有效的策略是在本地文件系统...

    lucene排序、设置权重、优化、分布式搜索.pdf

    Lucene 的优化是指对搜索引擎的性能进行优化。 Lucene 提供了多种优化方式,包括索引优化和搜索优化。 例如,下面的代码演示如何使用 Lucene 对索引进行优化: ```csharp IndexWriter writer = new IndexWriter...

    依赖Lucene的电话号码查询优化

    《依赖Lucene的电话号码查询优化》 在信息爆炸的时代,数据检索的效率与准确性成为了决定用户体验的关键因素。本文将深入探讨如何利用Apache Lucene这一强大的全文搜索引擎库,对电话号码查询进行优化,以提高查询...

    lucene in action英文版 lucene 3.30包

    5. **性能优化** 为了提升搜索效率,Lucene提供了一些优化策略,如缓存、位图过滤、近似搜索等。通过合理配置和调优,可以显著提高系统性能。 6. **Lucene 3.30版本** Lucene 3.30是该库的一个较早版本,它可能...

    lucene 高亮显示. java

    标题与描述概述的知识点主要集中在Lucene的高亮显示功能,尤其是在处理中文分词时的性能优化策略。以下是对这些知识点的详细展开: ### Lucene的高亮显示 Lucene是一款高性能、全功能的文本搜索引擎库,其高亮显示...

    lucene-4.7.0全套jar包

    - **性能优化**:对索引和搜索性能进行了进一步优化,提升了处理大量数据时的速度。 - **内存管理**:改进了内存使用策略,降低了内存占用,减少了垃圾收集的影响。 - **查询解析**:增强了查询解析器,支持更复杂...

    Lucene3.5源码jar包

    10. **性能调优**:通过分析源码,开发者可以了解到如何调整各种参数,如缓存大小、合并策略等,来优化Lucene的性能。 总的来说,深入学习Lucene 3.5.0的源码,可以帮助开发者掌握全文检索的核心技术,了解其内部...

    lucene高级应用

    本篇文章将深入探讨Lucene的高级应用,结合提供的两个文档《lucene的优化2.doc》和《lucene的优化1.doc》,我们将探讨Lucene的索引优化、查询优化以及一些高级特性的应用。 一、索引优化 1. 多字段索引:Lucene...

    lucene讲义 叫你用lucene算法

    《教你运用Lucene算法》 Lucene是一款强大的全文搜索引擎库,它提供了丰富的信息检索功能,包括文本分析、索引构建、搜索以及结果...对于开发者来说,深入理解这些算法有助于优化索引和搜索性能,提升系统的整体效率。

    lucene-core-2.9.4,lucene-core-3.0.2,lucene-core-3.0.3,lucene-core-3.4.0

    《Apache Lucene核心技术详解:从2.9.4到3.4.0的演变》 Apache Lucene,作为开源的全文检索库,是Java...随着版本的迭代,Lucene不仅提供了更多的功能,也在性能和稳定性上不断优化,为信息检索领域提供了强大的支持。

Global site tag (gtag.js) - Google Analytics