`

Lucene学习总结之二:Lucene的总体架构

阅读更多

本文csdn中的位置http://blog.csdn.net/forfuture1978/archive/2009/10/30/4745802.aspx

 

Lucene总的来说是:

  • 一个高效的,可扩展的,全文检索库。
  • 全部用Java实现,无须配置。
  • 仅支持纯文本文件的索引(Indexing)和搜索(Search)。
  • 不负责由其他格式的文件抽取纯文本文件,或从网络中抓取文件的过程。

在Lucene in action中,Lucene 的构架和过程如下图,

 

说明Lucene是有索引和搜索的两个过程,包含索引创建,索引,搜索三个要点。

让我们更细一些看Lucene的各组件:

 

  • 被索引的文档用Document对象表示。
  • IndexWriter通过函数addDocument将文档添加到索引中,实现创建索引的过程。
  • Lucene的索引是应用反向索引。
  • 当用户有请求时,Query代表用户的查询语句。
  • IndexSearcher通过函数search搜索Lucene Index
  • IndexSearcher计算term weight和score并且将结果返回给用户。
  • 返回给用户的文档集合用TopDocsCollector表示。

 

那么如何应用这些组件呢?

让我们再详细到对Lucene API 的调用实现索引和搜索过程。

 

  • 索引过程如下:
    • 创建一个IndexWriter用来写索引文件,它有几个参数,INDEX_DIR就是索引文件所存放的位置,Analyzer便是用来对文档进行词法分析和语言处理的。
    • 创建一个Document代表我们要索引的文档。
    • 将不同的Field加入到文档中。我们知道,一篇文档有多种信息,如题目,作者,修改时间,内容等。不同类型的信息用不同的Field来表示,在本例子中,一共有两类信息进行了索引,一个是文件路径,一个是文件内容。其中FileReader的SRC_FILE就表示要索引的源文件。
    • IndexWriter调用函数addDocument将索引写到索引文件夹中。
  • 搜索过程如下:
    • IndexReader将磁盘上的索引信息读入到内存,INDEX_DIR就是索引文件存放的位置。
    • 创建IndexSearcher准备进行搜索。
    • 创建Analyer用来对查询语句进行词法分析和语言处理。
    • 创建QueryParser用来对查询语句进行语法分析。
    • QueryParser调用parser进行语法分析,形成查询语法树,放到Query中。
    • IndexSearcher调用search对查询语法树Query进行搜索,得到结果TopScoreDocCollector

以上便是Lucene API函数的简单调用。

然而当进入Lucene的源代码后,发现Lucene有很多包,关系错综复杂。

然而通过下图,我们不难发现,Lucene的各源码模块,都是对普通索引和搜索过程的一种实现。

此图是上一节介绍的全文检索的流程对应的Lucene实现的包结构。(参照http://www.lucene.com.cn/about.htm中文章《开放源代码的全文检索引擎Lucene》)

 

  • Lucene的analysis模块主要负责词法分析及语言处理而形成Term
  • Lucene的index模块主要负责索引的创建,里面有IndexWriter
  • Lucene的store模块主要负责索引的读写。
  • Lucene的QueryParser主要负责语法分析。
  • Lucene的search模块主要负责对索引的搜索。
  • Lucene的similarity模块主要负责对相关性打分的实现。

了解了Lucene的整个结构,我们便可以开始Lucene的源码之旅了。

 

另:

博客园此文章链接为:http://www.cnblogs.com/forfuture1978/archive/2009/12/14/1623596.html

CSDN此文章链接为:http://blog.csdn.net/forfuture1978/archive/2009/10/30/4745802.aspx

  • 大小: 54.2 KB
  • 大小: 29.2 KB
  • 大小: 91.3 KB
  • 大小: 47 KB
分享到:
评论
11 楼 panawala 2013-10-19  
10 楼 fanlei77 2012-03-13  
看后觉得书白买了,楼主的文章更加清晰易懂
9 楼 RonQi 2011-10-27  
high_java 写道
非常好的文章,感谢您的分享。照这个理论,我可以将数据库中表中的数据先在文件系统建立索引,然后如果想搜索的话,就直接在索引中搜索,既方便又快捷

但是,如果加入权限管理的话,也就是说,每个人搜索的范围不一样的话,该怎样建立索引呢?是将所有的数据建立一次索引,还是根据不同的搜索者建立不同的索引?

有没有方法,将数据库中的data建立一次索引,然而还是能够根据权限来进行搜索,将权限搜索加入到lucene里面?

那你数据库的权限怎么做的?我觉得最简单的方法就是加字段进行判断吧,Lucene也能加字段,根据不同资料的不同授权进行条件搜索,比如权限用数字表示,可以存一个字段为0~10,某个权限为5的用户就搜索此字段小于6的数据。
个人想法,纯属交流。
8 楼 linvar 2011-09-19  

真心好文呐
7 楼 confident_f 2011-09-14  
xiewanzhi 写道
公司要用,研究一下,十分感谢,正在考虑权限问题。

权限问题解决了吗?
6 楼 xiewanzhi 2011-05-16  
公司要用,研究一下,十分感谢,正在考虑权限问题。
5 楼 high_java 2010-08-26  
非常好的文章,感谢您的分享。照这个理论,我可以将数据库中表中的数据先在文件系统建立索引,然后如果想搜索的话,就直接在索引中搜索,既方便又快捷

但是,如果加入权限管理的话,也就是说,每个人搜索的范围不一样的话,该怎样建立索引呢?是将所有的数据建立一次索引,还是根据不同的搜索者建立不同的索引?

有没有方法,将数据库中的data建立一次索引,然而还是能够根据权限来进行搜索,将权限搜索加入到lucene里面?
4 楼 youjianbo_han_87 2010-08-18  
不错啊。哥们
3 楼 woainichenxueming 2010-04-28  
好文章,谢谢分享!讲的不错!
2 楼 lsk 2010-03-03  
很清晰. 简单明了
1 楼 linliangyi2007 2010-02-26  
简洁明了,逻辑清晰,好文

相关推荐

    Lucene 3.0 原理与代码分析PDF

    Lucene学习总结之二:Lucene的总体架构 Lucene学习总结之三:Lucene的索引文件格式(1) Lucene学习总结之三:Lucene的索引文件格式(2) Lucene学习总结之三:Lucene的索引文件格式(3) Lucene学习总结之四:...

    lucene3源码分析

    #### 二、Lucene的总体架构 Lucene的设计遵循模块化原则,其架构可以分为几个关键部分: - **存储层**:负责管理和维护索引文件。 - **索引层**:实现索引的创建、更新和优化等功能。 - **搜索层**:支持高效的...

    Lucene3.0原理与代码分析完整版.docx

    在Lucene学习总结之二中,我们看到,Lucene的核心组件包括Analyzer(分析器)、Document(文档对象)、Field(字段)、IndexWriter(索引写入器)和Searcher(搜索器),它们协同工作以实现高效的信息检索。...

    Lucene3总体图_建索引_查询_数据库索引

    ### Lucene3总体架构与操作流程 #### 一、Lucene3概述 Lucene是一款高性能、全功能的文本搜索引擎库,被广泛应用于多种场景下的文本检索。Lucene3相较于之前的版本,主要增加了对国际化的支持,引入了`message`包...

    lucene学习

    本篇文章将根据提供的博客资源,深入浅出地探讨Lucene的核心知识点,包括全文检索的基本原理、Lucene的总体架构、索引过程、搜索过程、索引文件格式以及打分公式等。 首先,我们从基础出发,了解《全文检索的基本...

    lucene原理与代码分析完整版

    #### 二、Lucene总体架构 Lucene的总体架构可以分为三个主要部分:索引创建(Indexing)、索引存储(Storage)和搜索(Searching)。 1. **索引创建**:将文档转换为索引的过程。这包括文档预处理(如分词)、倒排索引的...

    Lucene+3.0+原理与代码分析完整版

    #### 二、Lucene 的总体架构 **Lucene** 是一个高性能的全文检索引擎库,其总体架构可以分为以下几个部分: 1. **文档管理**:负责处理文档的读写操作,包括文档的创建、索引的建立以及文档的检索。 2. **索引管理...

    Lucene in Action 2nd_Edition.doc

    - **总体架构**:本章节详细介绍了典型搜索应用程序的整体架构,并探讨了Lucene如何在此类架构中发挥作用。 - **组成部分**:强调Lucene仅是一个搜索库,用户还需要处理搜索应用的其他组件(如爬虫、文档过滤、运行...

    基于Lucene的桌面搜索软件

    2. **设计阶段**:包括总体架构设计、模块划分、数据库设计等内容,形成详细的设计文档。 3. **编码实现**:根据设计文档完成代码编写工作,同时注重代码质量和可维护性。 4. **测试调试**:进行全面的功能测试、...

    lucene 原理与代码分析

    ### Lucene的总体架构 Lucene采用模块化设计,核心组件包括: - 分词器(Analyzer):用于文本的分词和规范化。 - 索引器(Indexer):负责创建和维护索引。 - 搜索器(Searcher):执行查询并返回结果。 ### ...

    开放源代码的全文检索引擎Lucene终稿.pdf

    总体而言,这份文档详尽地介绍了Lucene的工作原理、系统架构和源码实现,为开发者提供了深入了解和使用Lucene的宝贵资料。对于希望构建自定义搜索引擎或优化现有搜索功能的开发者来说,理解并掌握Lucene的这些核心...

    Lucene 原理与代码分析完整版.pdf

    ### Lucene的总体架构 Lucene的架构设计围绕着高效索引和快速检索。其主要组件包括: - **IndexWriter**:负责创建和更新索引,处理文档的添加和删除操作。 - **IndexReader**:用于读取索引,支持文档的检索和...

    Lucene_原理与代码分析完整版

    #### 二、Lucene的总体架构 Lucene采用了模块化的设计思想,主要由以下几个层次组成: 1. **基础层** - 提供基础的数据结构和算法实现。 2. **索引层** - 负责索引的创建和管理。 3. **搜索层** - 实现搜索和排序...

    lucene学习资料

    #### 二、Lucene的总体架构 Lucene采用模块化设计,主要包括以下几个核心模块: 1. **索引模块**(Index):负责索引的创建和维护。 2. **搜索模块**(Search):提供搜索功能。 3. **查询解析器**(Query Parser...

    c# Lucene.net 原理 代码分析加强版

    《C# Lucene.net原理与代码分析加强版》是一份深度解析Lucene.net搜索引擎库的文档,涵盖了全文检索的基本原理、Lucene的总体架构、索引文件格式以及索引过程和段合并等核心主题,旨在为开发人员提供深入理解Lucene...

Global site tag (gtag.js) - Google Analytics