`
baobeituping
  • 浏览: 1068793 次
  • 性别: Icon_minigender_1
  • 来自: 长沙
社区版块
存档分类
最新评论

Lucene入门以及例子

阅读更多
Lucene是apache组织的一个用java实现全文搜索引擎的开源项目。 其功能非常的强大,api也很简单。总得来说用Lucene来进行建立 和搜索和操作数据库是差不多的(有点像),Document可以看作是 数据库的一行记录,Field可以看作是数据库的字段。用lucene实 现搜索引擎就像用JDBC实现连接数据库一样简单。

Lucene2.0,它与以前广泛应用和介绍的Lucene 1.4.3并不兼容。 Lucene2.0的下载地址是http://apache.justdn.org/lucene/java/


例子一 :

1、在windows系统下的的C盘,建一个名叫s的文件夹,在该文件夹里面随便建三个txt文件,随便起名啦,就叫"1.txt","2.txt"和"3.txt"啦
其中1.txt的内容如下:

中华人民共和国  
全国人民  
2006年  

而"2.txt"和"3.txt"的内容也可以随便写几写,这里懒写,就复制一个和1.txt文件的内容一样吧

2、下载lucene包,放在classpath路径中
建立索引:
Java代码
package  lighter.iteye.com;     
    
import  java.io.BufferedReader;     
import  java.io.File;     
import  java.io.FileInputStream;     
import  java.io.IOException;     
import  java.io.InputStreamReader;     
import  java.util.Date;     
    
import  org.apache.lucene.analysis.Analyzer;     
import  org.apache.lucene.analysis.standard.StandardAnalyzer;     
import  org.apache.lucene.document.Document;     
import  org.apache.lucene.document.Field;     
import  org.apache.lucene.index.IndexWriter;     
    
/** */ /**    
* author lighter date 2006-8-7   
  */     
public   class  TextFileIndexer  {     
     public   static   void  main(String[] args)  throws  Exception  {     
         /**/ /*  指明要索引文件夹的位置,这里是C盘的S文件夹下  */     
        File fileDir  =   new  File( " c:\\s " );     
    
         /**/ /*  这里放索引文件的位置  */     
        File indexDir  =   new  File( " c:\\index " );     
        Analyzer luceneAnalyzer  =   new  StandardAnalyzer();     
        IndexWriter indexWriter  =   new  IndexWriter(indexDir, luceneAnalyzer,     
                 true );     
        File[] textFiles  =  fileDir.listFiles();     
         long  startTime  =   new  Date().getTime();     
             
         // 增加document到索引去      
         for  ( int  i  =   0 ; i  <  textFiles.length; i ++ )  {     
             if  (textFiles[i].isFile()     
                     &&  textFiles[i].getName().endsWith( " .txt " ))  {     
                System.out.println( " File  "   +  textFiles[i].getCanonicalPath()     
                         +   " 正在被索引 . " );     
                String temp  =  FileReaderAll(textFiles[i].getCanonicalPath(),     
                         " GBK " );     
                System.out.println(temp);     
                Document document  =   new  Document();     
                Field FieldPath  =   new  Field( " path " , textFiles[i].getPath(),     
                        Field.Store.YES, Field.Index.NO);     
                Field FieldBody  =   new  Field( " body " , temp, Field.Store.YES,     
                        Field.Index.TOKENIZED,     
                        Field.TermVector.WITH_POSITIONS_OFFSETS);     
                document.add(FieldPath);     
                document.add(FieldBody);     
                indexWriter.addDocument(document);     
            }      
        }      
         // optimize()方法是对索引进行优化      
        indexWriter.optimize();     
        indexWriter.close();     
             
         // 测试一下索引的时间      
         long  endTime  =   new  Date().getTime();     
        System.out     
                .println( " 这花费了 "     
                         +  (endTime  -  startTime)     
                         +   "  毫秒来把文档增加到索引里面去! "     
                         +  fileDir.getPath());     
    }      
    
     public   static  String FileReaderAll(String FileName, String charset)     
             throws  IOException  {     
        BufferedReader reader  =   new  BufferedReader( new  InputStreamReader(     
                 new  FileInputStream(FileName), charset));     
        String line  =   new  String();     
        String temp  =   new  String();     
             
         while  ((line  =  reader.readLine())  !=   null )  {     
            temp  +=  line;     
        }      
        reader.close();     
         return  temp;     
    }      
}    

package  lighter.iteye.com;  
 
import  java.io.BufferedReader;  
import  java.io.File;  
import  java.io.FileInputStream;  
import  java.io.IOException;  
import  java.io.InputStreamReader;  
import  java.util.Date;  
 
import  org.apache.lucene.analysis.Analyzer;  
import  org.apache.lucene.analysis.standard.StandardAnalyzer;  
import  org.apache.lucene.document.Document;  
import  org.apache.lucene.document.Field;  
import  org.apache.lucene.index.IndexWriter;  
 
/** */ /**  
* author lighter date 2006-8-7 
  */  
public   class  TextFileIndexer  {  
     public   static   void  main(String[] args)  throws  Exception  {  
         /**/ /*  指明要索引文件夹的位置,这里是C盘的S文件夹下  */  
        File fileDir  =   new  File( " c:\\s " );  
 
         /**/ /*  这里放索引文件的位置  */  
        File indexDir  =   new  File( " c:\\index " );  
        Analyzer luceneAnalyzer  =   new  StandardAnalyzer();  
        IndexWriter indexWriter  =   new  IndexWriter(indexDir, luceneAnalyzer,  
                 true );  
        File[] textFiles  =  fileDir.listFiles();  
         long  startTime  =   new  Date().getTime();  
          
         // 增加document到索引去   
         for  ( int  i  =   0 ; i  <  textFiles.length; i ++ )  {  
             if  (textFiles[i].isFile()  
                     &&  textFiles[i].getName().endsWith( " .txt " ))  {  
                System.out.println( " File  "   +  textFiles[i].getCanonicalPath()  
                         +   " 正在被索引 . " );  
                String temp  =  FileReaderAll(textFiles[i].getCanonicalPath(),  
                         " GBK " );  
                System.out.println(temp);  
                Document document  =   new  Document();  
                Field FieldPath  =   new  Field( " path " , textFiles[i].getPath(),  
                        Field.Store.YES, Field.Index.NO);  
                Field FieldBody  =   new  Field( " body " , temp, Field.Store.YES,  
                        Field.Index.TOKENIZED,  
                        Field.TermVector.WITH_POSITIONS_OFFSETS);  
                document.add(FieldPath);  
                document.add(FieldBody);  
                indexWriter.addDocument(document);  
            }   
        }   
         // optimize()方法是对索引进行优化   
        indexWriter.optimize();  
        indexWriter.close();  
          
         // 测试一下索引的时间   
         long  endTime  =   new  Date().getTime();  
        System.out  
                .println( " 这花费了 "  
                         +  (endTime  -  startTime)  
                         +   "  毫秒来把文档增加到索引里面去! "  
                         +  fileDir.getPath());  
    }   
 
     public   static  String FileReaderAll(String FileName, String charset)  
             throws  IOException  {  
        BufferedReader reader  =   new  BufferedReader( new  InputStreamReader(  
                 new  FileInputStream(FileName), charset));  
        String line  =   new  String();  
        String temp  =   new  String();  
          
         while  ((line  =  reader.readLine())  !=   null )  {  
            temp  +=  line;  
        }   
        reader.close();  
         return  temp;  
    }   
}  



索引的结果:

File C:\s\ 1 .txt正在被索引 .  
中华人民共和国全国人民2006年  
File C:\s\ 2 .txt正在被索引 .  
中华人民共和国全国人民2006年  
File C:\s\ 3 .txt正在被索引 .  
中华人民共和国全国人民2006年  
这花费了297 毫秒来把文档增加到索引里面去 ! c:\s  


3、建立了索引之后,查询啦....
Java代码
package  lighter.iteye.com;     
    
import  java.io.IOException;     
    
import  org.apache.lucene.analysis.Analyzer;     
import  org.apache.lucene.analysis.standard.StandardAnalyzer;     
import  org.apache.lucene.queryParser.ParseException;     
import  org.apache.lucene.queryParser.QueryParser;     
import  org.apache.lucene.search.Hits;     
import  org.apache.lucene.search.IndexSearcher;     
import  org.apache.lucene.search.Query;     
    
public   class  TestQuery  {     
     public   static   void  main(String[] args)  throws  IOException, ParseException  {     
        Hits hits  =   null ;     
        String queryString  =   " 中华 " ;     
        Query query  =   null ;     
        IndexSearcher searcher  =   new  IndexSearcher( " c:\\index " );     
    
        Analyzer analyzer  =   new  StandardAnalyzer();     
         try   {     
            QueryParser qp  =   new  QueryParser( " body " , analyzer);     
            query  =  qp.parse(queryString);     
        }   catch  (ParseException e)  {     
        }      
         if  (searcher  !=   null )  {     
            hits  =  searcher.search(query);     
             if  (hits.length()  >   0 )  {     
                System.out.println( " 找到: "   +  hits.length()  +   "  个结果! " );     
            }      
        }      
    }    
    
}    

package  lighter.iteye.com;  
 
import  java.io.IOException;  
 
import  org.apache.lucene.analysis.Analyzer;  
import  org.apache.lucene.analysis.standard.StandardAnalyzer;  
import  org.apache.lucene.queryParser.ParseException;  
import  org.apache.lucene.queryParser.QueryParser;  
import  org.apache.lucene.search.Hits;  
import  org.apache.lucene.search.IndexSearcher;  
import  org.apache.lucene.search.Query;  
 
public   class  TestQuery  {  
     public   static   void  main(String[] args)  throws  IOException, ParseException  {  
        Hits hits  =   null ;  
        String queryString  =   " 中华 " ;  
        Query query  =   null ;  
        IndexSearcher searcher  =   new  IndexSearcher( " c:\\index " );  
 
        Analyzer analyzer  =   new  StandardAnalyzer();  
         try   {  
            QueryParser qp  =   new  QueryParser( " body " , analyzer);  
            query  =  qp.parse(queryString);  
        }   catch  (ParseException e)  {  
        }   
         if  (searcher  !=   null )  {  
            hits  =  searcher.search(query);  
             if  (hits.length()  >   0 )  {  
                System.out.println( " 找到: "   +  hits.length()  +   "  个结果! " );  
            }   
        }   
    } 
 
}  


其运行结果:

找到: 3  个结果 !



Lucene 其实很简单的,它最主要就是做两件事:建立索引和进行搜索
来看一些在lucene中使用的术语,这里并不打算作详细的介绍,只是点一下而已----因为这一个世界有一种好东西,叫搜索。

IndexWriter:lucene中最重要的的类之一,它主要是用来将文档加入索引,同时控制索引过程中的一些参数使用。

Analyzer:分析器,主要用于分析搜索引擎遇到的各种文本。常用的有StandardAnalyzer分析器,StopAnalyzer分析器,WhitespaceAnalyzer分析器等。

Directory:索引存放的位置;lucene提供了两种索引存放的位置,一种是磁盘,一种是内存。一般情况将索引放在磁盘上;相应地lucene提供了FSDirectory和RAMDirectory两个类。

Document:文档;Document相当于一个要进行索引的单元,任何可以想要被索引的文件都必须转化为Document对象才能进行索引。

Field:字段。

IndexSearcher:是lucene中最基本的检索工具,所有的检索都会用到IndexSearcher工具;

Query:查询,lucene中支持模糊查询,语义查询,短语查询,组合查询等等,如有TermQuery,BooleanQuery,RangeQuery,WildcardQuery等一些类。

QueryParser: 是一个解析用户输入的工具,可以通过扫描用户输入的字符串,生成Query对象。

Hits:在搜索完成之后,需要把搜索结果返回并显示给用户,只有这样才算是完成搜索的目的。在lucene中,搜索的结果的集合是用Hits类的实例来表示的。

上面作了一大堆名词解释,下面就看几个简单的实例吧:
1、简单的的StandardAnalyzer测试例子


Java代码
package  lighter.iteye.com;     
    
import  java.io.IOException;     
import  java.io.StringReader;     
    
import  org.apache.lucene.analysis.Analyzer;     
import  org.apache.lucene.analysis.Token;     
import  org.apache.lucene.analysis.TokenStream;     
import  org.apache.lucene.analysis.standard.StandardAnalyzer;     
    
public   class  StandardAnalyzerTest      
{     
     // 构造函数,      
     public  StandardAnalyzerTest()     
     {     
    }      
     public   static   void  main(String[] args)      
     {     
         // 生成一个StandardAnalyzer对象      
        Analyzer aAnalyzer  =   new  StandardAnalyzer();     
         // 测试字符串      
        StringReader sr  =   new  StringReader( " lighter javaeye com is the are on " );     
         // 生成TokenStream对象      
        TokenStream ts  =  aAnalyzer.tokenStream( " name " , sr);      
         try   {     
             int  i = 0 ;     
            Token t  =  ts.next();     
             while (t != null )     
             {     
                 // 辅助输出时显示行号      
                i ++ ;     
                 // 输出处理后的字符      
                System.out.println( " 第 " + i + " 行: " + t.termText());     
                 // 取得下一个字符      
                t = ts.next();     
            }      
        }   catch  (IOException e)  {     
            e.printStackTrace();     
        }      
    }      
}     

package  lighter.iteye.com;  
 
import  java.io.IOException;  
import  java.io.StringReader;  
 
import  org.apache.lucene.analysis.Analyzer;  
import  org.apache.lucene.analysis.Token;  
import  org.apache.lucene.analysis.TokenStream;  
import  org.apache.lucene.analysis.standard.StandardAnalyzer;  
 
public   class  StandardAnalyzerTest   
{  
     // 构造函数,   
     public  StandardAnalyzerTest()  
     {  
    }   
     public   static   void  main(String[] args)   
     {  
         // 生成一个StandardAnalyzer对象   
        Analyzer aAnalyzer  =   new  StandardAnalyzer();  
         // 测试字符串   
        StringReader sr  =   new  StringReader( " lighter javaeye com is the are on " );  
         // 生成TokenStream对象   
        TokenStream ts  =  aAnalyzer.tokenStream( " name " , sr);   
         try   {  
             int  i = 0 ;  
            Token t  =  ts.next();  
             while (t != null )  
             {  
                 // 辅助输出时显示行号   
                i ++ ;  
                 // 输出处理后的字符   
                System.out.println( " 第 " + i + " 行: " + t.termText());  
                 // 取得下一个字符   
                t = ts.next();  
            }   
        }   catch  (IOException e)  {  
            e.printStackTrace();  
        }   
    }   
}   


显示结果:

第1行:lighter
第2行:javaeye
第3行:com

提示一下:
StandardAnalyzer是lucene中内置的"标准分析器",可以做如下功能:
1、对原有句子按照空格进行了分词
2、所有的大写字母都可以能转换为小写的字母
3、可以去掉一些没有用处的单词,例如"is","the","are"等单词,也删除了所有的标点
查看一下结果与"new StringReader("lighter javaeye com is the are on")"作一个比较就清楚明了。
这里不对其API进行解释了,具体见lucene的官方文档。需要注意一点,这里的代码使用的是lucene2的API,与1.43版有一些明显的差别。

2、看另一个实例,简单地建立索引,进行搜索
Java代码
package  lighter.iteye.com;     
import  org.apache.lucene.analysis.standard.StandardAnalyzer;     
import  org.apache.lucene.document.Document;     
import  org.apache.lucene.document.Field;     
import  org.apache.lucene.index.IndexWriter;     
import  org.apache.lucene.queryParser.QueryParser;     
import  org.apache.lucene.search.Hits;     
import  org.apache.lucene.search.IndexSearcher;     
import  org.apache.lucene.search.Query;     
import  org.apache.lucene.store.FSDirectory;     
    
public   class  FSDirectoryTest  {     
    
     // 建立索引的路径      
     public   static   final  String path  =   " c:\\index2 " ;     
    
     public   static   void  main(String[] args)  throws  Exception  {     
        Document doc1  =   new  Document();     
        doc1.add(  new  Field( " name " ,  " lighter javaeye com " ,Field.Store.YES,Field.Index.TOKENIZED));     
    
        Document doc2  =   new  Document();     
        doc2.add( new  Field( " name " ,  " lighter blog " ,Field.Store.YES,Field.Index.TOKENIZED));     
    
        IndexWriter writer  =   new  IndexWriter(FSDirectory.getDirectory(path,  true ),  new  StandardAnalyzer(),  true );     
        writer.setMaxFieldLength( 3 );     
        writer.addDocument(doc1);     
        writer.setMaxFieldLength( 3 );     
        writer.addDocument(doc2);     
        writer.close();     
    
        IndexSearcher searcher  =   new  IndexSearcher(path);     
        Hits hits  =   null ;     
        Query query  =   null ;     
        QueryParser qp  =   new  QueryParser( " name " , new  StandardAnalyzer());     
             
        query  =  qp.parse( " lighter " );     
        hits  =  searcher.search(query);     
        System.out.println( " 查找\ " lighter\ "  共 "   +  hits.length()  +   " 个结果 " );     
    
        query  =  qp.parse( " javaeye " );     
        hits  =  searcher.search(query);     
        System.out.println( " 查找\ " javaeye\ "  共 "   +  hits.length()  +   " 个结果 " );     
    
    }      
    
}    

package  lighter.iteye.com;  
import  org.apache.lucene.analysis.standard.StandardAnalyzer;  
import  org.apache.lucene.document.Document;  
import  org.apache.lucene.document.Field;  
import  org.apache.lucene.index.IndexWriter;  
import  org.apache.lucene.queryParser.QueryParser;  
import  org.apache.lucene.search.Hits;  
import  org.apache.lucene.search.IndexSearcher;  
import  org.apache.lucene.search.Query;  
import  org.apache.lucene.store.FSDirectory;  
 
public   class  FSDirectoryTest  {  
 
     // 建立索引的路径   
     public   static   final  String path  =   " c:\\index2 " ;  
 
     public   static   void  main(String[] args)  throws  Exception  {  
        Document doc1  =   new  Document();  
        doc1.add(  new  Field( " name " ,  " lighter javaeye com " ,Field.Store.YES,Field.Index.TOKENIZED));  
 
        Document doc2  =   new  Document();  
        doc2.add( new  Field( " name " ,  " lighter blog " ,Field.Store.YES,Field.Index.TOKENIZED));  
 
        IndexWriter writer  =   new  IndexWriter(FSDirectory.getDirectory(path,  true ),  new  StandardAnalyzer(),  true );  
        writer.setMaxFieldLength( 3 );  
        writer.addDocument(doc1);  
        writer.setMaxFieldLength( 3 );  
        writer.addDocument(doc2);  
        writer.close();  
 
        IndexSearcher searcher  =   new  IndexSearcher(path);  
        Hits hits  =   null ;  
        Query query  =   null ;  
        QueryParser qp  =   new  QueryParser( " name " , new  StandardAnalyzer());  
          
        query  =  qp.parse( " lighter " );  
        hits  =  searcher.search(query);  
        System.out.println( " 查找\ " lighter\ "  共 "   +  hits.length()  +   " 个结果 " );  
 
        query  =  qp.parse( " javaeye " );  
        hits  =  searcher.search(query);  
        System.out.println( " 查找\ " javaeye\ "  共 "   +  hits.length()  +   " 个结果 " );  
 
    }   
 
}  


运行结果:

查找 " lighter "  共2个结果  
查找 " javaeye "  共1个结果 


到现在我们已经可以用lucene建立索引了
下面介绍一下几个功能来完善一下:
1.索引格式

其实索引目录有两种格式,

一种是除配置文件外,每一个Document独立成为一个文件(这种搜索起来会影响速度)。

另一种是全部的Document成一个文件,这样属于复合模式就快了。

2.索引文件可放的位置:

索引可以存放在两个地方1.硬盘,2.内存
放在硬盘上可以用FSDirectory(),放在内存的用RAMDirectory()不过一关机就没了

FSDirectory.getDirectory(File file,  boolean  create)
FSDirectory.getDirectory(String path,  boolean  create)

两个工厂方法返回目录
New RAMDirectory()就直接可以
再和

IndexWriter(Directory d, Analyzer a,  boolean  create)

一配合就行了
如:

Java代码
IndexWrtier indexWriter  =   new  IndexWriter(FSDirectory.getDirectory(“c:\\index”, true ), new  StandardAnlyazer(), true );  
IndexWrtier indexWriter  =   new  IndexWriter( new  RAMDirectory(), new  StandardAnlyazer(), true );  

IndexWrtier indexWriter  =   new  IndexWriter(FSDirectory.getDirectory(“c:\\index”, true ), new  StandardAnlyazer(), true );
IndexWrtier indexWriter  =   new  IndexWriter( new  RAMDirectory(), new  StandardAnlyazer(), true );

3.索引的合并
这个可用

IndexWriter.addIndexes(Directory[] dirs)

将目录加进去
来看个例子:
Java代码
public   void  UniteIndex()  throws  IOException  
     {  
        IndexWriter writerDisk  =   new  IndexWriter(FSDirectory.getDirectory( " c:\\indexDisk " ,  true ), new  StandardAnalyzer(), true );  
        Document docDisk  =   new  Document();  
        docDisk.add( new  Field( " name " , " 程序员之家 " ,Field.Store.YES,Field.Index.TOKENIZED));  
        writerDisk.addDocument(docDisk);  
        RAMDirectory ramDir  =   new  RAMDirectory();  
        IndexWriter writerRam  =   new  IndexWriter(ramDir, new  StandardAnalyzer(), true );  
        Document docRam  =   new  Document();  
        docRam.add( new  Field( " name " , " 程序员杂志 " ,Field.Store.YES,Field.Index.TOKENIZED));  
        writerRam.addDocument(docRam);  
        writerRam.close(); // 这个方法非常重要,是必须调用的   
        writerDisk.addIndexes( new  Directory[] {ramDir} );  
        writerDisk.close();  
    }   
     public   void  UniteSearch()  throws  ParseException, IOException  
     {  
        QueryParser queryParser  =   new  QueryParser( " name " , new  StandardAnalyzer());  
        Query query  =  queryParser.parse( " 程序员 " );  
        IndexSearcher indexSearcher  = new  IndexSearcher( " c:\\indexDisk " );  
        Hits hits  =  indexSearcher.search(query);  
        System.out.println( " 找到了 " + hits.length() + " 结果 " );  
         for ( int  i = 0 ;i  
         {  
            Document doc  =  hits.doc(i);  
            System.out.println(doc.get( " name " ));  
        }   
}  

public   void  UniteIndex()  throws  IOException
     {
        IndexWriter writerDisk  =   new  IndexWriter(FSDirectory.getDirectory( " c:\\indexDisk " ,  true ), new  StandardAnalyzer(), true );
        Document docDisk  =   new  Document();
        docDisk.add( new  Field( " name " , " 程序员之家 " ,Field.Store.YES,Field.Index.TOKENIZED));
        writerDisk.addDocument(docDisk);
        RAMDirectory ramDir  =   new  RAMDirectory();
        IndexWriter writerRam  =   new  IndexWriter(ramDir, new  StandardAnalyzer(), true );
        Document docRam  =   new  Document();
        docRam.add( new  Field( " name " , " 程序员杂志 " ,Field.Store.YES,Field.Index.TOKENIZED));
        writerRam.addDocument(docRam);
        writerRam.close(); // 这个方法非常重要,是必须调用的
        writerDisk.addIndexes( new  Directory[] {ramDir} );
        writerDisk.close();
    }
     public   void  UniteSearch()  throws  ParseException, IOException
     {
        QueryParser queryParser  =   new  QueryParser( " name " , new  StandardAnalyzer());
        Query query  =  queryParser.parse( " 程序员 " );
        IndexSearcher indexSearcher  = new  IndexSearcher( " c:\\indexDisk " );
        Hits hits  =  indexSearcher.search(query);
        System.out.println( " 找到了 " + hits.length() + " 结果 " );
         for ( int  i = 0 ;i
         {
            Document doc  =  hits.doc(i);
            System.out.println(doc.get( " name " ));
        }
}


这个例子是将内存中的索引合并到硬盘上来.
注意:合并的时候一定要将被合并的那一方的IndexWriter的close()方法调用。

4.对索引的其它操作:
IndexReader类是用来操作索引的,它有对Document,Field的删除等操作。
下面一部分的内容是:全文的搜索
全文的搜索主要是用:IndexSearcher,Query,Hits,Document(都是Query的子类),有的时候用QueryParser
主要步骤:

1 . new  QueryParser(Field字段, new  分析器)
2 .Query query  =  QueryParser.parser(“要查询的字串”);这个地方我们可以用反射api看一下query究竟是什么类型
3 . new  IndexSearcher(索引目录).search(query);返回Hits
4 .用Hits.doc(n);可以遍历出Document
5 .用Document可得到Field的具体信息了。

其实1 ,2两步就是为了弄出个Query 实例,究竟是什么类型的看分析器了。

拿以前的例子来说吧

Java代码
QueryParser queryParser  =   new  QueryParser( " name " , new  StandardAnalyzer());  
        Query query  =  queryParser.parse( " 程序员 " );  
/**/ /* 这里返回的就是org.apache.lucene.search.PhraseQuery */   
        IndexSearcher indexSearcher  = new  IndexSearcher( " c:\\indexDisk " );  
        Hits hits  =  indexSearcher.search(query);  

QueryParser queryParser  =   new  QueryParser( " name " , new  StandardAnalyzer());
        Query query  =  queryParser.parse( " 程序员 " );
/**/ /* 这里返回的就是org.apache.lucene.search.PhraseQuery */
        IndexSearcher indexSearcher  = new  IndexSearcher( " c:\\indexDisk " );
        Hits hits  =  indexSearcher.search(query);


不管是什么类型,无非返回的就是Query的子类,我们完全可以不用这两步直接new个Query的子类的实例就ok了,不过一般还是用这两步因为它返回的是PhraseQuery这个是非常强大的query子类它可以进行多字搜索用QueryParser可以设置各个关键字之间的关系这个是最常用的了。
IndexSearcher:
其实IndexSearcher它内部自带了一个IndexReader用来读取索引的,IndexSearcher有个close()方法,这个方法不是用来关闭IndexSearche的是用来关闭自带的IndexReader。

QueryParser呢可以用parser.setOperator()来设置各个关键字之间的关系(与还是或)它可以自动通过空格从字串里面将关键字分离出来。
注意:用QueryParser搜索的时候分析器一定的和建立索引时候用的分析器是一样的。
Query:
可以看一个lucene2.0的帮助文档有很多的子类:
BooleanQuery, ConstantScoreQuery, ConstantScoreRangeQuery, DisjunctionMaxQuery, FilteredQuery, MatchAllDocsQuery, MultiPhraseQuery, MultiTermQuery, PhraseQuery, PrefixQuery, RangeQuery, SpanQuery, TermQuery
各自有用法看一下文档就能知道它们的用法了
下面一部分讲一下lucene的分析器:
分析器是由分词器和过滤器组成的,拿英文来说吧分词器就是通过空格把单词分开,过滤器就是把the,to,of等词去掉不被搜索和索引。
我们最常用的是StandardAnalyzer()它是lucene的标准分析器它集成了内部的许多的分析器。
最后一部分了:lucene的高级搜索了
1.排序
Lucene有内置的排序用IndexSearcher.search(query,sort)但是功能并不理想。我们需要自己实现自定义的排序。
这样的话得实现两个接口: ScoreDocComparator, SortComparatorSource
用IndexSearcher.search(query,new Sort(new SortField(String Field,SortComparatorSource)));
就看个例子吧:
这是一个建立索引的例子:

Java代码
public   void  IndexSort()  throws  IOException  
{  
        IndexWriter writer  =   new  IndexWriter( " C:\\indexStore " , new  StandardAnalyzer(), true );  
        Document doc  =   new  Document()  
        doc.add( new  Field( " sort " , " 1 " ,Field.Store.YES,Field.Index.TOKENIZED));  
        writer.addDocument(doc);  
        doc  =   new  Document();  
        doc.add( new  Field( " sort " , " 4 " ,Field.Store.YES,Field.Index.TOKENIZED));  
        writer.addDocument(doc);  
        doc  =   new  Document();  
        doc.add( new  Field( " sort " , " 3 " ,Field.Store.YES,Field.Index.TOKENIZED));  
        writer.addDocument(doc);  
        doc  =   new  Document();  
        doc.add( new  Field( " sort " , " 5 " ,Field.Store.YES,Field.Index.TOKENIZED));  
        writer.addDocument(doc);  
        doc  =   new  Document();  
        doc.add( new  Field( " sort " , " 9 " ,Field.Store.YES,Field.Index.TOKENIZED));  
        writer.addDocument(doc);  
        doc  =   new  Document();  
        doc.add( new  Field( " sort " , " 6 " ,Field.Store.YES,Field.Index.TOKENIZED));  
        writer.addDocument(doc);  
        doc  =   new  Document();  
        doc.add( new  Field( " sort " , " 7 " ,Field.Store.YES,Field.Index.TOKENIZED));  
        writer.addDocument(doc);  
        writer.close();  
}  

public   void  IndexSort()  throws  IOException
{
        IndexWriter writer  =   new  IndexWriter( " C:\\indexStore " , new  StandardAnalyzer(), true );
        Document doc  =   new  Document()
        doc.add( new  Field( " sort " , " 1 " ,Field.Store.YES,Field.Index.TOKENIZED));
        writer.addDocument(doc);
        doc  =   new  Document();
        doc.add( new  Field( " sort " , " 4 " ,Field.Store.YES,Field.Index.TOKENIZED));
        writer.addDocument(doc);
        doc  =   new  Document();
        doc.add( new  Field( " sort " , " 3 " ,Field.Store.YES,Field.Index.TOKENIZED));
        writer.addDocument(doc);
        doc  =   new  Document();
        doc.add( new  Field( " sort " , " 5 " ,Field.Store.YES,Field.Index.TOKENIZED));
        writer.addDocument(doc);
        doc  =   new  Document();
        doc.add( new  Field( " sort " , " 9 " ,Field.Store.YES,Field.Index.TOKENIZED));
        writer.addDocument(doc);
        doc  =   new  Document();
        doc.add( new  Field( " sort " , " 6 " ,Field.Store.YES,Field.Index.TOKENIZED));
        writer.addDocument(doc);
        doc  =   new  Document();
        doc.add( new  Field( " sort " , " 7 " ,Field.Store.YES,Field.Index.TOKENIZED));
        writer.addDocument(doc);
        writer.close();
}



下面是搜索的例子:
Java代码
public void SearchSort1() throws IOException, ParseException  
{  
        IndexSearcher indexSearcher = new IndexSearcher("C:\\indexStore");  
        QueryParser queryParser = new QueryParser("sort",new StandardAnalyzer());  
        Query query = queryParser.parse("4");  
         
        Hits hits = indexSearcher.search(query);  
        System.out.println("有"+hits.length()+"个结果");  
        Document doc = hits.doc(0);  
        System.out.println(doc.get("sort"));  
}  
public void SearchSort2() throws IOException, ParseException  
{  
        IndexSearcher indexSearcher = new IndexSearcher("C:\\indexStore");  
        Query query = new RangeQuery(new Term("sort","1"),new Term("sort","9"),true);//这个地方前面没有提到,它是用于范围的Query可以看一下帮助文档.  
        Hits hits = indexSearcher.search(query,new Sort(new SortField("sort",new MySortComparatorSource())));  
        System.out.println("有"+hits.length()+"个结果");  
        for(int i=0;i  
        {  
            Document doc = hits.doc(i);  
            System.out.println(doc.get("sort"));  
        }  
}  
public class MyScoreDocComparator implements ScoreDocComparator  
{  
    private Integer[]sort;  
    public MyScoreDocComparator(String s,IndexReader reader, String fieldname) throws IOException  
    {  
        sort = new Integer[reader.maxDoc()];  
        for(int i = 0;i  
        {  
            Document doc =reader.document(i);  
            sort[i]=new Integer(doc.get("sort"));  
        }  
    }  
    public int compare(ScoreDoc i, ScoreDoc j)  
    {  
        if(sort[i.doc]>sort[j.doc])  
            return 1;  
        if(sort[i.doc]  
            return -1;  
        return 0;  
    }  
    public int sortType()  
    {  
        return SortField.INT;  
    }  
    public Comparable sortValue(ScoreDoc i)  
    {  
        // TODO 自动生成方法存根  
        return new Integer(sort[i.doc]);  
    }  
}  
public class MySortComparatorSource implements SortComparatorSource  
{  
    private static final long serialVersionUID = -9189690812107968361L;  
    public ScoreDocComparator newComparator(IndexReader reader, String fieldname)  
            throws IOException  
    {  
        if(fieldname.equals("sort"))  
            return new MyScoreDocComparator("sort",reader,fieldname);  
        return null;  
    }  


public void SearchSort1() throws IOException, ParseException
{
        IndexSearcher indexSearcher = new IndexSearcher("C:\\indexStore");
        QueryParser queryParser = new QueryParser("sort",new StandardAnalyzer());
        Query query = queryParser.parse("4");
      
        Hits hits = indexSearcher.search(query);
        System.out.println("有"+hits.length()+"个结果");
        Document doc = hits.doc(0);
        System.out.println(doc.get("sort"));
}
public void SearchSort2() throws IOException, ParseException
{
        IndexSearcher indexSearcher = new IndexSearcher("C:\\indexStore");
        Query query = new RangeQuery(new Term("sort","1"),new Term("sort","9"),true);//这个地方前面没有提到,它是用于范围的Query可以看一下帮助文档.
        Hits hits = indexSearcher.search(query,new Sort(new SortField("sort",new MySortComparatorSource())));
        System.out.println("有"+hits.length()+"个结果");
        for(int i=0;i
        {
            Document doc = hits.doc(i);
            System.out.println(doc.get("sort"));
        }
}
public class MyScoreDocComparator implements ScoreDocComparator
{
    private Integer[]sort;
    public MyScoreDocComparator(String s,IndexReader reader, String fieldname) throws IOException
    {
        sort = new Integer[reader.maxDoc()];
        for(int i = 0;i
        {
            Document doc =reader.document(i);
            sort[i]=new Integer(doc.get("sort"));
        }
    }
    public int compare(ScoreDoc i, ScoreDoc j)
    {
        if(sort[i.doc]>sort[j.doc])
            return 1;
        if(sort[i.doc]
            return -1;
        return 0;
    }
    public int sortType()
    {
        return SortField.INT;
    }
    public Comparable sortValue(ScoreDoc i)
    {
        // TODO 自动生成方法存根
        return new Integer(sort[i.doc]);
    }
}
public class MySortComparatorSource implements SortComparatorSource
{
    private static final long serialVersionUID = -9189690812107968361L;
    public ScoreDocComparator newComparator(IndexReader reader, String fieldname)
            throws IOException
    {
        if(fieldname.equals("sort"))
            return new MyScoreDocComparator("sort",reader,fieldname);
        return null;
    }
}
SearchSort1()输出的结果没有排序,SearchSort2()就排序了。
2.多域搜索MultiFieldQueryParser
如果想输入关键字而不想关心是在哪个Field里的就可以用MultiFieldQueryParser了
用它的构造函数即可后面的和一个Field一样。
MultiFieldQueryParser. parse(String[] queries, String[] fields, BooleanClause.Occur[] flags, Analyzer analyzer)                                          ~~~~~~~~~~~~~~~~~
第三个参数比较特殊这里也是与以前lucene1.4.3不一样的地方
看一个例子就知道了
String[] fields = {"filename", "contents", "description"};
BooleanClause.Occur[] flags = {BooleanClause.Occur.SHOULD,
                BooleanClause.Occur.MUST,//在这个Field里必须出现的
                BooleanClause.Occur.MUST_NOT};//在这个Field里不能出现
MultiFieldQueryParser.parse("query", fields, flags, analyzer);

1、lucene的索引不能太大,要不然效率会很低。大于1G的时候就必须考虑分布索引的问题

2、不建议用多线程来建索引,产生的互锁问题很麻烦。经常发现索引被lock,无法重新建立的情况

3、中文分词是个大问题,目前免费的分词效果都很差。如果有能力还是自己实现一个分词模块,用最短路径的切分方法,网上有教材和demo源码,可以参考。

4、建增量索引的时候很耗cpu,在访问量大的时候会导致cpu的idle为0

5、默认的评分机制不太合理,需要根据自己的业务定制



整体来说lucene要用好不容易,必须在上述方面扩充他的功能,才能作为一个商用的搜索引擎


本文来自CSDN博客:http://blog.csdn.net/neusoftware_20063500/archive/2009/03/08/3969365.aspx
分享到:
评论

相关推荐

    lucene入门小例子

    这个“lucene入门小例子”很可能是为了帮助初学者理解并掌握Lucene的基本用法而设计的一系列示例代码。 Lucene的核心概念包括索引、文档、字段和查询。首先,你需要理解索引的概念,它类似于传统数据库中的索引,但...

    Lucene 2.4 入门例子

    **Lucene 2.4 入门例子** Lucene 是一个高性能、全文本搜索库,由Apache软件基金会开发。它提供了强大的搜索功能,被广泛应用于各种应用中的信息检索。在这个入门例子中,我们将探讨Lucene 2.4版本的一些关键特性和...

    Lucene5.2.1 入门学习例子

    Lucene5.2.1 入门学习例子. 这是别人的例子源码。可以参考。内有使用说明。

    一个经典Lucene入门模块及例子解析

    在这个经典Lucene入门模块中,我们将深入理解如何使用Lucene进行索引创建和搜索操作。 首先,我们来看Lucene如何建立数据的索引。这通常涉及以下几个步骤: 1. **索引创建**:使用 `IndexWriter` 对象来创建或更新...

    lucene_demo例子

    《Lucene实战(第2版) PDF高清中文版.pdf》这本书是关于Apache Lucene的一本经典教程,适合初学者入门。Lucene是一个全文搜索引擎库,它提供了强大的文本搜索功能,被广泛应用于各种信息检索系统中。这本书详细介绍了...

    lucene搜索的简单入门例子源代码

    本篇将通过一个简单的入门例子,带你了解如何使用Lucene进行搜索。 首先,我们要知道Lucene的核心组件包括文档(Document)、字段(Field)、索引(Index)和查询(Query)。在Lucene中,信息是以文档的形式存储,...

    lucene例子

    lucene入门例子,有创建索引和检索。详情:http://blog.csdn.net/authorzhh/article/details/7869806

    lucene 3.0 入门实例

    doc.add(new Field("title", "Lucene入门", Field.Store.YES, Field.Index.ANALYZED)); doc.add(new Field("content", "这是Lucene 3.0的实例", Field.Store.YES, Field.Index.ANALYZED)); ``` 3. **查询...

    Lucene入门示例

    **Lucene入门示例** Lucene是一个开源的全文搜索引擎库,由Apache软件基金会开发并维护。它是Java语言实现的,但提供了多种语言的接口,包括Python、C#等。本示例将帮助初学者理解Lucene的基本用法,以及如何在实际...

    Lucene4.7+IK Analyzer中文分词入门教程

    这里提供了一个简单的例子,包括一个`DataFactory`类,用于模拟存储药品信息,以及一个`LuceneIKUtil`类,用于实现Lucene索引和搜索功能。`DataFactory`包含了一个`List&lt;Medicine&gt;`,每个`Medicine`对象包含了药品ID...

    【大搜集:lucene学习资料】---<下载不扣分,回帖加1分,欢迎下载,童叟无欺>

    lucene入门实战.txt Lucene 的学习 .txt Lucene-2.0学习文档 .txt Lucene入门与使用 .txt lucene性能.txt 大富翁全文索引和查询的例子程序.txt 关于lucene2.0的创建、检索和删除功能的完整实现.doc web...

    开发自己的搜索引擎《lucene2.0+heritrix》一书对应的源码资料

    在《开发自己的搜索引擎》一书中,通过`ch2-lucene入门小例子`,读者可以了解到如何使用Lucene 2.0创建简单的搜索引擎,例如建立索引、执行搜索等基本操作。而`myReserch-可用的网络搜索引擎`可能包含一个完整的搜索...

    Lucene常用的Demo

    `LuceneDemo`通常包含更复杂的例子,可能涉及多字段搜索、评分机制、过滤器以及排序等功能。这个示例可能涵盖了从数据源读取数据、创建索引、查询优化和结果处理的完整流程。学习此示例,可以帮助你理解如何利用`...

    Lucene in action 2nd edition

    《Lucene in Action》第二版是一本不可多得的Lucene学习宝典,它不仅内容丰富、实用性强,而且涵盖了从入门到精通的各个阶段。无论是作为个人学习资料还是作为专业开发者的参考书,本书都能够提供有价值的指导和支持...

    solr_开发入门例子

    本文将基于"solr_开发入门例子"这一主题,详细解释Solr的基础知识,包括其核心概念、安装配置、索引创建与查询,以及相关的开发工具。 1. **Solr核心概念** - **索引**: Solr通过建立倒排索引来实现快速全文检索。...

    lucene实例(包括分页、中文检索等)

    lucene实例是一个比较详细的例子,包括lucene的入门到高级实例,代码里有比较详细的实例,所有的实例都是通过junit来测试的。实例包括各种搜索:如通配符查询、模糊查询、查询结果的分页、中文分词器、自定义分词器...

    lucenelucenelucenelucene

    - **lucene简介原理及实践.ppt**:这份 PPT 可能概述了 Lucene 的基本原理,并给出了实际操作的例子,帮助初学者快速入门。 总的来说,Lucene 是一个强大且灵活的搜索库,通过理解其基本原理和实践,开发者可以构建...

Global site tag (gtag.js) - Google Analytics