Solr、lucene查询语句作或查询时的注意点

在使用lucene做搜索引擎时，中文的查询是值得注意的一点。其中有一些问题需要尤其注意：

首先推荐在lucene方面的牛人的博客：http://forfuture1978.iteye.com/blog/588716，这里有关于查询的一些疑惑，在此不再做介绍。另：他的其他关于lucene的文章，也强烈推荐。

在查询方面，与的查询，基本不会有太大问题，中文分词工具分好词后，所有的term都会变为PhraseQuery的方式，依次对查询条件进行查询。

如果用户输入的查询条件，想到的是或的关系，或者因为需求方面的问题，希望返回更多的数据给用户，则都需要使用或的关系。

1. autoGeneratePhraseQueries=false
由于lucene默认是使用PhraseQuery来检索数据，那我们的需求就不满足了，这里需要做一个简单的修改，在schema.xml中：

<fieldType name="text" class="solr.TextField" positionIncrementGap="100" autoGeneratePhraseQueries="false">

其中autoGeneratePhraseQueries为true时，为精确查找，即AND的关系，改为false即可。此时，Query的实现类变为BooleanQuery，多个term变为SHOULD的关系，便实现了OR的需求。

下面来看一下源代码：
QueryParse.term(String)的部分代码为

       if (wildcard) {
         q = getWildcardQuery(field, termImage);
       } else if (prefix) {
         q = getPrefixQuery(field,
           discardEscapeChar(term.image.substring
          (0, term.image.length()-1)));
       } else if (fuzzy) {
          float fms = fuzzyMinSim;
          try {
            fms = Float.valueOf(fuzzySlop.image.substring(1)).floatValue();
          } catch (Exception ignored) { }
         if(fms < 0.0f || fms > 1.0f){
           {if (true) throw new ParseException("Minimum similarity for a FuzzyQuery has to be between 0.0f and 1.0f !");}
         }
         q = getFuzzyQuery(field, termImage,fms);
       } else {
         q = hasNewAPI ? getFieldQuery(field, termImage, false) : getFieldQuery(field, termImage);
       }
     

注意

q = hasNewAPI ? getFieldQuery(field, termImage, false) : getFieldQuery(field, termImage);

这一句中，hasNewAPI =true(3.1版本中为静态变量)，则进入getFieldQuery(field, termImage, false)中：

if (numTokens == 0)
      return null;
    else if (numTokens == 1) {
      ....
    else {
       if (severalTokensAtSamePosition || (!quoted && !autoGeneratePhraseQueries)) {
            BooleanQuery q = newBooleanQuery(positionCount == 1);
       }else{
            PhraseQuery pq = newPhraseQuery();
       }
    }

这里可以看到，如果autoGeneratePhraseQueries为false，才能创建BooleanQuery对象，否则就为PhraseQuery。

2. 禁用"？*~等一些特殊字符
在term()的代码中，如果使用字符"*?~则会进入下面的伪代码中：

 case PREFIXTERM:
       q = getPrefixQuery(field,
           discardEscapeChar(term.image.substring
          (0, term.image.length()-1)));
 case WILDTERM:
        term = jj_consume_token(WILDTERM);
                           wildcard=true;
 case QUOTED:
         q = getFieldQuery(field, discardEscapeChar
(term.image.substring(1, term.image.length()-1)), s);
 case FUZZY_SLOP:
         q = getFuzzyQuery(field, termImage,fms);

他们最终产生的对象，都不会是BooleanQuery。这样的情况下，导致这些分支都进入不到

 q = hasNewAPI ? getFieldQuery(field, termImage, false) : getFieldQuery(field, termImage);

中，这样一来，所有的处理都变成以AND为前提的处理

3. 思考
怎么处理这样的问题呢？目前正在探索中，暂时考虑到的方式就是在客户端先作一次预处理，将不符合OR场景的情况都处理成OR的情况，然后再交给lucene去处理。当然，这个方案有个很明显的问题，即分词模块都要集成到客户端，造成很大的冗余。

有什么好的方法吗？欢迎提出

评论

1 楼 muqingren 2013-11-01  

写的很好