solr6.2从环境部署到与mysql整合到中文分词器到solrJ的使用

莫欺少年穷Java

浏览: 285948 次
性别:
来自: 沈阳

最近访客更多访客>>

lingdong369

nijianguo1989

gaowei

xiaodong_

博主相关

博客

微博

相册

留言

关于我

文章分类

社区版块

存档分类

博客分类：

solr

solr mysql 分词 solrJ

solr就不多介绍了。是用于搜索功能的开源工具，很强大

一、solr环境部署

solr本身能够用jetty启动，但是还是用tomcat启动比较适合我自己。学习solr有两个星期了，到现在（2016.11.27）solr最新版已经是6.3.0了，不过没关系，基本的东西都是一样的。

1、solr官网： http://lucene.apache.org/solr/

下载后解压，是这样的目录结构：

2、solr当然可以直接按网上其他很多教程那样整合到tomcat中，但是本人更喜欢建一个新工程，这样更灵活。下面我们在eclipse中新建一个tomcat-solr的java web工程，不过这里要注意，要把这个工程的访问路径变成solr，不能是tomcat-solr，因为solr的管理页面中，solr的开发者把这个目录写死了，我们要把访问路径改成solr，也就是：http://localhost:8080/solr/index.html ，怎么改呢：

在eclipse中：

下面我们进行如下操作：

1）将solr-6.2.1\server\solr-webapp\webapp下的内容copy到我们web工程的webapp下

2）将solr-6.2.1\server\lib\ext下的jar包，copy到我们的tomcat-solr功能中

3）将solr-6.2.1\server\resources\log4j.properties文件copy到tomcat-solr功能的src中，

4）在tomcat-solr工程的webapp文件夹下，新建文件夹solrhome，将solr-6.2.1\server\solr下的文件夹以及文件copy到solrhome中，

5）修改web.xml文件，修改env-entry-value的值为solrhome的绝对位置，如：

6）启动tomcat，访问http://localhost:8080/solr/index.html

到此，solr部署完毕。
我们的tomcat-solr功能应该长得如此帅：

对了，solr支持zookeeper搭建集群配置，在这里我们先注释掉，在solrhome文件夹下的solr.xml文件中，

<solr>
<!-- 注解掉zookeeper搭建集群配置，采用master-slave的形式
  <solrcloud>

    <str name="host">${host:}</str>
    <int name="hostPort">${jetty.port:8983}</int>
    <str name="hostContext">${hostContext:solr}</str>

    <bool name="genericCoreNodeNames">${genericCoreNodeNames:true}</bool>

    <int name="zkClientTimeout">${zkClientTimeout:30000}</int>
    <int name="distribUpdateSoTimeout">${distribUpdateSoTimeout:600000}</int>
    <int name="distribUpdateConnTimeout">${distribUpdateConnTimeout:60000}</int>
    <str name="zkCredentialsProvider">${zkCredentialsProvider:org.apache.solr.common.cloud.DefaultZkCredentialsProvider}</str>
    <str name="zkACLProvider">${zkACLProvider:org.apache.solr.common.cloud.DefaultZkACLProvider}</str>

  </solrcloud>

  <shardHandlerFactory name="shardHandlerFactory"
    class="HttpShardHandlerFactory">
    <int name="socketTimeout">${socketTimeout:600000}</int>
    <int name="connTimeout">${connTimeout:60000}</int>
  </shardHandlerFactory>
-->
</solr>

二、core配置

solr的core非常重要，还有什么多core什么的，由于我也是刚刚学习，还没有搞明白，这里只是能够用最简单的，我们将在solrhome文件夹下，新建文件夹：my_solr，然后将solr-6.2.1\example\example-DIH\solr\solr下的文件以及文件夹copy到my_solr下，

访问刚才的地址：

三、整合mysql

1、首先我们在mysql中建个表作为练习，

CREATE TABLE `solrTest` (
  `solrID` int(11) NOT NULL AUTO_INCREMENT COMMENT 'ID',
  `context` varchar(255) DEFAULT NULL COMMENT 'context',
  `updateTime` datetime DEFAULT NULL COMMENT 'updateTime',
  `sort` int(11) DEFAULT '1' COMMENT '排序',
  PRIMARY KEY (`solrID`)
) DEFAULT CHARSET=utf8;

2、将mysql的驱动jar包，copy到我们tomcat-solr功能中（lib文件夹下，这个们问题的吧），

3、修改my_solr文件夹下的conf文件夹下的solr-data-config.xml文件：

<dataConfig>

  <dataSource type="JdbcDataSource" 
  	driver="com.mysql.jdbc.Driver" 
  	url="jdbc:mysql://localhost:3306/test" 
  	user="root" 
  	password="123456"/>
  	
  <document name="solr_mysql_test">
    <entity name="solrTest" 
    	pk="solrID" 
    	query="select * from solrTest" 
    	deltaImportQuery="select * from solrTest where solrID = '${dih.delta.solrID}'" 
       	deltaQuery="select solrID from solrTest where updateTime > '${dataimporter.last_index_time}'"/>
        	
      <field column="solrID" name="solrID"/>  
　　　    <field column="context" name="context"/>  
      <field column="updateTime" name="updateTime"/> 
      <field column="sort" name="sort"/> 
      
  </document>
</dataConfig>

这里面的内容具体什么意思，网上有很多专门介绍的文章博客，这里就不多说了

4、修改conf文件夹下的managed-schema文件，在schema标签下添加field

<field name="solrID" type="string" required="true" indexed="true" stored="true" multiValued="false"/>
<field name="context" type="string" indexed="true" stored="true" multiValued="false"/>
<field name="updateTime" type="date" indexed="true" stored="true" multiValued="false"/>
<field name="sort" type="int" indexed="true" stored="true" multiValued="false"/>

这里面name对应solr-data-config.xml中的name，要一直，否则solr就找不到字段了，

type是类型，indexed代表是否可用于检索，stored代表是否存储，multiValued代表是否有多个值，除此之外还有很多字段，读者可以移步度娘。

（另外说一下，我这里用的其实是schema.xml，而不是managed-schema文件，不过感觉都是一个样）

下面，看下我们的成就（别忘了mysql填点数据哦，否则啥也看不出来）：

先刷新下solr数据：

然后查数据：

四、下面，我们看看中文分词器

solr本分提供了很多分词器（不过对中文的分词实在不能用，愤怒！！！），对了，那么什么是分词呢？比如“数据结构”这个词，没分词前，solr就按“数据结构”这个词查（有点像mysql的=），中文分词后，就按“数据”，“结构”这两个词查（有点像like），这样更符合我们的搜索习惯

有很多支持solr中文分词的jar包，比如我们用的IKAnalyzer中文分词器

我们首先导入IKAnalyzer的jar包，注意IKAnalyzer的jar包要与solr版本对应，否则会execption的，

然后在managed-schema文件的最后：

    <!-- IKAnalyzer中文分词器.如果版本与solr对应不上,会报抽象方法错误 -->
	<fieldType name="text_ik" class="solr.TextField">
	    <!--索引时候的分词器-->
		<analyzer type="index" isMaxWordLength="false" class="org.wltea.analyzer.lucene.IKAnalyzer"/>
		<!--查询时候的分词器-->
		<analyzer type="query" isMaxWordLength="true" class="org.wltea.analyzer.lucene.IKAnalyzer"/>
	</fieldType>

在然后，比如我们数据库表中的context字段要进行分词，那么修改field：

<field name="context" type="text_ik" indexed="true" stored="true" multiValued="false"/>

也就是修改type为分词器的name

这时我们在去solr查询一下，我们先填几条数据：

去看看成果：

五、solrJ是连接我们java工程和solr的工具jar包，很实用

简单的使用示例：

public class SolrQueryTest {
	
	//solr 服务器地址  
    public static final String solrServerUrl = "http://localhost:8080/solr";  
    
    //solrhome下的core  
    public static final String solrCroeHome = "my_solr";  
    
    @SuppressWarnings({ "resource", "deprecation" })
	public static void main(String[] args) {
    	try {
    		//SolrClient client = new HttpSolrClient(solrServerUrl + "/" + solrCroeHome);
			//QueryResponse resp = client.query(new SolrQuery("*:*"));
			
			SolrClient client = new HttpSolrClient(solrServerUrl);
			QueryResponse resp = client.query(solrCroeHome, new SolrQuery("*:*"));
			List<TestBean> lists =  resp.getBeans(TestBean.class);
			System.out.println(lists);
		} catch (SolrServerException e) {
			e.printStackTrace();
		} catch (IOException e) {
			e.printStackTrace();
		}
	}
}

bean（注意要有solrJ的注解）：

public class TestBean {

	@Field("solrID")
	private String solrID;
	
	@Field("context")
	private String context;
	
	@Field("updateTime")
	private Date updateTime;

	public String getSolrID() {
		return solrID;
	}

	public void setSolrID(String solrID) {
		this.solrID = solrID;
	}

	public String getContext() {
		return context;
	}

	public void setContext(String context) {
		this.context = context;
	}

	public Date getUpdateTime() {
		return updateTime;
	}

	public void setUpdateTime(Date updateTime) {
		this.updateTime = updateTime;
	}

}

solr在查询时，也有很多方法，能够设置查询的条件，比如分页、分片检索、结果的过滤条件、排序等，下面只是一个示例，我一个功能的代码片段：

		/**
		 * 设置查询信息
		 */
	        solrQuery.setQuery(this.getQueryFields(keyWord));	//设置基本查询
	        
	        /**
	         * 设置查询条件
	         */
	        solrQuery.setFilterQueries(this.getFielder(condition));
	        
	        /**
	         * 分页
	         */
	        solrQuery.setStart(pInteger);
	        solrQuery.setRows(systemConfigureUtil.getSolrRow());
			
	        /**
	         * 分片检索(分类检索)——
	         */
	        solrQuery.setFacet(systemConfigureUtil.isFacet());
	        solrQuery.add("facet.field", systemConfigureUtil.getFacetStr());	//可以按多个字段分类，用逗号分隔

	        /**
	         * 设置过滤结果——能查询出那些字段
	         */
	        solrQuery.add("fl", systemConfigureUtil.getFilterFields());
	        
	        /**
	         * 排序,注意是有顺序的
	         */
	        solrQuery.setSort(this.getSort(0));	//setSort()会覆盖之前的查询条件
	        solrQuery.addSort("sort", SolrQuery.ORDER.desc);	//addSort()不会覆盖之前的查询条件

到此，我学到的solr的东西也就这些了，还会继续学习的。

我搭建好的tomcat-solr功能在我的github中：https://github.com/hejiawang/tomcat-solr

solrJ的练习工程：https://github.com/hejiawang/search-web