`
mengxiangfeng101
  • 浏览: 1566 次
社区版块
存档分类
最新评论

转自:跟益达学Solr5之从MySQL数据库导入数据并索引

阅读更多

  最近有小伙伴跟我抱怨说:益达,最近博客更新的有点慢呐。其实不是我变懒了,我是不想因为数量而降低了博客的质量,我需要抱着对你们负责的态度来写每一篇博客,绝不能含糊啊,所以,还望大家多多包涵呐。

今天群里一朋友问我Solr如何对数据库表里的数据进行索引,为此,今晚特地更新此篇博客,这里我以Solr当前最新版本5.1.0,数据库MySQL为例进行讲解说明。

首先我们需要准备一张测试表,如图:

 

 

 
测试表创建好了之后,我们需要让表里插入几条测试数据,如图:

 
然后需要把E:\solr-5.1.0\dist目录下的solr-dataimporthandler-5.1.0.jar复制到E:\apache-tomcat-7.0.55\webapps\solr\WEB-INF\lib目录下,如图:


 
 
复制一个MySQL数据库驱动jar包到E:\apache-tomcat-7.0.55\webapps\solr\WEB-INF\lib目录下(如果你使用的Oracle数据库,那就是复制Oracle数据库驱动jar包,你懂的),如图:

 
然后你需要创建solr_home根目录,以及在solr_home创建你的core目录结构,如图:

 
至于如何创建,请参见我先前写的《跟益达学Solr5之使用Jetty部署Solr,这里就不再赘述了。

默认dataImport功能在Solr5中是禁用的,需要在solrconfig.xml中添加如下配置开启数据导入功能:

Xml代码  收藏代码
  1. <requestHandler name="/dataimport" class="solr.DataImportHandler">  
  2.       <lst name="defaults">  
  3.             <str name="config">data-config.xml</str>  
  4.       </lst>  
  5. </requestHandler>  

 

这里的data-config.xml是个相对路径,是相对于你当前core下的conf目录即C:\solr_home\core1\conf,当然你也可以直接写成绝对路径,比如:C:\solr_home\core1\conf\data-config.xml,建议写成相对路径。

 

E:\solr-5.1.0\example\example-DIH\solr\solr\conf路径下复制一份 data.config.xml配置文件到solrconfig.xml配置文件的同级目录C:\solr_home\core1\conf下,如图:


 

 
然后我们需要使用文本编辑软件打开data-config.xml配置文件稍作修改,如图:

 
其中solrDB为数据源自定义名称,随便取,没什么约束,type这是固定值,表示JDBC数据源,后面的driver表示JDBC驱动类,这跟你使用的数据库有关,urlJDBC链接URL,后面的userpassword分别表示链接数据库的账号密码,下面的entity映射有点类似hiberantemapping映射,column即数据库表的列名称,nameschema.xml中定义的域名称

 

紧接着我们需要打开schema.xml配置文件对域名称、域类型、是否索引、是否存储、是否分词等信息进行配置,如图:

 
注意:这里的cndate域类型是我自定义的域类型,我在下面定义的,看图:

 
TrieCNDateField是我自定义的域类型,源码我稍候分享,主要是为了使日期能以我们习惯的yyyy-MM-dd HH:mm:ss这种格式来存储,而不是默认的西方人习惯的类似这样的格式:1995-12-31T23:59:59Z

 
本来是想直接修改TrieDateField的源码的,但我感觉那样不够优雅,所以我新建了一个Java Project----> solr-core-extra,然后我把他打包成了jar包。

 
把这个jar包复制到E:\apache-tomcat-7.0.55\webapps\solr\WEB-INF\lib目录下,如图:

 
然后启动我们的Tomcat,如图:

 
这里我假定你们都已经成功把Solr5部署到了Tomcat下了,如果Tomcat正常启动后,我们会看到:

 
然后打开你们的浏览器,访问http://localhost:8080/solr,确保我们的Solr Web UI能正常访问,如图:

 
点击左侧的Dataimport菜单,不出意外的话,你将看到如图截图:

 
需要引起注意的是这里的command参数,它有两个选项,如图:

 
full-import:全量导入,它会覆盖原有的索引

delta-import:即增量导入,它会在原有索引的基础上追加

下面的几个多选框含义解释如下:

verbose:这个选项设为true的话,会打印导入的一些中间过程的详细信息,有利于调试以及了解内部操作细节

clean:表示是否在导入数据创建索引之前先清空掉原有的索引

commit:表示是否立即提交索引

optimize:表示是否优化索引

debug: 表示是否开启调试模式

 

然后选择需要导入的Entity,点击Execute按钮开始执行数据导入操作,如图:

 
如果你看到indexing字样,如图:


 
如果你导入的数据并不多,但这个界面停留了很长时间(比如超过了30秒,就不需要再傻傻等着了),那么很有可能数据导入过程出错了,这时,请切换到logging菜单查看solr日志,如图:

 
日志提示有几个html文件找不到,我们可以在solr的解压安装目录下可以找到,如图:

 
然后我们需要清掉索引目录重新执行dataimport操作,如图:

 
然后重启我们的tomcat,重新执行dataimport操作,如图:

 
切换到overview菜单,我们会看到:

 
切换到Query菜单,对我们刚插入的索引进行查询测试,如图:

 
OK,至此从数据库导入数据并索引就讲解到这儿了,至于最后抛出的问题就留给你们自己解决啦,最后关于我自定义的日期域类型我会在底下的附件里上传,因为ITeye不适合上传大文件,所以依赖的jar包我就不提供了,需要完整源码的,请从我提供的百度网盘地址去下载:

      http://pan.baidu.com/s/1i3J4DZf

分享到:
评论

相关推荐

    跟益达学Solr5之从MySQL数据库导入数据并索引

    《跟益达学Solr5之从MySQL数据库导入数据并索引》这篇文章主要探讨了如何使用Apache Solr 5从MySQL数据库中导入数据并建立索引,以便进行高效的全文搜索。Solr是一款强大的开源搜索服务器,它提供了丰富的查询语言、...

    跟益达学Solr5之增量索引MySQL数据库表数据

    在这个主题“跟益达学Solr5之增量索引MySQL数据库表数据”中,我们将深入探讨如何利用Solr 5来实现对MySQL数据库表数据的增量索引,以便在搜索时获得实时更新的结果。 首先,我们需要理解什么是增量索引。在传统的...

    转自:跟益达学Solr5之玩转post.jar

    《跟益达学Solr5之玩转post.jar》这篇博文主要探讨了如何利用Solr的`post.jar`工具进行数据导入,这是Solr提供的一个非常实用的功能,用于快速将各种格式的数据导入到Solr索引中。在这个过程中,我们不仅会了解`post...

    跟益达学Solr5之索引文件夹下所有文件

    总之,"跟益达学Solr5之索引文件夹下所有文件"教程涵盖了从安装配置Solr5,创建核心,配置文件索引,到数据导入,查询优化以及监控维护等一系列步骤。通过学习这些内容,你可以掌握如何利用Solr5构建一个强大的文件...

    跟益达学Solr5之使用Tika从PDF中提取数据导入索引

    在本篇博文中,“跟益达学Solr5之使用Tika从PDF中提取数据导入索引”,我们将探讨如何利用Apache Solr 5和Tika这两个强大的开源工具,从PDF文档中抽取数据并将其有效地导入到Solr索引库中。Apache Solr是一款功能...

    跟益达学Solr5之批量索引JSON数据

    《Solr5批量索引JSON数据详解》 在大数据时代,高效检索与分析大量文本信息是企业业务中不可或缺的一部分。Apache Solr,作为一款强大的开源搜索引擎,提供了对JSON等多格式数据的快速索引和查询能力。本篇将深度...

    跟益达学Solr5之索引网络上远程文件

    《Solr5索引网络上远程文件详解》 在信息技术领域,搜索引擎的高效与便捷是不可或缺的,Apache Solr作为一款强大的开源搜索平台,被广泛应用于各种数据检索场景。本篇我们将深入探讨如何利用Solr5来索引网络上的...

    跟益达学Solr5之使用IK分词器

    本篇将围绕“跟益达学Solr5之使用IK分词器”这一主题,详细讲解如何在Solr5中集成并运用IK分词器,以及它的工作原理和优化技巧。 首先,让我们了解下什么是分词器。在中文搜索引擎中,由于中文句子没有明显的分隔符...

    跟益达学Solr5之使用Ansj分词器

    《跟益达学Solr5之使用Ansj分词器》 在中文信息检索和文本分析领域,分词是至关重要的第一步。Solr,作为一款强大的开源搜索平台,提供了多种分词器供用户选择,其中之一就是Ansj分词器。这篇文章将深入探讨如何在...

    跟益达学Solr5之拼音分词

    它会将用户的输入转换为拼音,并与索引中的拼音数据进行比较,从而找到匹配的文档。 4. **优化性能**: 为了提高查询效率,可以使用一些技巧,如建立拼音的倒排索引,减少查询时的计算量;或者使用n-gram技术,将...

    跟益达学Solr5之使用MMSeg4J分词器

    《Solr5与MMSeg4J分词器深度解析》 在中文信息检索和文本分析领域,分词是至关重要的第一步。Solr,作为一款强大的开源全文搜索引擎,提供了多种分词器供用户选择,其中之一就是MMSeg4J。本篇文章将带你深入学习...

    Solr 权威指南上下卷

    国内较早接触Solr的技术专家之一,长期致力于Solr的技术研究、实践和生产环境部署,是Solr社区的积极参与者和实践者,以让Solr技术能够在中国得到广泛应用不遗余力并乐此不疲。现就职于国美金融,曾就职于各种大大...

    mysql面试题-电商零售数据分析

    该资源为utf-8格式的csv文件,可以直接根据列名建表后插入mysql数据库表。但使用excel打开时会出现中文乱码,可以先用记事本将其编码格式改为ANSI,再使用excel打开。 3. 适合人群: 初中级数据分析师,1-3年相关...

    mysql5.5(服务器+客户端)

    2. **Full-text Search**:MySQL 5.5 引入了全文索引和搜索功能,这使得在大量文本数据中进行复杂查询变得更加高效。 3. **分区功能增强**:表分区是优化大数据处理的一种手段,5.5 版本增加了更多的分区策略和优化...

    益达新产品男士益达推出市场广告策划书学习教案.pptx

    【益达新产品男士益达市场广告策划书学习教案】是一个关于市场营销和产品定位的专业资料,主要探讨了益达品牌如何针对男性市场推出专门的口腔护理产品。这份文档可能包含了以下几个关键知识点: 1. **市场分析**:...

Global site tag (gtag.js) - Google Analytics