导读:
在lucene搜索分页过程中,可以有两种方式
一种是将搜索结果集直接放到session中,但是假如结果集非常大,同时又存在大并发访问的时候,很可能造成服务器的内存不足,而使服务器宕机
还有一种是每次都重新进行搜索,这样虽然避免了内存溢出的可能,但是,每次搜索都要进行一次IO操作,如果大并发访问的时候,你要保证你的硬盘的转速足够的快,还要保证你的cpu有足够高的频率
而我们可以将这两种方式结合下,每次查询都多缓存一部分的结果集,翻页的时候看看所查询的内容是不是在已经存在在缓存当中,如果已经存在了就直接拿出来,如果不存在,就进行查询后,从缓存中读出来.
比如:现在我们有一个搜索结果集 一个有100条数据,每页显示10条,就有10页数据.
安装第一种的思路就是,我直接把这100条数据缓存起来,每次翻页时从缓存种读取
而第二种思路就是,我直接从搜索到的结果集种显示前十条给第一页显示,第二页的时候,我在查询一次,给出10-20条数据给第二页显示,我每次翻页都要重新查询
第三种思路就变成了
我第一页仅需要10条数据,但是我一次读出来50条数据,把这50条数据放入到缓存当中,当我需要10--20之间的数据的时候,我的发现我的这些数据已经在我的缓存种存在了,我就直接存缓存中把数据读出来,少了一次查询,速度自然也提高了很多. 如果我访问第六页的数据,我就把我的缓存更新一次.这样连续翻页10次才进行两次IO操作
同时又保证了内存不容易被溢出.而具体缓存设置多少,要看你的服务器的能力和访问的人数来决定
下面我给出我的代码,仅仅是测试代码,写的比较凌乱,但是应该能够解释我刚才的思路:
class CacheList
{
private int pageIndex=1 private int cacheSize;
public List<document> CachePage = new List<document>(); <br> private bool isFirst = true //是否是第一次搜索 public bool IsFirst <br> { <br> get { return isFirst; } set { isFirst = value; } } <br> //设置索引的开始页 public int PageIndex <br> { <br> get{ return pageIndex;} set{ pageIndex = value;} } //设置缓存页数 public int CacheSize <br> { <br> get { return cacheSize; } set { cacheSize = value; } } //判断是否在缓存中 public bool InCache(int pindex) <br> { <br> if (pindex = pageIndex && !isFirst) <br> { <br> return true } //如果不在缓存中将第一次搜索的标示更新 isFirst = true return false } //清空缓存 public void flushCache() <br> { <br> for(int i=0i<cachepage.count> { <br> CachePage.RemoveAt(i); <br> } } //增加缓存 public void AddCache(Document doc) <br> { <br> CachePage.Add(doc); <br> } //读取缓存 <br> //pindex 为页数 public List<document pindex readcache> { <br> int index = (pindex-1)%CacheSize * 10 int end = index + 10 if (CachePage.Count { <br> end = CachePage.Count; <br> } if (end >= index) <br> { <br> return CachePage.GetRange(index, end - index); <br> } else { <br> return new List<document>(); <br> } <br> } } <br> 搜索方法代码: <br> void search() <br> { <br> cList.CacheSize = 5 if (cList.InCache(Convert.ToInt32(PageIndex.Text))) <br> { <br> Console.WriteLine("--------从缓存中输出第" + PageIndex.Text + "页的数据----------------"); <br> List<document> pageList = cList.ReadCache(Convert.ToInt32(PageIndex.Text)); <br> for(int i=0i<pagelist.count> { <br> Console.WriteLine(pageList[i].Get("prodname")); <br> } } else { <br> cList.PageIndex = Convert.ToInt32(PageIndex.Text); <br> Analyzer analyzer = new KTDictSegAnalyzer(); <br> IndexSearcher isearcher = new IndexSearcher(Index_Store_Path); <br> <br> QueryParser parser = new QueryParser("prodname", analyzer); <br> Query query = parser.Parse(this.textBox1.Text); <br> <br> Hits hits = isearcher.Search(query); <br> Console.WriteLine("--------开始更新缓存----------------"); <br> //先清空缓存 cList.flushCache(); <br> int startIndex = (Convert.ToInt32(PageIndex.Text) - 1) * 10 int EndIndex = (Convert.ToInt32(PageIndex.Text) - 1) * 10 +(10*cList.CacheSize); <br> if (EndIndex > hits.Length()) <br> { <br> EndIndex = hits.Length(); <br> } for (int i = startIndex; i { <br> cList.AddCache(hits.Doc(i)); <br> }<br>isearcher.Close();<br><br>List<span style="COLOR: #000000"><span style="COLOR: #000000">Document</span><span style="COLOR: #000000">></span><span style="COLOR: #000000">pageList</span><span style="COLOR: #000000">=</span><span style="COLOR: #000000">cList.ReadCache(Convert.ToInt32 (PageIndex.Text));<br></span><span style="COLOR: #0000ff">for</span><span style="COLOR: #000000">(</span><span style="COLOR: #0000ff">int</span><span style="COLOR: #000000">i</span><span style="COLOR: #000000">=</span><span style="COLOR: #000000"></span><span style="COLOR: #800080">0</span><span style="COLOR: #000000">;i</span><span style="COLOR: #000000"><span style="COLOR: #000000">pageList.Count;i</span><span style="COLOR: #000000">++</span><span style="COLOR: #000000">)<br></span><span id="Codehighlighter1_1769_1856_Open_Text"><span style="COLOR: #000000">{<br>Console.WriteLine(pageList[i].Get(</span><span style="COLOR: #800000">"</span><span style="COLOR: #800000">prodname</span><span style="COLOR: #800000">"</span><span style="COLOR: #000000">));<br>}</span></span><span style="COLOR: #000000"><br>cList.IsFirst</span><span style="COLOR: #000000">=</span><span style="COLOR: #000000"></span><span style="COLOR: #0000ff">false</span><span style="COLOR: #000000">;<br>}</span><span style="COLOR: #000000"><br>}</span><span style="COLOR: #000000"><br></span><br>本文转自 <br><a href="http://www.cnblogs.com/suyuan/archive/2008/04/03/1136288.html">http://www.cnblogs.com/suyuan/archive/2008/04/03/1136288.html</a></span></span></pagelist.count></document></document></document></cachepage.count></document></document>
分享到:
相关推荐
SSH + Lucene + 分页 + 排序 + 高亮 模拟简单新闻网站搜索引擎--NewsWithSearch.part3 SSH + Lucene + 分页 + 排序 + 高亮 模拟简单新闻网站搜索引擎--NewsWithSearch.part2 SSH + Lucene + 分页 + 排序 + 高亮 ...
SSH + Lucene + 分页 + 排序 + 高亮 模拟简单新闻网站搜索引擎--NewsWithSearch.part3 SSH + Lucene + 分页 + 排序 + 高亮 模拟简单新闻网站搜索引擎--NewsWithSearch.part2 SSH + Lucene + 分页 + 排序 + 高亮 ...
SSH + Lucene + 分页 + 排序 + 高亮 模拟简单新闻网站搜索引擎--NewsWithSearch.part3 SSH + Lucene + 分页 + 排序 + 高亮 模拟简单新闻网站搜索引擎--NewsWithSearch.part2 SSH + Lucene + 分页 + 排序 + 高亮 ...
SSH + Lucene + 分页 + 排序 + 高亮 模拟简单新闻网站搜索引擎--NewsWithSearch.part3 SSH + Lucene + 分页 + 排序 + 高亮 模拟简单新闻网站搜索引擎--NewsWithSearch.part2 SSH + Lucene + 分页 + 排序 + 高亮 ...
SSH + Lucene + 分页 + 排序 + 高亮 模拟简单新闻网站搜索引擎--NewsWithSearch.part3 SSH + Lucene + 分页 + 排序 + 高亮 模拟简单新闻网站搜索引擎--NewsWithSearch.part2 SSH + Lucene + 分页 + 排序 + 高亮 ...
SSH + Lucene + 分页 + 排序 + 高亮 模拟简单新闻网站搜索引擎--NewsWithSearch.part3 SSH + Lucene + 分页 + 排序 + 高亮 模拟简单新闻网站搜索引擎--NewsWithSearch.part2 SSH + Lucene + 分页 + 排序 + 高亮 ...
java(结合lucene)版的公交搜索系统(javaWeb+lucene+jsp+tomcat+eclipse/idea) java(结合lucene)版的公交搜索系统(javaWeb+lucene+jsp+tomcat+eclipse/idea) java(结合lucene)版的公交搜索系统(javaWeb+lucene+...
综上所述,这个项目展示了如何利用SSH框架与Lucene搜索引擎技术,实现一个功能完备的新闻搜索系统,包括高效搜索、结果排序、分页展示以及关键词高亮等特性。这样的系统对于提升新闻网站的用户体验具有重要意义。
Maven项目构建: SpringMVC + Mybatis + SpringSecurity(权限控制到方法按钮) + Rest(服务) + Webservice(服务) + Quartz(定时调度)+ Lucene(搜索引擎) + HTML5 bootstrap 源码详细地址:...
在lucene搜索分页过程中,可以有两种方式 一种是将搜索结果集直接放到session中,但是假如结果集非常大,同时又存在大并发访问的时候,很可能造成服务器的内存不足,而使服务器宕机 还有一种是每次都重新进行搜索,这样...
标题中的“使用Lucene4.7实现搜索功能,分页+高亮”表明我们要讨论的是如何利用Apache Lucene 4.7版本来构建一个具备搜索、分页和高亮显示功能的系统。Lucene是一个高性能、全文本搜索引擎库,它提供了强大的文本...
标题中的“Lucene+compass+spring+jdbc+庖丁的一个例子”揭示了这是一个关于整合多个技术来构建一个搜索系统的示例。在这个系统中,我们有以下几个关键组件: 1. **Lucene**: Apache Lucene 是一个高性能、全文本...
通过灵活运用这些工具,开发者可以在Lucene中实现高效的中文搜索,同时兼顾拼音搜索,满足多样化的搜索需求。对于Java开发者来说,熟练掌握这些技术和工具,无疑会大大提升其在信息检索领域的专业素养。
《Java全文搜索引擎Lucene 3.0.0源码及库文件详解》 Java全文搜索引擎Lucene是一款开源的、高性能的文本分析和检索库,它为开发者提供了在Java应用程序中实现全文搜索功能的能力。本篇将深入探讨Lucene 3.0.0版本的...
对于抓取的数据,进行去重,去标签,然后利用lucene 和 solr 进行索引和搜索。 课程的最大特点是内容新颖全面而又通俗易懂。对于实际搜索引擎所涉及的各种核心技术都有全面细致的介绍,除了作为搜索系统核心的网络...
《Apache Lucene 3.0.2:全文搜索的核心与深度探索》 Apache Lucene 是一个高度可扩展的开源全文搜索引擎库,它为开发者提供了在应用程序中实现复杂搜索功能的基础框架。版本3.0.2是这个项目的一个里程碑,包含了...
- **搜索结果排序**: Lucene 支持对搜索结果进行排序,可以通过文档的相关性(TF-IDF)或者其他自定义的评分函数进行排序。 - **分词和分析**: Lucene 内置了多种语言的分词器和分析器,可以处理不同语言的文本,...
《深入理解Lucene与IKAnalyzer:构建全文搜索引擎》 在信息技术高速发展的今天,数据的存储与检索变得至关重要。Lucene,作为一个开源的全文检索库,为开发者提供了强大的文本搜索功能。而IKAnalyzer作为针对中文...
在IT行业中,搜索引擎技术是数据检索的关键组成部分,而Apache Lucene是一个开源的全文搜索引擎库,提供了高效的文本分析和索引功能。在这个项目中,我们看到开发者利用Lucene结合jdbcTemplate来封装API,并引入缓存...
《构建智能搜索引擎:基于Lucene4.8、IKAnalyzer、SpringMVC4、Jsoup与Quartz的实战解析》 在信息化高度发达的今天,数据的检索与处理能力成为了企业和个人提升效率的关键。本示例项目"Lucene4.8+IKAnalyzer+...