`

搜索引擎迁移初步

阅读更多

搜索引擎迁移记录

 

 背景:

       项目中存在一个旧项目,搜索主要依赖数据库的like模糊匹配,由于数据量和用户量的不断增多,考虑迁移至ElasticSearch中。

       内容比较多,会分几次发布,希望大家持续关注,本次主要发出一个大纲情况。

       

 涉及内容:

       ElasticSearch+LogStash+Kibana

 

 大纲:

         部署ElasticSearch

 

          软件版本: elasticsearch-2.3.5
       软件环境: CentOS 6.7+JDK 1.7
       部署步骤
       配置修改:
          启动ES
          插入测试数据
          开发Java客户端:
                集成POM文件
                 集成spring-data-elasticsearch
                 开发数据层
                  JUNIT测试

         设计正式环境索引和Type

 

 

         设计正式环境各字段类型

 

         ES正式环境优化

 

         过程中遇到的问题以及解决方案

 

 

 

 

 部署LogStash

 

         软件版本:logstash-2.4.1.tar.gz

 

         软件环境:CentOS 6.7+JDK 1.7

 

         部署步骤

 

         配置修改

 

         安装测试

 

         下载并配置插件

 

                logstash-input-jdbc

 

 

                logstash-input-beats

 

         运行测试

 

         遇到的问题以及解决方案

 

 

 

部署Kibana

 

         软件版本:kibana-4.5.4

 

         软件环境:CentOS 6.7+JDK 1.7

 

         部署步骤

 

         配置修改

 

         安装测试

 

         结果展示

         遇到的问题以及解决方案

 

分享到:
评论

相关推荐

    游戏搜索引擎2

    初步框架Laravel 5.8前端框架Angular 8爬虫框架Scrapy 1.4搜索引擎ElasticSearch 6.5关系数据库mysql 5.7 爬虫数据源 游侠网 安装部署 npm安装作曲家安装PHP的工匠键:生成前端开发监听模式npm run watch部署模式npm...

    14个竞争对手情报分析工具

    Yahoo站长工具是Yahoo提供的一项服务,可以帮助我们了解网站被Yahoo搜索引擎收录的情况,包括收录页面数量、内外链数据等。与其他三大英文搜索引擎相比,Yahoo提供的外链数据更为详细,这对于我们研究竞争对手的外部...

    火柴峰文章系统 v1.0 测试版

    5. **搜索引擎优化(SEO)**:作为一个新闻发布系统,SEO功能是必不可少的,它可以帮助文章在搜索引擎中获得更好的排名,从而增加网站流量。 6. **评论与互动功能**:为了促进用户参与,系统可能内置了评论模块,...

    流动大数据(2019-2020年).zip

    百度迁徙数据,作为中国最大的搜索引擎和互联网巨头之一的产品,很可能提供了全国范围内的居民移动情况。这种数据通常包括起点和终点城市、迁移的时间、人数等关键信息。这些数据的收集基于用户的网络活动,如搜索...

    intro_lecture.pdf

    1. 搜索引擎:谷歌等搜索引擎利用机器学习技术,通过分析用户的行为和查询历史,提供个性化的搜索结果,极大地提高了搜索效率和准确性。 2. 推荐系统:电商平台如亚马逊和流媒体平台如Netflix,使用机器学习算法...

    RedTeamNotes

    这包括公开源情报(OSINT)的搜集,如通过搜索引擎、社交媒体、公开的WHOIS记录等获取目标信息。此外,还有网络侦察,例如DNS查询、端口扫描和漏洞扫描,以发现潜在的攻击入口点。 一旦收集到足够的信息,红队会...

    Online教育网站

    13. **SEO优化**:为了提高搜索引擎可见度,网站应考虑SEO(搜索引擎优化)策略,如元标签、关键词、友好的URL结构等。 14. **安全性**:网站需要保护用户隐私和数据安全,因此会采用HTTPS加密通信,防止SQL注入、...

    Laravel开发-hstcms

    6. **SEO 优化**:内置 SEO 优化工具,如自定义元标签、URL 重写等,有助于提高网站的搜索引擎排名。 7. **API 接口**:提供 API 接口,便于与其他系统集成,实现数据交换和同步。 **五、Laravel 开发 HSTCMS 的...

    多媒体管理中心技术方案解决书.pdf

    5. **查询检索需求** - 需要一个强大的搜索引擎,支持关键词、类别、时间等多种条件的组合查询。 6. **资料下载权限需求** - 规定了用户访问和下载资源的权限设置,可能涉及用户角色、权限级别和访问限制。 7. **...

    DC-4-Web渗透测试靶机

    1. **信息收集**:这是渗透测试的第一步,包括DNS记录查询、WHOIS查询、搜索引擎挖掘、端口扫描和OS指纹识别等,以获取目标系统的基本信息。 2. **漏洞扫描**:使用自动化工具如Nmap、OpenVAS、Nessus等进行网络...

    个人博客PHP设计源码

    7. **SEO优化**:为了提高搜索引擎可见性,可能会包含元标签设置、URL重写等。 8. **评论系统**:允许用户对文章进行评论,可能有防止垃圾评论的机制,如验证码。 对于初学者来说,这个项目提供了实践PHP、数据库...

    [CMS程序]Runsite v1.0.0 Beta 1_runsite.zip

    5. **SEO优化**:为了提高搜索引擎的可见性,Runsite CMS可能集成了SEO相关功能,如元标签编辑、友好的URL结构、Sitemap生成等。 6. **数据备份与恢复**:系统可能包含数据库备份和恢复工具,以防止数据丢失并便于...

    星环科技多模型数据库ArgoDB“一库多用“,构建高性能湖仓集一体平台

    Argodb 是星环科技自主研发的分布式分析型数据库,基于多模型统一架构支持关系型存储、宽表存储、搜索引擎、事件存储、图存储、键值存储、时序数据存储等10种数据模型,满足多种数据模型处理场景和复杂业务需求。...

    图书商城---ASP.NET(C#)

    10. **SEO优化**:为了提高搜索引擎可见性,可能需要考虑URL重写、元标签等SEO策略。 这个项目作为作者大二实训的成果,展示了其在实际开发环境中的初步技能,对于初学者来说,这是一个很好的实践案例,可以学习到...

    vTigerCRM6.0.0中文包

    Vtiger CRM 6.0.0 正式版已发布,目前官方网站已放在开源版本下载地址,初步观察 Vitger 6.0 正式版在 Vtiger 6.0 RC 的基础上更新不大,经过 Maie 简单测试很多 Bug 仍然未修复,目前官方提供源码版本、Windows ...

    Java思维导图xmind文件+导出图片

    分布式搜索引擎 应用发布与监控 应用容灾及机房规划 系统动态扩容 分布式架构策略-分而治之 从简到难,从网络通信探究分布式通信原理 基于消息方式的系统间通信 理解通信协议传输过程中的序列化和反序列化...

    Hadoop+Hbase搭建云存储总结

    - **应用场景:** 如搜索引擎的索引构建、大数据分析任务等,这些场景通常需要处理大量数据,并且数据的读取方式主要是顺序的。 **3. 大数据集支持** - **关键特性:** HDFS能够高效地存储和管理TB甚至是PB级别的...

Global site tag (gtag.js) - Google Analytics