ElasticSearch性能优化主要分为4个方面的优化。
一、服务器部署
1、增加1-2台服务器,用于负载均衡节点elasticSearch的配置文件中有2个参数:node.master和node.data。这两个参数搭配使用时,能够帮助提供服务器性能。
node.master: false
node.data: true
该node服务器只作为一个数据节点,只用于存储索引数据。使该node服务器功能 单一,只用于数据存储和数据查询,降低其资源消耗率。
node.master: true
node.data: false
该node服务器只作为一个主节点,但不存储任何索引数据。该node服务器将使用
自身空闲的资源,来协调各种创建索引请求或者查询请求,讲这些请求合理分发到相关 的node服务器上。
node.master: false
node.data: false
该node服务器即不会被选作主节点,也不会存储任何索引数据。
该服务器主要用 于查询负载均衡。在查询的时候,通常会涉及到从多个node服务器上查询数据,并请求分发到多个指定的node服务器,并对各个node服务器返回的结果进行一个汇总处理, 最终返回给客户端。
注:服务器充足情况下可以根据上述配置
2、在生产环境尽量关闭data节点服务器中的http功能,同时也不要安装head, bigdesk, marvel等监控 插件,这样保证data节点服务器只需处理创建/更新/删除/查询索引数据等操作。http功能可以在非数据节点服务器上开启,上述相关的监控插件也安装到这些服 务器上,用于监控ElasticSearch集群状态等数据信息。这样做一来出于数据安全考虑,二来出于服务性能考虑。
参数这样设置:http.enabled: false
3、一台服务器上最好只部署一个Node,一台物理服务器上可以启动多个Node服务器节点(通过设置不同的启动port), 但一台服务器上的CPU,内存,硬盘等资源毕竟有限,从服务器性能考虑,在生产环境下不建议一台 服务器上启动多个node节点。
二、服务器配置
1.配置索引线程池的大小ElastiSearch服务器有多个线程池大小配置。主要有:index,search,suggest,get,bulk,percolate,snapshot,snapshot_data,warmer,refresh。
在此主要针对index和search进行一个配置调整。
index:创建/更新/删除索引数据。
Search:主要针对用户的各种搜索操作。
具体配置如下:
threadpool:
index:
type: fixed
size: 24(逻辑核心数*3)
queue_ size: 1000
search:
type: fixed
size: 24(逻辑核心数*3)
queue_ size: 1000
2.确定分片(shard)的数量和副本(replica)的数量 ElasticSearch在创建索引数据时,最好指定相关的shards数量和replicas,否则会使用服务器中的默认配置参数shards=5,replicas=1。 因为这两个属性的设置直接影响集群中索引和搜索操作的执行。假设你有足够的机器来持有碎片和副本,那么可以按如下规则设置这两个值:
1) 拥有更多的碎片可以提升索引执行能力,并允许通过机器分发一个大型的索引;
2) 拥有更多的副本能够提升搜索执行能力以及集群能力。对于一个索引来说,number_of_shards只能设置一次,而number_of_replicas可以使用索引更新设置API在任何时候被增加或者减少。这两个配置参数在配置文件的配置如下:
index.number_of_shards: 5(第一次分片的数值)
index.number_of_replicas: 1(可变)
3.elasticsearch.yml log日志其具体配置如下:
index.search.slowlog.level: INFO
index.search.slowlog.threshold.query.warn: 5s
index.search.slowlog.threshold.query.info: 2s
index.search.slowlog.threshold.query.debug: 500s
index.search.slowlog.threshold.query.trace: 500ms
index.search.slowlog.threshold.fetch.warn: 5s
index.search.slowlog.threshold.fetch.info: 2s
index.search.slowlog.threshold.fetch.debug: 500ms
index.search.slowlog.threshold.fetch.trace: 200ms
http://sempter.blog.51cto.com/4340646/1664680
相关推荐
### Elasticsearch性能优化详解 #### 一、硬件选择与磁盘I/O优化 Elasticsearch的基础构建于Lucene之上,所有索引及文档数据均存储在本地磁盘中。磁盘性能直接影响Elasticsearch的性能表现,尤其是在高负载情况下...
性能优化与集群部署 基础与进阶全面实战”旨在帮助学员深入了解Elasticsearch 8.X版本的核心技术,掌握性能优化与集群部署的关键知识,从而能够更好地应对企业级应用中的挑战。 课程亮点: Elasticsearch基础概念...
通过以上优化措施,Elasticsearch能够更好地应对大数据量的搜索和分析任务,提供更稳定的性能和更高的可用性。同时,定期监控和调整这些参数是持续优化的关键,因为系统资源和工作负载可能会随时间变化。
14. **日志和监控**:集成如Logback和ELK Stack(Elasticsearch, Logstash, Kibana)进行日志收集和分析,以及Prometheus和Grafana进行性能监控,以便快速发现和解决问题。 15. **容器化部署**:使用Docker和...
构建一个高可用的Elasticsearch集群是确保数据可靠性、性能优化以及服务连续性的关键。 首先,我们需要了解Elasticsearch集群的基础架构。每个Elasticsearch节点都是集群的一部分,可以存储数据、参与索引和搜索...
### 浅入深出ElasticSearch构建高性能搜索...通过以上内容的学习,读者不仅能掌握ElasticSearch的核心技术和实践技巧,还能了解如何构建和优化高性能的搜索架构。这将为处理大规模数据集和复杂查询场景提供坚实的基础。
ES(Elasticsearch)集群部署是指将多个 ES 节点组成的集群,以提高搜索和索引的性能和可用性。下面是 ES 集群部署方案的详细解释: 集群配置 在 ES 集群中,每个节点都需要配置集群名称(cluster.name)、节点...
虽然理论上可以在同一台服务器上启动多个 Node,但这会增加资源争抢的可能性,不利于性能优化。 - 对于大规模部署,建议单独配置 Master 节点和数据汇聚节点。例如,在拥有 100 个节点的集群中,可以配备 3 个专门...
Elasticsearch 6.6.0 AArch64 ARM 是专为华为ARM架构服务器优化的搜索引擎和数据...对于开发人员,了解如何利用Elasticsearch的API进行数据操作和查询优化,以及如何与其他工具集成,将有助于提升整体解决方案的价值。
这个版本的 Elasticsearch 针对性能和稳定性进行了优化,适用于大规模数据检索和分析场景。Elasticsearch 不仅支持英文分词,还特别强调了对中文的支持,因此在处理中文文档时,它通常会搭配使用专门的中文分词器。 ...
在这个版本中,Elasticsearch提供了一系列增强的功能和性能优化,旨在提高搜索效率、稳定性和安全性。 在Linux环境下安装Elasticsearch 7.14.0,首先需要下载`elasticsearch-7.14.0-linux-x86_64.tar.gz`压缩包。这...
6.8.18版本是Elasticsearch的一个稳定版本,它在前几个版本的基础上进行了优化和增强,旨在提供更稳定的性能和更高的可靠性。 在Elasticsearch 6.8.18中,有几个关键知识点值得一提: 1. 分布式特性:Elastic...
**分布式搜索 Elasticsearch 方案研究 - Java API** Elasticsearch 是一款功能强大的开源搜索引擎,它基于 Lucene 库,提供了一个分布式、实时、可扩展的搜索和分析引擎。本方案主要探讨如何利用 Java API 来与 ...
4. **Sharding & Replication**:Elasticsearch通过分片(Sharding)实现水平扩展,每个分片可以分布在不同的节点上,提高读写性能。同时,通过副本分片(Replica Shards)实现数据冗余和容错。 二、全文搜索引擎 ...
《大数据搜索与日志挖掘及可视化方案:ELK Stack(Elasticsearch, Logstash, Kibana)第二版》 在大数据领域,有效地管理和分析海量数据是至关重要的。ELK Stack,即Elasticsearch、Logstash和Kibana的组合,提供了...
首先,Elasticsearch 7.12.1是该软件的一个稳定版本,包含了众多性能优化和新特性。例如,它可能改进了搜索速度,增强了数据处理能力,同时修复了一些已知的问题,确保系统的稳定性。这个版本还可能引入了新的API,...
版本 7.12.1 是 Elasticsearch 的一个重要迭代,它包含了多项优化和改进,旨在提升搜索性能、稳定性以及用户体验。在Windows平台上安装和运行Elasticsearch,用户可以利用其强大的搜索和分析功能,尤其适合处理大量...
总的来说,Elasticsearch 2.4.4 免安装版本是一个方便快捷的解决方案,尤其适合初次接触Elasticsearch 或者希望快速搭建测试环境的用户。然而,随着使用深入,用户可能需要升级到更高级的版本,以获取最新的功能和...
- **性能优化**:新版本引入了多项性能优化措施,如何有效利用这些特性提高查询速度和数据处理能力。 - **安全性增强**:ES8 默认开启了安全功能,包括 TLS 传输加密和基本身份验证,这为系统的安全性带来了显著提升...