`

(转)elasticsearch重要配置的修改

阅读更多

重要配置的修改

Elasticsearch 已经有了 很好 的默认值,特别是涉及到性能相关的配置或者选项。 如果你有疑问,最好就不要动它。我们已经目睹了数十个因为错误的设置而导致毁灭的集群, 因为它的管理者总认为改动一个配置或者选项就可以带来 100 倍的提升。

Note

请阅读整节文章,所有的配置项都同等重要,和描述顺序无关,请阅读所有的配置选项,并应用到你的集群中。

其它数据库可能需要调优,但总得来说,Elasticsearch 不需要。 如果你遇到了性能问题,解决方法通常是更好的数据布局或者更多的节点。 在 Elasticsearch 中很少有“神奇的配置项”, 如果存在,我们也已经帮你优化了!

另外,有些 逻辑上的 配置在生产环境中是应该调整的。 这些调整可能会让你的工作更加轻松,又或者因为没办法设定一个默认值(它取决于你的集群布局)。

指定名字

Elasticsearch 默认启动的集群名字叫 elasticsearch 。你最好给你的生产环境的集群改个名字,改名字的目的很简单, 就是防止某人的笔记本电脑加入了集群这种意外。简单修改成 elasticsearch_production 会很省心。

你可以在你的 elasticsearch.yml 文件中修改:

cluster.name: elasticsearch_production

同样,最好也修改你的节点名字。就像你现在可能发现的那样, Elasticsearch 会在你的节点启动的时候随机给它指定一个名字。你可能会觉得这很有趣,但是当凌晨 3 点钟的时候, 你还在尝试回忆哪台物理机是 Tagak the Leopard Lord 的时候,你就不觉得有趣了。

更重要的是,这些名字是在启动的时候产生的,每次启动节点, 它都会得到一个新的名字。这会使日志变得很混乱,因为所有节点的名称都是不断变化的。

这可能会让你觉得厌烦,我们建议给每个节点设置一个有意义的、清楚的、描述性的名字,同样你可以在 elasticsearch.yml 中配置:

node.name: elasticsearch_005_data

路径

默认情况下,Elasticsearch 会把插件、日志以及你最重要的数据放在安装目录下。这会带来不幸的事故, 如果你重新安装 Elasticsearch 的时候不小心把安装目录覆盖了。如果你不小心,你就可能把你的全部数据删掉了。

不要笑,这种情况,我们见过很多次了。

最好的选择就是把你的数据目录配置到安装目录以外的地方, 同样你也可以选择转移你的插件和日志目录。

可以更改如下:

path.data: /path/to/data1,/path/to/data2 (1)

# Path to log files:
path.logs: /path/to/logs

# Path to where plugins are installed:
path.plugins: /path/to/plugins
  1. 注意:你可以通过逗号分隔指定多个目录。

数据可以保存到多个不同的目录, 如果将每个目录分别挂载不同的硬盘,这可是一个简单且高效实现一个软磁盘阵列( RAID 0 )的办法。Elasticsearch 会自动把条带化(注:RAID 0 又称为 Stripe(条带化),在磁盘阵列中,数据是以条带的方式贯穿在磁盘阵列所有硬盘中的) 数据分隔到不同的目录,以便提高性能。

Warning
多个数据路径的安全性和性能

如同任何磁盘阵列( RAID 0 )的配置,只有单一的数据拷贝保存到硬盘驱动器。如果你失去了一个硬盘驱动器,你 肯定 会失去该计算机上的一部分数据。 运气好的话你的副本在集群的其他地方,可以用来恢复数据和最近的备份。

Elasticsearch 试图将全部的条带化分片放到单个驱动器来保证最小程度的数据丢失。这意味着 分片 0 将完全被放置在单个驱动器上。 Elasticsearch 没有一个条带化的分片跨越在多个驱动器,因为一个驱动器的损失会破坏整个分片。

这对性能产生的影响是:如果您添加多个驱动器来提高一个单独索引的性能,可能帮助不大,因为 大多数节点只有一个分片和这样一个积极的驱动器。多个数据路径只是帮助如果你有许多索引/分片在单个节点上。

多个数据路径是一个非常方便的功能,但到头来,Elasticsearch 并不是软磁盘阵列( software RAID )的软件。如果你需要更高级的、稳健的、灵活的配置, 我们建议你使用软磁盘阵列( software RAID )的软件,而不是多个数据路径的功能。

最小主节点数

minimum_master_nodes 设定对你的集群的稳定 极其 重要。 当你的集群中有两个 masters(注:主节点)的时候,这个配置有助于防止 脑裂 ,一种两个主节点同时存在于一个集群的现象。

如果你的集群发生了脑裂,那么你的集群就会处在丢失数据的危险中,因为主节点被认为是这个集群的最高统治者,它决定了什么时候新的索引可以创建,分片是如何移动的等等。如果你有 两个 masters 节点, 你的数据的完整性将得不到保证,因为你有两个节点认为他们有集群的控制权。

这个配置就是告诉 Elasticsearch 当没有足够 master 候选节点的时候,就不要进行 master 节点选举,等 master 候选节点足够了才进行选举。

此设置应该始终被配置为 master 候选节点的法定个数(大多数个)。法定个数就是 ( master 候选节点个数 / 2) + 1 。 这里有几个例子:

  • 如果你有 10 个节点(能保存数据,同时能成为 master),法定数就是 6 。

  • 如果你有 3 个候选 master 节点,和 100 个 data 节点,法定数就是 2 ,你只要数数那些可以做 master 的节点数就可以了。

  • 如果你有两个节点,你遇到难题了。法定数当然是 2 ,但是这意味着如果有一个节点挂掉,你整个集群就不可用了。 设置成 1 可以保证集群的功能,但是就无法保证集群脑裂了,像这样的情况,你最好至少保证有 3 个节点。

你可以在你的 elasticsearch.yml 文件中这样配置:

discovery.zen.minimum_master_nodes: 2

但是由于 ELasticsearch 是动态的,你可以很容易的添加和删除节点, 但是这会改变这个法定个数。 你不得不修改每一个索引节点的配置并且重启你的整个集群只是为了让配置生效,这将是非常痛苦的一件事情。

基于这个原因, minimum_master_nodes (还有一些其它配置)允许通过 API 调用的方式动态进行配置。 当你的集群在线运行的时候,你可以这样修改配置:

PUT /_cluster/settings
{
    "persistent" : {
        "discovery.zen.minimum_master_nodes" : 2
    }
}

这将成为一个永久的配置,并且无论你配置项里配置的如何,这个将优先生效。当你添加和删除 master 节点的时候,你需要更改这个配置。

集群恢复方面的配置

当你集群重启时,几个配置项影响你的分片恢复的表现。首先,我们需要明白如果什么也没配置将会发生什么。

想象一下假设你有 10 个节点,每个节点只保存一个分片,这个分片是一个主分片或者是一个副本分片,或者说有一个有 5 个主分片/1 个副本分片的索引。有时你需要为整个集群做离线维护(比如,为了安装一个新的驱动程序), 当你重启你的集群,恰巧出现了 5 个节点已经启动,还有 5 个还没启动的场景。

假设其它 5 个节点出问题,或者他们根本没有收到立即重启的命令。不管什么原因,你有 5 个节点在线上,这五个节点会相互通信,选出一个 master,从而形成一个集群。 他们注意到数据不再均匀分布,因为有 5 个节点在集群中丢失了,所以他们之间会立即启动分片复制。

最后,你的其它 5 个节点打开加入了集群。这些节点会发现 它们 的数据正在被复制到其他节点,所以他们删除本地数据(因为这份数据要么是多余的,要么是过时的)。 然后整个集群重新进行平衡,因为集群的大小已经从 5 变成了 10。

在整个过程中,你的节点会消耗磁盘和网络带宽,来回移动数据,因为没有更好的办法。对于有 TB 数据的大集群, 这种无用的数据传输需要 很长时间 。如果等待所有的节点重启好了,整个集群再上线,所有的本地的数据都不需要移动。

现在我们知道问题的所在了,我们可以修改一些设置来缓解它。 首先我们要给 ELasticsearch 一个严格的限制:

gateway.recover_after_nodes: 8

这将阻止 Elasticsearch 在存在至少 8 个节点(数据节点或者 master 节点)之前进行数据恢复。 这个值的设定取决于个人喜好:整个集群提供服务之前你希望有多少个节点在线?这种情况下,我们设置为 8,这意味着至少要有 8 个节点,该集群才可用。

现在我们要告诉 Elasticsearch 集群中 应该 有多少个节点,以及我们愿意为这些节点等待多长时间:

gateway.expected_nodes: 10
gateway.recover_after_time: 5m

这意味着 Elasticsearch 会采取如下操作:

  • 等待集群至少存在 8 个节点

  • 等待 5 分钟,或者10 个节点上线后,才进行数据恢复,这取决于哪个条件先达到。

这三个设置可以在集群重启的时候避免过多的分片交换。这可能会让数据恢复从数个小时缩短为几秒钟。

注意:这些配置只能设置在 config/elasticsearch.yml 文件中或者是在命令行里(它们不能动态更新)它们只在整个集群重启的时候有实质性作用。

最好使用单播代替组播

Elasticsearch 默认被配置为使用单播发现,以防止节点无意中加入集群。只有在同一台机器上运行的节点才会自动组成集群。

虽然组播仍然 作为插件提供, 但它应该永远不被使用在生产环境了,否在你得到的结果就是一个节点意外的加入到了你的生产环境,仅仅是因为他们收到了一个错误的组播信号。 对于组播 本身 并没有错,组播会导致一些愚蠢的问题,并且导致集群变的脆弱(比如,一个网络工程师正在捣鼓网络,而没有告诉你,你会发现所有的节点突然发现不了对方了)。

使用单播,你可以为 Elasticsearch 提供一些它应该去尝试连接的节点列表。 当一个节点联系到单播列表中的成员时,它就会得到整个集群所有节点的状态,然后它会联系 master 节点,并加入集群。

这意味着你的单播列表不需要包含你的集群中的所有节点, 它只是需要足够的节点,当一个新节点联系上其中一个并且说上话就可以了。如果你使用 master 候选节点作为单播列表,你只要列出三个就可以了。 这个配置在 elasticsearch.yml 文件中:

discovery.zen.ping.unicast.hosts: ["host1", "host2:port"]

关于 Elasticsearch 节点发现的详细信息,请参阅 Zen Discovery Elasticsearch 文献。

转自:https://github.com/elasticsearch-cn/elasticsearch-definitive-guide/blob/cn/510_Deployment/40_config.asciidoc

分享到:
评论

相关推荐

    Elasticsearch集群安装配置.docx

    为了实现高可用性和高性能,Elasticsearch 集群安装配置是非常重要的。本文将详细介绍 Elasticsearch 集群安装配置的步骤和要点。 一、环境准备 为了安装和配置 Elasticsearch 集群,需要满足以下环境要求: * ...

    Elasticsearch5.4.1 安装配置 +Kibana

    如果需要更改端口,可以在`config/elasticsearch.yml`中进行修改。 #### 四、Kibana安装与配置 ##### 4.1 安装Kibana 下载Kibana压缩包并解压: ```bash tar xzvf kibana-5.4.1-linux-x86_64.tar.gz ``` ##### ...

    Linux中间件加密之Elasticsearch和kibana配置雨用户密码验证

    首先,你需要访问部署Elasticsearch的服务器,进入配置文件目录,通常是`/data/es/config`,并编辑`es.yml`配置文件。在文件中添加以下两行: ``` xpack.security.enabled: true xpack.ml.enabled: true ``` ...

    esapi配置文件

    这个压缩包包含了ESAPI的核心配置文件,这对于理解和使用ESAPI库至关重要。 在Java开发中,安全是非常关键的一环,而ESAPI则为开发者提供了一套全面的安全防护机制。下面将详细介绍ESAPI配置文件的相关知识点: 1....

    elasticsearch7.17.10版本分词器插件安装包

    在日志收集和数据分析领域,Elasticsearch(简称ES)扮演着重要的角色。作为一个强大的全文搜索引擎,Elasticsearch允许用户通过简单的API进行数据索引、搜索、分析和可视化。然而,为了更好地处理中文等复杂语言,...

    elasticsearch7.17.11版本分词器插件安装包

    Elasticsearch(简称ES)是一款基于Lucene的分布式、RESTful搜索引擎,广泛应用于日志收集、数据分析等领域,是ELK(Elasticsearch、Logstash、Kibana)堆栈的重要组成部分。在处理中文数据时,合理的分词对于提升...

    windows最新版 elasticsearch-7.17.0-windows-x86_64.zip

    Elasticsearch是一个开源的全文搜索引擎,它在大数据分析和实时搜索领域扮演着重要角色。这款软件基于Apache Lucene构建,提供了分布式、RESTful风格的搜索和数据分析能力,广泛应用于日志分析、信息检索、网站搜索...

    elasticsearch常用版本

    - **配置文件**:修改`elasticsearch.yml`配置文件,可以设置端口、网络访问、内存分配等参数。 - **内存设置**:确保JVM有足够的内存,通常设置`ES_HEAP_SIZE`环境变量以避免性能问题。 - **插件安装**:根据需求...

    elasticsearch证书与配置文件包

    理解和掌握Elasticsearch的证书配置以及相关配置文件对于构建安全、高效的ES集群至关重要。无论是本地部署还是Docker化环境,都应重视证书的安全性,确保数据传输的隐私和完整性。同时,定期审查和更新配置,以适应...

    最新版windows elasticsearch-7.10.1-windows-x86_64.zip

    在Windows环境下,Elasticsearch的安装和配置对于许多开发者和系统管理员来说是至关重要的。最新版的Elasticsearch 7.10.1专为Windows x86_64架构进行了优化,确保在64位操作系统上运行得更加流畅。 **1. 安装步骤*...

    elasticsearch配置优化文档

    以上是对给定文件中的关键配置项进行了详细解释,这些配置项对于优化 Elasticsearch 的性能和稳定性至关重要。通过合理配置这些选项,可以有效提升 Elasticsearch 的运行效率和集群管理的便利性。

    解决spring-data-elasticsearch 5.4.0 不支持 5.4.1的elasticsearch问题

    3. **手动调整依赖**:如果你不能升级Spring Data Elasticsearch,可能需要手动修改项目依赖,以适应Elasticsearch 5.4.1的API和协议。 4. **使用兼容模式**:某些情况下,Elasticsearch可能会提供一种向后兼容的...

    elasticsearch主节点搭建1

    在本文中,我们将深入探讨如何搭建Elasticsearch的主节点,以及与之相关的配置和依赖。...理解这些步骤对于管理和维护Elasticsearch集群至关重要,特别是在大型分布式环境中,正确配置和优化能确保系统的稳定性和性能。

    elasticsearch-7.12.1_Windows 客户端 + cerebro

    2. **配置Elasticsearch**:根据需求修改配置文件`elasticsearch.yml`,例如设置网络监听地址、端口等。 3. **启动Cerebro**:解压cerebro-0.9.4压缩包,运行启动脚本,配置Elasticsearch集群连接信息。 4. **连接...

    《ElasticSearch入门到实战》电子书,从入门到进阶实战项目的教程文档,框架SpringBoot框架整合ES.zip

    1. **安装与配置**:了解如何在不同的操作系统上安装 Elasticsearch,包括配置文件的修改,以及集群设置和节点配置。 2. **索引与文档**:学习 Elasticsearch 中的索引概念,理解如何创建、删除和操作索引,以及...

    elasticsearch7.17.14版本分词器插件安装包

    5. **重启Elasticsearch**: 修改配置后,重启Elasticsearch服务以应用新的设置。 6. **验证安装**: 通过Elasticsearch的API检查分词器是否生效。例如,使用`GET /_analyze` API测试分析器: ``` { "analyzer": ...

    elasticsearch-analysis-pinyin-6.8.2.zip

    该插件的设置和使用涉及到Elasticsearch的配置文件(如elasticsearch.yml),需要添加或修改相应的参数,如指定分析器、过滤器等。同时,还需要通过Elasticsearch的命令行工具进行插件安装,例如使用`bin/elastic...

    elasticsearch7.17.8版本分词器插件安装包

    1. 在Elasticsearch的配置文件`elasticsearch.yml`中,添加或修改以下配置以启用IK分词器: ``` analysis: analyzer: my_ik_analyzer: # 自定义的分词器名称 type: "ik_max_word" # 使用IK分词器的max_word模式...

    elasticsearch-analysis-ik-7.12.1

    4. **配置**:在 Elasticsearch 的配置文件 `elasticsearch.yml` 中添加或修改分析器配置。 例如: ```yaml analysis: analyzer: my_analyzer: # 自定义分析器名称 type: "ik_max_word" # 使用 IK 分词器的最细...

    elasticsearch-7.14.0.zip

    - 修改配置文件:`vi /opt/elasticsearch-7.14.0/config/elasticsearch.yml` - 配置数据存储路径:`path.data: /var/lib/elasticsearch` - 修改网络设置:允许远程访问,取消`network.host`行的注释并设置为`0.0....

Global site tag (gtag.js) - Google Analytics