`

Elasticsearch结合Nginx使用

阅读更多

Elasticsearch是一种先进的,高性能的,可扩展的开源搜索引擎,提供全文搜索和实时分析的结构化和非结构化数据。 它的特点是可以使用RESTful API over HTTP,因此很容易融入现代网络架构。 
 
由于NGINX具有出色的性能非常高并发率,再加上负载平衡的HTTP流量功能,这是非常适合用作为您扩展到多个Elasticsearch服务器的反向代理负载均衡。 
 

部署NGINX加上与Elasticsearch的优势


Elasticsearch有专为可扩展性的一些功能,但卸载请求开源NGINX产品或商业的负载均衡Nginx Plus产品,这更加具有企业级的功能,节省了资源Elasticsearch服务器上。
 
把NGINX或NGINX Plus加在一个Elasticsearch服务器的前端提供福利,如请求 日志记录,但真正的价值是当你扩展到多个Elasticsearch服务器。

nginxvses.png


这种架构除了记录每个API请求,NGINX加NGINX Plus还有如下优势:

  1. 支持大量的客户端连接,不管有没有启用keepalives,比长连接(使用keepalives)到elasticsearch服务器小的多
  2. 负载均衡的请求Elasticsearch服务器
  3. 缓存数据,减少同一内容再次请求Elasticsearch服务器。NGINX Plus 还提供HTTP API 对缓存数据的清除接口
  4. 提供主动健康检测(仅nginx plus),不断检测后端Elasticsearch服务器是否正常,并主动的进行切换。
  5. 报告丰富的监控指标(仅nginx plus),提供监控和管理。
  6. 支持通过HTTP API动态的配置上游服务器组(仅nginx plus),可以从上游服务器组中添加和删除,上线或下线,改变权重。

下表比较Elasticsearch 、Elasticsearch + nginx F/OSS、Elasticsearch + NGINX Plus 的功能:

esngix.png

 

nginxandes.png


当使用NGINX Plus高可用性主动或被动配置负载均衡的Elasticsearch 服务器集群时,Elasticsearch 客户端通过nginx plus请求,而不是直接连接到Elasticsearch服务器,这意味着,根据需要,而无需更新客户端,你可以任意的扩展Elasticsearch服务器。

部署NGINX Plus + Elasticsearch


部署NGINX Plus与Elasticsearch是非常简单的。在下面的示例NGINX Plus配置的指令定义负载均衡两台Elasticsearch服务器设置:

  • upstream - 负载均衡请求的是两台Elasticsearch服务器,地址分别是192.168.187.132和192.168.187.133的9200端口。
  • proxy_cache_valid – 有效缓存有效时间10分钟
  • health_check - 主动的健康监测、状态收集,把他们从负载平衡轮训的时候,把它们放下来,然后再将它们重新加入到轮训中中,再恢复健康。健康检查资料的匹配块,这不仅可以确保服务器返回200状态码,但检查的响应是JSON,它返回字符串预期Elasticsearch格式化,”状态“:200”。
  • Final server block - 收集统计并监听8080端口的请求为status.html页面显示统计,或状态,它告诉nginx plus返回JSON格式的原始数据。

 

proxy_cache_path /var/cache/nginx/cache keys_zone=elasticsearch:10m inactive=60m;
upstream elasticsearch_servers {
    zone elasticsearch_servers 64K;
    server 192.168.187.132:9200;
    server 192.168.187.133:9200;
}
match statusok {
    status 200;
    header Content-Type ~ "application/json";
    body ~ '"status" : 200';
}
server {
    listen 9200;
    status_zone elasticsearch;
    location / {
        proxy_pass http://elasticsearch_servers;
        proxy_http_version 1.1;
        proxy_set_header Connection "";
        proxy_cache elasticsearch;
        proxy_cache_valid 200 302 10m;
        proxy_cache_valid 404 1m;
        proxy_connect_timeout 5s;
        proxy_read_timeout 10s;
        health_check interval=5s fails=1 passes=1 uri=/ match=statusok;
    }
    # redirect server error pages to the static page /50x.html
    error_page 500 502 503 504 /50x.html;
    location = /50x.html {
        root /usr/share/nginx/html;
    }
    access_log logs/es_access.log combined;
}
server {
    listen 8080;
    root /usr/share/nginx/html;
    location / {
        index status.html;
    }
    location =/status {
        status;
    }
}

 

总结

 

Elasticsearch是一个强大而灵活的搜索引擎,和NGINX Plus一个企业级的应用交付平台自然契合在一起,作为一个现代化的可扩展的网络架构的组件。 作为软件产品,他们提供的只要你安装这些相同的特性和功能:在裸机服务器,在虚拟机中,在云中,或在容器中。

 

进一步阅读


Playing HTTP Tricks with Nginx
Securing Elasticsearch with Nginx
分享英文原文:https://www.nginx.com/blog/nginx-elasticsearch-better-together/

分享到:
评论

相关推荐

    nginx-log-elasticsearch-lua:使用Lua从Nginx直接记录到Elasticsearch

    《使用Lua从Nginx直接记录到Elasticsearch的实战指南》 在现代Web服务的监控和数据分析中,Elasticsearch已经成为一个不可或缺的工具。它提供了高效的数据存储、搜索和分析功能,尤其适合处理大量的日志数据。而...

    springboot项目查询es中的日志内容

    在本项目中,我们主要探讨如何使用SpringBoot与Elasticsearch(ES)集成,以便查询存储在ES中的日志内容。Elasticsearch是一种强大的、分布式、实时的搜索和分析引擎,常用于处理大量数据,特别是在日志管理和分析...

    实战nginx-全

    5. **日志分析**:集成Logstash和Elasticsearch,进行Nginx日志的收集与分析。 通过以上内容的学习和实践,你将能够熟练地掌握Nginx的使用和维护,无论是搭建网站、优化性能还是应对复杂的网络环境,都能得心应手。...

    elasticsearch-head-master-master.zip

    Elasticsearch Head是一款非常实用的Elasticsearch浏览器插件,主要设计用于可视化地查看和管理Elasticsearch集群的状态、索引、...在实际使用过程中,应结合Elasticsearch的特性和需求,充分利用其提供的各种功能。

    nginx工具

    - **Logstash/Elasticsearch/Kibana**: 结合ELK日志收集分析栈,进行实时日志监控和分析。 6. **故障排查与维护** - **错误日志**: 查看`error.log`和`access.log`,定位问题。 - **状态检查**: 使用`ngx_...

    nginx-upload文件上传代码和工具

    为了跟踪上传状态和诊断问题,可以启用Nginx的日志功能,并结合诸如Logstash、Elasticsearch和Kibana等工具进行日志分析和可视化。 总的来说,`nginx-upload`模块为Nginx提供了强大的文件上传功能,使得在高并发...

    nginx+keepalived双主负载均衡

    7. **监控与调试**: 使用系统监控工具(如Prometheus、Grafana)和日志分析工具(如Logstash、Elasticsearch、Kibana)监控Nginx和Keepalived的状态,以便及时发现并解决问题。 8. **安全性**: 除了负载均衡和高...

    Nginx 与Lua 工具

    6. **日志处理**:Nginx可以通过Lua将日志数据实时发送到ELK(Elasticsearch、Logstash、Kibana)堆栈进行分析。 7. **负载均衡**:除了Nginx内置的负载均衡策略,还可以通过Lua编写自定义的负载均衡算法。 **五、...

    NGINX-Demos:NGINX和NGINX Plus演示

    autoscaling -demo :此演示使用一个NGINX Plus实例作为负载均衡器,具有两个上游组,一个用于NGINX Plus Web服务器,另一个用于Elasticsearch节点。 所有实例都在Docker容器中运行。 该演示同时使用了上游API和状态...

    linux-本说明介绍了如何提高Nginx的性能安全性和其他重要事项

    - **监控与日志分析**:使用如Prometheus、Grafana等工具进行性能监控,利用Logstash、Elasticsearch、Kibana(ELK栈)进行日志分析。 - **错误处理**:设置友好的404、500等错误页面,提供清晰的错误信息,便于...

    Keepalived+Nginx实现高可用Web负载均衡

    6. **监控与日志**:为了更好地管理和维护这个系统,我们还需要配置监控工具(如Prometheus、Grafana)来监控服务器状态,以及日志收集和分析系统(如Logstash、Elasticsearch、Kibana)来追踪和分析服务运行情况。...

    实战Nginx 取代Apache的高性能Web服务器

    Nginx的日志格式和分析工具的使用,以及如何结合第三方工具如Logstash、ELK(Elasticsearch、Logstash、Kibana)进行日志分析和可视化,都是运维人员必备的技能。 总之,《实战Nginx 取代Apache的高性能Web服务器》...

    linux nginx tomcat 集群搭建

    本文将详细讲解如何使用Linux操作系统,结合Nginx反向代理服务器和Tomcat应用服务器来搭建一个集群环境,实现负载均衡和服务高可用性。这个过程涉及到的知识点包括Linux系统管理、Nginx配置、Tomcat集群设置以及源码...

    重学现代PHP面试系列文章,主要针对swoole、hyperf、redis、mysql、ES、linux、nginx.zip

    5. ES(Elasticsearch):Elasticsearch是一款分布式全文搜索引擎,基于Lucene。它提供实时分析、搜索、聚合和监控数据的能力。学习Elasticsearch的索引管理、查询语法、聚合功能以及如何通过PHP客户端进行操作,有...

    小手api性能监控系统是基于elasticsearch中的NGIN请求日志,分析请求时间,访问量,使用PHP语言

    在小手API性能监控系统中,Elasticsearch负责存储和索引Nginx的日志数据,便于快速查询和分析。 2. **Nginx请求日志**:Nginx作为流行的Web服务器,其访问日志记录了每个HTTP请求的详细信息,包括客户端IP、请求...

    轻松上手Fluentd,结合 Rainbond 插件市场,日志收集更快捷.doc

    4. **建立连接**:配置Nginx组件以连接到Elasticsearch,确保日志数据能够传输到Elasticsearch。 5. **验证日志**:在Kibana中,检查索引管理,确认存在名为`fluentd.es.nginx.log`的索引,然后创建相应的索引模式,...

    nginx服务器集群及优化部署实操记录集合.zip

    - **日志分析工具**:使用Logstash、ELK Stack(Elasticsearch、Logstash、Kibana)等工具进行日志收集、处理和可视化。 通过以上内容,我们可以看到Nginx服务器集群及优化部署涉及到多个层面,包括服务器集群的...

    百度地图开发java源码-elasticsearch-house:基于Elasticsearch的租房搜索系统

    主要是以MySQL作为基础数据存储,结合ES实现站内搜索引擎。 二、涉及技术 核心搜索技术: SpringBoot + Elasticsearch(方便实现站内搜索引擎) 站内搜索引擎实现: Elasticsearch + MySQL + Kafka 地图搜索: ...

    详解用ELK来分析Nginx服务器日志的方法

    通过将Logstash的Grok插件与Elasticsearch的强大搜索和分析功能相结合,并利用Kibana的可视化能力,可以极大地提升分析和监控Nginx服务器日志的效率和效果。这对于运维团队来说,无疑是一种强大的工具,能够帮助他们...

    es和filebeat(7.15.0版本)

    在实际应用中,Elasticsearch和Filebeat通常结合使用。Filebeat负责收集来自服务器的日志数据,然后将其发送到Elasticsearch进行存储和分析。Kibana作为Elastic Stack的一部分,可以用来可视化这些数据,提供丰富的...

Global site tag (gtag.js) - Google Analytics