Elasticsearch是一种先进的,高性能的,可扩展的开源搜索引擎,提供全文搜索和实时分析的结构化和非结构化数据。 它的特点是可以使用RESTful API over HTTP,因此很容易融入现代网络架构。
由于NGINX具有出色的性能非常高并发率,再加上负载平衡的HTTP流量功能,这是非常适合用作为您扩展到多个Elasticsearch服务器的反向代理负载均衡。
部署NGINX加上与Elasticsearch的优势
Elasticsearch有专为可扩展性的一些功能,但卸载请求开源NGINX产品或商业的负载均衡Nginx Plus产品,这更加具有企业级的功能,节省了资源Elasticsearch服务器上。
把NGINX或NGINX Plus加在一个Elasticsearch服务器的前端提供福利,如请求 日志记录,但真正的价值是当你扩展到多个Elasticsearch服务器。
这种架构除了记录每个API请求,NGINX加NGINX Plus还有如下优势:
- 支持大量的客户端连接,不管有没有启用keepalives,比长连接(使用keepalives)到elasticsearch服务器小的多
- 负载均衡的请求Elasticsearch服务器
- 缓存数据,减少同一内容再次请求Elasticsearch服务器。NGINX Plus 还提供HTTP API 对缓存数据的清除接口
- 提供主动健康检测(仅nginx plus),不断检测后端Elasticsearch服务器是否正常,并主动的进行切换。
- 报告丰富的监控指标(仅nginx plus),提供监控和管理。
- 支持通过HTTP API动态的配置上游服务器组(仅nginx plus),可以从上游服务器组中添加和删除,上线或下线,改变权重。
下表比较Elasticsearch 、Elasticsearch + nginx F/OSS、Elasticsearch + NGINX Plus 的功能:
当使用NGINX Plus高可用性主动或被动配置负载均衡的Elasticsearch 服务器集群时,Elasticsearch 客户端通过nginx plus请求,而不是直接连接到Elasticsearch服务器,这意味着,根据需要,而无需更新客户端,你可以任意的扩展Elasticsearch服务器。
部署NGINX Plus + Elasticsearch
部署NGINX Plus与Elasticsearch是非常简单的。在下面的示例NGINX Plus配置的指令定义负载均衡两台Elasticsearch服务器设置:
- upstream - 负载均衡请求的是两台Elasticsearch服务器,地址分别是192.168.187.132和192.168.187.133的9200端口。
- proxy_cache_valid – 有效缓存有效时间10分钟
- health_check - 主动的健康监测、状态收集,把他们从负载平衡轮训的时候,把它们放下来,然后再将它们重新加入到轮训中中,再恢复健康。健康检查资料的匹配块,这不仅可以确保服务器返回200状态码,但检查的响应是JSON,它返回字符串预期Elasticsearch格式化,”状态“:200”。
- Final server block - 收集统计并监听8080端口的请求为status.html页面显示统计,或状态,它告诉nginx plus返回JSON格式的原始数据。
proxy_cache_path /var/cache/nginx/cache keys_zone=elasticsearch:10m inactive=60m; upstream elasticsearch_servers { zone elasticsearch_servers 64K; server 192.168.187.132:9200; server 192.168.187.133:9200; } match statusok { status 200; header Content-Type ~ "application/json"; body ~ '"status" : 200'; } server { listen 9200; status_zone elasticsearch; location / { proxy_pass http://elasticsearch_servers; proxy_http_version 1.1; proxy_set_header Connection ""; proxy_cache elasticsearch; proxy_cache_valid 200 302 10m; proxy_cache_valid 404 1m; proxy_connect_timeout 5s; proxy_read_timeout 10s; health_check interval=5s fails=1 passes=1 uri=/ match=statusok; } # redirect server error pages to the static page /50x.html error_page 500 502 503 504 /50x.html; location = /50x.html { root /usr/share/nginx/html; } access_log logs/es_access.log combined; } server { listen 8080; root /usr/share/nginx/html; location / { index status.html; } location =/status { status; } }
总结
Elasticsearch是一个强大而灵活的搜索引擎,和NGINX Plus一个企业级的应用交付平台自然契合在一起,作为一个现代化的可扩展的网络架构的组件。 作为软件产品,他们提供的只要你安装这些相同的特性和功能:在裸机服务器,在虚拟机中,在云中,或在容器中。
进一步阅读
Playing HTTP Tricks with Nginx
Securing Elasticsearch with Nginx
分享英文原文:https://www.nginx.com/blog/nginx-elasticsearch-better-together/
相关推荐
《使用Lua从Nginx直接记录到Elasticsearch的实战指南》 在现代Web服务的监控和数据分析中,Elasticsearch已经成为一个不可或缺的工具。它提供了高效的数据存储、搜索和分析功能,尤其适合处理大量的日志数据。而...
5. **日志分析**:集成Logstash和Elasticsearch,进行Nginx日志的收集与分析。 通过以上内容的学习和实践,你将能够熟练地掌握Nginx的使用和维护,无论是搭建网站、优化性能还是应对复杂的网络环境,都能得心应手。...
Elasticsearch Head是一款非常实用的Elasticsearch浏览器插件,主要设计用于可视化地查看和管理Elasticsearch集群的状态、索引、...在实际使用过程中,应结合Elasticsearch的特性和需求,充分利用其提供的各种功能。
- **Logstash/Elasticsearch/Kibana**: 结合ELK日志收集分析栈,进行实时日志监控和分析。 6. **故障排查与维护** - **错误日志**: 查看`error.log`和`access.log`,定位问题。 - **状态检查**: 使用`ngx_...
为了跟踪上传状态和诊断问题,可以启用Nginx的日志功能,并结合诸如Logstash、Elasticsearch和Kibana等工具进行日志分析和可视化。 总的来说,`nginx-upload`模块为Nginx提供了强大的文件上传功能,使得在高并发...
7. **监控与调试**: 使用系统监控工具(如Prometheus、Grafana)和日志分析工具(如Logstash、Elasticsearch、Kibana)监控Nginx和Keepalived的状态,以便及时发现并解决问题。 8. **安全性**: 除了负载均衡和高...
6. **日志处理**:Nginx可以通过Lua将日志数据实时发送到ELK(Elasticsearch、Logstash、Kibana)堆栈进行分析。 7. **负载均衡**:除了Nginx内置的负载均衡策略,还可以通过Lua编写自定义的负载均衡算法。 **五、...
autoscaling -demo :此演示使用一个NGINX Plus实例作为负载均衡器,具有两个上游组,一个用于NGINX Plus Web服务器,另一个用于Elasticsearch节点。 所有实例都在Docker容器中运行。 该演示同时使用了上游API和状态...
- **监控与日志分析**:使用如Prometheus、Grafana等工具进行性能监控,利用Logstash、Elasticsearch、Kibana(ELK栈)进行日志分析。 - **错误处理**:设置友好的404、500等错误页面,提供清晰的错误信息,便于...
6. **监控与日志**:为了更好地管理和维护这个系统,我们还需要配置监控工具(如Prometheus、Grafana)来监控服务器状态,以及日志收集和分析系统(如Logstash、Elasticsearch、Kibana)来追踪和分析服务运行情况。...
Nginx的日志格式和分析工具的使用,以及如何结合第三方工具如Logstash、ELK(Elasticsearch、Logstash、Kibana)进行日志分析和可视化,都是运维人员必备的技能。 总之,《实战Nginx 取代Apache的高性能Web服务器》...
本文将详细讲解如何使用Linux操作系统,结合Nginx反向代理服务器和Tomcat应用服务器来搭建一个集群环境,实现负载均衡和服务高可用性。这个过程涉及到的知识点包括Linux系统管理、Nginx配置、Tomcat集群设置以及源码...
5. ES(Elasticsearch):Elasticsearch是一款分布式全文搜索引擎,基于Lucene。它提供实时分析、搜索、聚合和监控数据的能力。学习Elasticsearch的索引管理、查询语法、聚合功能以及如何通过PHP客户端进行操作,有...
在小手API性能监控系统中,Elasticsearch负责存储和索引Nginx的日志数据,便于快速查询和分析。 2. **Nginx请求日志**:Nginx作为流行的Web服务器,其访问日志记录了每个HTTP请求的详细信息,包括客户端IP、请求...
4. **建立连接**:配置Nginx组件以连接到Elasticsearch,确保日志数据能够传输到Elasticsearch。 5. **验证日志**:在Kibana中,检查索引管理,确认存在名为`fluentd.es.nginx.log`的索引,然后创建相应的索引模式,...
- **日志分析工具**:使用Logstash、ELK Stack(Elasticsearch、Logstash、Kibana)等工具进行日志收集、处理和可视化。 通过以上内容,我们可以看到Nginx服务器集群及优化部署涉及到多个层面,包括服务器集群的...
主要是以MySQL作为基础数据存储,结合ES实现站内搜索引擎。 二、涉及技术 核心搜索技术: SpringBoot + Elasticsearch(方便实现站内搜索引擎) 站内搜索引擎实现: Elasticsearch + MySQL + Kafka 地图搜索: ...
通过将Logstash的Grok插件与Elasticsearch的强大搜索和分析功能相结合,并利用Kibana的可视化能力,可以极大地提升分析和监控Nginx服务器日志的效率和效果。这对于运维团队来说,无疑是一种强大的工具,能够帮助他们...
在实际应用中,Elasticsearch和Filebeat通常结合使用。Filebeat负责收集来自服务器的日志数据,然后将其发送到Elasticsearch进行存储和分析。Kibana作为Elastic Stack的一部分,可以用来可视化这些数据,提供丰富的...
1. Elasticsearch(ES)的使用背景和需求分析: - 旅游服务行业的数据特点,比如数据量大、实时更新、多索引和shard的管理; - 面临的挑战,如集群维护、数据一致性和系统稳定性等; - 针对大数据量和高并发场景...