`

基于ELK+Beats进行系统监控

阅读更多

        (一)Beats是什么? 


Beats是elasticsearch公司开源的一款采集系统监控数据的代理agent,它可以发送不同类型的数据到elasticsearch中,也可以行将采集完的数据发送到logstash中转,然后在推送到elasticsearch中,目前还在发展中,与成熟的监控系统zabbix和ganglia相比就界面看起来爽了点,系统功能还是有点弱,不过与elasticsearch全文搜索框架集成后,数据查询过滤功能非常强悍,还是非常有前途 
的,在ELKB中,各个框架角色如下: 

Beats:负责收集系统数据,可以直接发送到es中,也可以通过logstash中转 
logstash:收集日志,为beats提供中转功能 
Elasticsearch:提供数据存储,服务端聚合计算功能 
Kibana:提供炫丽的可视化图形展示并且作为elasticsearch的搜索的小清新客户端 

(二)Beats的组成: 
到目前elasticsearch已经提供的有: 
(1)Packetbeat 网络流量监控采集 
(2)Topbeat   类似linux top的监控采集 
(3)Filebeat  文件log的监控采集 
(4)WinlogBeat windows系统的log监控采集 
(5)自定义beat ,如果上面的指标不能满足需求,elasticsarch公司鼓励开发者 
使用go语言,扩展实现自定义的beats指标,只需要按照模板,实现监控的输入,日志,输出等即可

(三)Beats的基本拓扑: 





(四)如何安装使用 

散仙假设你的ELK集群已经搭建完毕,如果没有,那么请参考这篇文章http://www.iteye.com/blogs/subjects/elk_stack 

本篇只介绍一种beats的安装方法,其他几种大同小异,需要监控多少台机器,就安装多少台机器即可 

(A)安装初始化包 

Java代码  收藏代码
  1. (1)安装依赖库 sudo yum install libpcap   
  2. (2)wget https://download.elastic.co/beats/packetbeat/packetbeat-1.1.2-x86_64.rpm   
  3. (3)sudo rpm -vi packetbeat-1.1.2-x86_64.rpm  
  4. 第二步如果下载速度特别慢,可以自己使用vpn下载完,上传linux,进行安装  



(B)配置elasticsearch地址或者Logstash(可选)采集的beats指标 

Java代码  收藏代码
  1. sudo vi /etc/packetbeat/packetbeat.yml   
  2. 或者,配置logstash作为中转不直接写入elasticsearch  



(C)配置elasticsearch模板 

Java代码  收藏代码
  1. curl -XPUT 'http://192.168.1.187:9200/_template/packetbeat' -d@/etc/packetbeat/packetbeat.template.json    



(D)启动Packetbeat 指标收集进程 

Java代码  收藏代码
  1. //启动beats  
  2. sudo /etc/init.d/packetbeat start  
  3. //关闭  
  4. sudo /etc/init.d/packetbeat stop   
  5. //测试:  
  6. curl http://www.elastic.co/ > /dev/null  
  7. curl -XGET 'http://localhost:9200/topbeat-*/_search?pretty'  




查看数据采集: 

(五)安装 kibana dashboards  的模板数据 

Java代码  收藏代码
  1. 1, 下载 wget  http://download.elastic.co/beats/dashboards/beats-dashboards-1.1.1.zip  
  2. 2, 解压 unzip beats-dashboards-1.1.1.zip  
  3. 3,  进入 cd beats-dashboards-1.1.1/  
  4. 4, 执行 ./load.sh  或者  ./load.sh -url http://192.168.33.60:9200   
  5.     将dashboard的模板配置数据存进elasticsarch里面  



(六)配置kibana dashboards 

1,选择索引模块 




2,选择仪表盘 




3,选择Packetbeat Dashboard 添加监控指标,就可以看见监控的走势图了,最上面有个搜索框,可以任意搜索你监控的机器节点,最后晒几张比较炫的图,也不算华而不实 















官网资料: 
https://www.elastic.co/guide/en/beats/libbeat/current/index.html 

转自:http://qindongliang.iteye.com/blog/2280659

分享到:
评论

相关推荐

    行业文档-设计装置-基于ELK的日志服务平台.zip

    日志服务平台是IT系统监控和故障排查的重要工具,而基于ELK(Elasticsearch、Logstash、Kibana)的日志服务平台则因其高效、灵活和可扩展性,被广泛应用于各类企业和组织。本文将深入探讨ELK栈的核心组件及其在构建...

    基于ELK的高校数据中心运维多层面监控平台研究与实践.docx

    ### 基于ELK的高校数据中心运维多层面监控平台研究与实践 #### 摘要与背景 本文探讨了一种基于ELK栈(Elasticsearch、Logstash、Kibana)的高校数据中心运维监控平台的设计与实现。该平台旨在通过对数据中心内部软...

    ELKstack+中文指南Chinese

    7. **实时监控与报警**:掌握如何利用Elasticsearch和Kibana进行系统监控,设置阈值报警,及时发现并解决问题。 8. **性能优化**:探讨Elasticsearch和Logstash的性能调优策略,包括内存分配、索引设置、分片策略等...

    13-ELK日志分析系统.pdf

    通过学习和应用ELK技术,运维和开发人员可以提高效率,快速定位和解决系统故障,对服务器的负荷、性能和安全性进行实时监控,从而及时采取措施来纠正错误。ELK日志分析系统在处理大量日志数据时,尤其在大型的服务器...

    ELK 企业内部日志分析系统

    Beats包括多个子项目,如Filebeat(收集日志文件)、Metricbeat(收集系统和应用指标)、Packetbeat(网络数据)、Winlogbeat(Windows事件日志)和Heartbeat(监控系统状态)。这些工具都是用Go语言编写,因此具有...

    05-ELK日志监控收集及网站流量监控实战.docx

    Beats是一系列轻量级的数据收集代理,如Filebeat用于收集服务器日志,Packetbeat监控网络流量,Metricbeat收集系统和服务的性能指标,Winlogbeat则专注Windows系统日志。它们简化了数据采集过程,可以直接将数据发送...

    elk指南.zip

    《ELK指南》压缩包包含了全面介绍Elasticsearch、Kibana、Beats以及Logstash这四个关键组件的详尽资料,总计647页,是深入理解和掌握ELK堆栈的重要资源。ELK(Elasticsearch、Logstash、Kibana)是大数据日志分析...

    elk日志分析系统、elk速成宝典、elk新手晋级大神

    ### ELK日志分析系统详解 #### 一、ELK简介 ELK栈是指由Elasticsearch、Logstash和Kibana三个组件组成的日志分析系统。随着时间的发展,ELK栈已经成为Elastic Stack的一部分,而不仅仅是这三个组件。这套系统被广泛...

    springboot - 2.7.3版本 - (五)整合Elasticsearch+Logstash+Kibana(ELK)

    在本文中,我们将深入探讨如何使用Spring Boot 2.7.3版本与Elasticsearch、Logstash和Kibana(通常...通过正确地配置和使用ELK Stack,我们可以获得强大的日志管理能力,为故障排查、系统监控和业务洞察提供强大支持。

    ELK全量安装包宝宝

    6. **日志分析**:ELK栈特别适合日志分析,因为Logstash可以方便地收集来自不同源的日志数据,Elasticsearch能高效地存储和搜索这些数据,而Kibana则提供了直观的可视化界面,帮助分析系统性能、检测异常、监控应用...

    教你比别人更快更简单的搭建ELK日志系统群集elk软件包.rar

    ELK(Elasticsearch, Logstash, Kibana)是一个流行的开源日志分析栈,用于收集、解析、存储和可视化各种...通过合理规划和实施,可以实现高效、灵活的日志管理和分析,帮助运维人员快速定位问题,提升系统监控能力。

    elk日志收集系统集群搭建资源包

    **ELK日志收集系统集群搭建** ELK是Elasticsearch、Logstash和Kibana三个开源工具的首字母缩写,它们共同构成了一个强大的日志管理和分析平台。ELK stack在IT运维、数据分析和安全监控等领域有广泛的应用,帮助用户...

    (源码)基于Spring Boot的监控与日志管理系统.zip

    # 基于Spring Boot的监控与日志管理系统 ## 项目简介 本项目是一个基于Spring Boot框架的监控与日志管理系统,旨在提供一个集成的解决方案,用于监控应用程序的运行状态、收集和分析日志数据,并通过链路追踪技术...

    elk7.13.4安装包分开发布elk.rar

    在实际应用中,ELK Stack还可以与其他工具结合,例如Beats(如Filebeat、Metricbeat等)用于从远程主机收集日志或监控数据,进一步扩展其功能。此外,安全性和性能优化也是使用ELK Stack时需要注意的关键点,例如...

    ELK日志系统部署方案cycwll.doc

    总结来说,ELK日志系统提供了强大的日志管理和分析能力,通过对各种类型日志的集中处理,如MySQL、Redis、Nginx、Tomcat、系统日志等,能够帮助运维人员实时监控系统状态,提高故障排查效率,同时也为开发人员提供了...

    ELK知识树.mindnode.zip

    ELK堆栈还可以与其他组件结合使用,如Beats(一组轻量级数据收集代理)用于从不同主机和应用中收集日志,以及X-Pack(Elasticsearch的附加组件)提供安全、监控、报告和警报功能。 总结来说,ELK堆栈是现代IT环境中...

    ELK stack手册.pdf

    Elasticsearch是ELK Stack中的核心组件,它是一个基于Apache Lucene构建的开源、分布式搜索和分析引擎。它的设计目标是快速、稳定、可靠地扩展至上百台服务器,并处理数以TB计的数据。Elasticsearch不仅能够存储大量...

    ELK入门及集群搭建快速实践1

    1. Elasticsearch:作为ELK的核心,Elasticsearch是一个分布式、RESTful风格的搜索引擎,基于Lucene构建。它提供了实时的数据存储、搜索和分析能力,支持海量数据的高效率检索,并且能够实现快速的数据聚合和多维度...

    elk-7.4.2.7z

    在实际应用中,ELK堆栈常用于日志管理和监控、安全分析、应用程序性能监控(APM)、网站分析等多种场景。7.4.2版本可能会有一些特定的性能优化和新特性,如增强的安全性、更高效的索引管理和查询性能。了解并熟练...

Global site tag (gtag.js) - Google Analytics