`
qindongliang1922
  • 浏览: 2184451 次
  • 性别: Icon_minigender_1
  • 来自: 北京
博客专栏
7265517b-f87e-3137-b62c-5c6e30e26109
证道Lucene4
浏览量:117546
097be4a0-491e-39c0-89ff-3456fadf8262
证道Hadoop
浏览量:125934
41c37529-f6d8-32e4-8563-3b42b2712a50
证道shell编程
浏览量:59928
43832365-bc15-3f5d-b3cd-c9161722a70c
ELK修真
浏览量:71305
社区版块
存档分类
最新评论

基于ELK+Beats进行系统监控

    博客分类:
  • ELK
阅读更多

(一)Beats是什么?

Beats是elasticsearch公司开源的一款采集系统监控数据的代理agent,它可以发送不同类型的数据到elasticsearch中,也可以行将采集完的数据发送到logstash中转,然后在推送到elasticsearch中,目前还在发展中,与成熟的监控系统zabbix和ganglia相比就界面看起来爽了点,系统功能还是有点弱,不过与elasticsearch全文搜索框架集成后,数据查询过滤功能非常强悍,还是非常有前途
的,在ELKB中,各个框架角色如下:

Beats:负责收集系统数据,可以直接发送到es中,也可以通过logstash中转
logstash:收集日志,为beats提供中转功能
Elasticsearch:提供数据存储,服务端聚合计算功能
Kibana:提供炫丽的可视化图形展示并且作为elasticsearch的搜索的小清新客户端

(二)Beats的组成:
到目前elasticsearch已经提供的有:
(1)Packetbeat 网络流量监控采集
(2)Topbeat   类似linux top的监控采集
(3)Filebeat  文件log的监控采集
(4)WinlogBeat windows系统的log监控采集
(5)自定义beat ,如果上面的指标不能满足需求,elasticsarch公司鼓励开发者
使用go语言,扩展实现自定义的beats指标,只需要按照模板,实现监控的输入,日志,输出等即可

(三)Beats的基本拓扑:






(四)如何安装使用

散仙假设你的ELK集群已经搭建完毕,如果没有,那么请参考这篇文章http://www.iteye.com/blogs/subjects/elk_stack

本篇只介绍一种beats的安装方法,其他几种大同小异,需要监控多少台机器,就安装多少台机器即可

(A)安装初始化包
(1)安装依赖库 sudo yum install libpcap 
(2)wget https://download.elastic.co/beats/packetbeat/packetbeat-1.1.2-x86_64.rpm 
(3)sudo rpm -vi packetbeat-1.1.2-x86_64.rpm
第二步如果下载速度特别慢,可以自己使用vpn下载完,上传linux,进行安装


(B)配置elasticsearch地址或者Logstash(可选)采集的beats指标

sudo vi /etc/packetbeat/packetbeat.yml 
或者,配置logstash作为中转不直接写入elasticsearch


(C)配置elasticsearch模板


curl -XPUT 'http://192.168.1.187:9200/_template/packetbeat' -d@/etc/packetbeat/packetbeat.template.json  


(D)启动Packetbeat 指标收集进程

//启动beats
sudo /etc/init.d/packetbeat start
//关闭
sudo /etc/init.d/packetbeat stop 
//测试:
curl http://www.elastic.co/ > /dev/null
curl -XGET 'http://localhost:9200/topbeat-*/_search?pretty'



查看数据采集:

(五)安装 kibana dashboards  的模板数据

 1, 下载 wget  http://download.elastic.co/beats/dashboards/beats-dashboards-1.1.1.zip
 2, 解压 unzip beats-dashboards-1.1.1.zip
 3,  进入 cd beats-dashboards-1.1.1/
 4, 执行 ./load.sh  或者  ./load.sh -url http://192.168.33.60:9200 
     将dashboard的模板配置数据存进elasticsarch里面


(六)配置kibana dashboards

1,选择索引模块




2,选择仪表盘




3,选择Packetbeat Dashboard 添加监控指标,就可以看见监控的走势图了,最上面有个搜索框,可以任意搜索你监控的机器节点,最后晒几张比较炫的图,也不算华而不实















官网资料:
https://www.elastic.co/guide/en/beats/libbeat/current/index.html


有什么问题 可以扫码关注微信公众号:我是攻城师(woshigcs),在后台留言咨询。
本公众号的内容是有关搜索和大数据技术和互联网等方面内容的分享,也是一个温馨的技术互动交流的小家园




  • 大小: 58.2 KB
  • 大小: 39 KB
  • 大小: 15.1 KB
  • 大小: 67 KB
  • 大小: 46.9 KB
  • 大小: 43.6 KB
  • 大小: 28.4 KB
0
3
分享到:
评论

相关推荐

    行业文档-设计装置-基于ELK的日志服务平台.zip

    日志服务平台是IT系统监控和故障排查的重要工具,而基于ELK(Elasticsearch、Logstash、Kibana)的日志服务平台则因其高效、灵活和可扩展性,被广泛应用于各类企业和组织。本文将深入探讨ELK栈的核心组件及其在构建...

    基于ELK的高校数据中心运维多层面监控平台研究与实践.docx

    ### 基于ELK的高校数据中心运维多层面监控平台研究与实践 #### 摘要与背景 本文探讨了一种基于ELK栈(Elasticsearch、Logstash、Kibana)的高校数据中心运维监控平台的设计与实现。该平台旨在通过对数据中心内部软...

    ELKstack+中文指南Chinese

    7. **实时监控与报警**:掌握如何利用Elasticsearch和Kibana进行系统监控,设置阈值报警,及时发现并解决问题。 8. **性能优化**:探讨Elasticsearch和Logstash的性能调优策略,包括内存分配、索引设置、分片策略等...

    13-ELK日志分析系统.pdf

    通过学习和应用ELK技术,运维和开发人员可以提高效率,快速定位和解决系统故障,对服务器的负荷、性能和安全性进行实时监控,从而及时采取措施来纠正错误。ELK日志分析系统在处理大量日志数据时,尤其在大型的服务器...

    ELK 企业内部日志分析系统

    Beats包括多个子项目,如Filebeat(收集日志文件)、Metricbeat(收集系统和应用指标)、Packetbeat(网络数据)、Winlogbeat(Windows事件日志)和Heartbeat(监控系统状态)。这些工具都是用Go语言编写,因此具有...

    05-ELK日志监控收集及网站流量监控实战.docx

    Beats是一系列轻量级的数据收集代理,如Filebeat用于收集服务器日志,Packetbeat监控网络流量,Metricbeat收集系统和服务的性能指标,Winlogbeat则专注Windows系统日志。它们简化了数据采集过程,可以直接将数据发送...

    elk指南.zip

    《ELK指南》压缩包包含了全面介绍Elasticsearch、Kibana、Beats以及Logstash这四个关键组件的详尽资料,总计647页,是深入理解和掌握ELK堆栈的重要资源。ELK(Elasticsearch、Logstash、Kibana)是大数据日志分析...

    elk日志分析系统、elk速成宝典、elk新手晋级大神

    ### ELK日志分析系统详解 #### 一、ELK简介 ELK栈是指由Elasticsearch、Logstash和Kibana三个组件组成的日志分析系统。随着时间的发展,ELK栈已经成为Elastic Stack的一部分,而不仅仅是这三个组件。这套系统被广泛...

    springboot - 2.7.3版本 - (五)整合Elasticsearch+Logstash+Kibana(ELK)

    在本文中,我们将深入探讨如何使用Spring Boot 2.7.3版本与Elasticsearch、Logstash和Kibana(通常...通过正确地配置和使用ELK Stack,我们可以获得强大的日志管理能力,为故障排查、系统监控和业务洞察提供强大支持。

    ELK全量安装包宝宝

    6. **日志分析**:ELK栈特别适合日志分析,因为Logstash可以方便地收集来自不同源的日志数据,Elasticsearch能高效地存储和搜索这些数据,而Kibana则提供了直观的可视化界面,帮助分析系统性能、检测异常、监控应用...

    教你比别人更快更简单的搭建ELK日志系统群集elk软件包.rar

    ELK(Elasticsearch, Logstash, Kibana)是一个流行的开源日志分析栈,用于收集、解析、存储和可视化各种...通过合理规划和实施,可以实现高效、灵活的日志管理和分析,帮助运维人员快速定位问题,提升系统监控能力。

    elk日志收集系统集群搭建资源包

    **ELK日志收集系统集群搭建** ELK是Elasticsearch、Logstash和Kibana三个开源工具的首字母缩写,它们共同构成了一个强大的日志管理和分析平台。ELK stack在IT运维、数据分析和安全监控等领域有广泛的应用,帮助用户...

    (源码)基于Spring Boot的监控与日志管理系统.zip

    # 基于Spring Boot的监控与日志管理系统 ## 项目简介 本项目是一个基于Spring Boot框架的监控与日志管理系统,旨在提供一个集成的解决方案,用于监控应用程序的运行状态、收集和分析日志数据,并通过链路追踪技术...

    elk7.13.4安装包分开发布elk.rar

    在实际应用中,ELK Stack还可以与其他工具结合,例如Beats(如Filebeat、Metricbeat等)用于从远程主机收集日志或监控数据,进一步扩展其功能。此外,安全性和性能优化也是使用ELK Stack时需要注意的关键点,例如...

    ELK日志系统部署方案cycwll.doc

    总结来说,ELK日志系统提供了强大的日志管理和分析能力,通过对各种类型日志的集中处理,如MySQL、Redis、Nginx、Tomcat、系统日志等,能够帮助运维人员实时监控系统状态,提高故障排查效率,同时也为开发人员提供了...

    ELK知识树.mindnode.zip

    ELK堆栈还可以与其他组件结合使用,如Beats(一组轻量级数据收集代理)用于从不同主机和应用中收集日志,以及X-Pack(Elasticsearch的附加组件)提供安全、监控、报告和警报功能。 总结来说,ELK堆栈是现代IT环境中...

    ELK stack手册.pdf

    Elasticsearch是ELK Stack中的核心组件,它是一个基于Apache Lucene构建的开源、分布式搜索和分析引擎。它的设计目标是快速、稳定、可靠地扩展至上百台服务器,并处理数以TB计的数据。Elasticsearch不仅能够存储大量...

    ELK入门及集群搭建快速实践1

    1. Elasticsearch:作为ELK的核心,Elasticsearch是一个分布式、RESTful风格的搜索引擎,基于Lucene构建。它提供了实时的数据存储、搜索和分析能力,支持海量数据的高效率检索,并且能够实现快速的数据聚合和多维度...

    elk-7.4.2.7z

    在实际应用中,ELK堆栈常用于日志管理和监控、安全分析、应用程序性能监控(APM)、网站分析等多种场景。7.4.2版本可能会有一些特定的性能优化和新特性,如增强的安全性、更高效的索引管理和查询性能。了解并熟练...

Global site tag (gtag.js) - Google Analytics