(一)Beats是什么?
Beats是elasticsearch公司开源的一款采集系统监控数据的代理agent,它可以发送不同类型的数据到elasticsearch中,也可以行将采集完的数据发送到logstash中转,然后在推送到elasticsearch中,目前还在发展中,与成熟的监控系统zabbix和ganglia相比就界面看起来爽了点,系统功能还是有点弱,不过与elasticsearch全文搜索框架集成后,数据查询过滤功能非常强悍,还是非常有前途
的,在ELKB中,各个框架角色如下:
Beats:负责收集系统数据,可以直接发送到es中,也可以通过logstash中转
logstash:收集日志,为beats提供中转功能
Elasticsearch:提供数据存储,服务端聚合计算功能
Kibana:提供炫丽的可视化图形展示并且作为elasticsearch的搜索的小清新客户端
(二)Beats的组成:
到目前elasticsearch已经提供的有:
(1)Packetbeat 网络流量监控采集
(2)Topbeat 类似linux top的监控采集
(3)Filebeat 文件log的监控采集
(4)WinlogBeat windows系统的log监控采集
(5)自定义beat ,如果上面的指标不能满足需求,elasticsarch公司鼓励开发者
使用go语言,扩展实现自定义的beats指标,只需要按照模板,实现监控的输入,日志,输出等即可
(三)Beats的基本拓扑:
(四)如何安装使用
散仙假设你的ELK集群已经搭建完毕,如果没有,那么请参考这篇文章http://www.iteye.com/blogs/subjects/elk_stack
本篇只介绍一种beats的安装方法,其他几种大同小异,需要监控多少台机器,就安装多少台机器即可
(A)安装初始化包
- (1)安装依赖库 sudo yum install libpcap
- (2)wget https://download.elastic.co/beats/packetbeat/packetbeat-1.1.2-x86_64.rpm
- (3)sudo rpm -vi packetbeat-1.1.2-x86_64.rpm
- 第二步如果下载速度特别慢,可以自己使用vpn下载完,上传linux,进行安装
(B)配置elasticsearch地址或者Logstash(可选)采集的beats指标
- sudo vi /etc/packetbeat/packetbeat.yml
- 或者,配置logstash作为中转不直接写入elasticsearch
(C)配置elasticsearch模板
- curl -XPUT 'http://192.168.1.187:9200/_template/packetbeat' -d@/etc/packetbeat/packetbeat.template.json
(D)启动Packetbeat 指标收集进程
- //启动beats
- sudo /etc/init.d/packetbeat start
- //关闭
- sudo /etc/init.d/packetbeat stop
- //测试:
- curl http://www.elastic.co/ > /dev/null
- curl -XGET 'http://localhost:9200/topbeat-*/_search?pretty'
查看数据采集:
(五)安装 kibana dashboards 的模板数据
- 1, 下载 wget http://download.elastic.co/beats/dashboards/beats-dashboards-1.1.1.zip
- 2, 解压 unzip beats-dashboards-1.1.1.zip
- 3, 进入 cd beats-dashboards-1.1.1/
- 4, 执行 ./load.sh 或者 ./load.sh -url http://192.168.33.60:9200
- 将dashboard的模板配置数据存进elasticsarch里面
(六)配置kibana dashboards
1,选择索引模块
2,选择仪表盘
3,选择Packetbeat Dashboard 添加监控指标,就可以看见监控的走势图了,最上面有个搜索框,可以任意搜索你监控的机器节点,最后晒几张比较炫的图,也不算华而不实
官网资料:
https://www.elastic.co/guide/en/beats/libbeat/current/index.html
转自:http://qindongliang.iteye.com/blog/2280659
相关推荐
日志服务平台是IT系统监控和故障排查的重要工具,而基于ELK(Elasticsearch、Logstash、Kibana)的日志服务平台则因其高效、灵活和可扩展性,被广泛应用于各类企业和组织。本文将深入探讨ELK栈的核心组件及其在构建...
### 基于ELK的高校数据中心运维多层面监控平台研究与实践 #### 摘要与背景 本文探讨了一种基于ELK栈(Elasticsearch、Logstash、Kibana)的高校数据中心运维监控平台的设计与实现。该平台旨在通过对数据中心内部软...
7. **实时监控与报警**:掌握如何利用Elasticsearch和Kibana进行系统监控,设置阈值报警,及时发现并解决问题。 8. **性能优化**:探讨Elasticsearch和Logstash的性能调优策略,包括内存分配、索引设置、分片策略等...
通过学习和应用ELK技术,运维和开发人员可以提高效率,快速定位和解决系统故障,对服务器的负荷、性能和安全性进行实时监控,从而及时采取措施来纠正错误。ELK日志分析系统在处理大量日志数据时,尤其在大型的服务器...
Beats包括多个子项目,如Filebeat(收集日志文件)、Metricbeat(收集系统和应用指标)、Packetbeat(网络数据)、Winlogbeat(Windows事件日志)和Heartbeat(监控系统状态)。这些工具都是用Go语言编写,因此具有...
Beats是一系列轻量级的数据收集代理,如Filebeat用于收集服务器日志,Packetbeat监控网络流量,Metricbeat收集系统和服务的性能指标,Winlogbeat则专注Windows系统日志。它们简化了数据采集过程,可以直接将数据发送...
《ELK指南》压缩包包含了全面介绍Elasticsearch、Kibana、Beats以及Logstash这四个关键组件的详尽资料,总计647页,是深入理解和掌握ELK堆栈的重要资源。ELK(Elasticsearch、Logstash、Kibana)是大数据日志分析...
### ELK日志分析系统详解 #### 一、ELK简介 ELK栈是指由Elasticsearch、Logstash和Kibana三个组件组成的日志分析系统。随着时间的发展,ELK栈已经成为Elastic Stack的一部分,而不仅仅是这三个组件。这套系统被广泛...
在本文中,我们将深入探讨如何使用Spring Boot 2.7.3版本与Elasticsearch、Logstash和Kibana(通常...通过正确地配置和使用ELK Stack,我们可以获得强大的日志管理能力,为故障排查、系统监控和业务洞察提供强大支持。
6. **日志分析**:ELK栈特别适合日志分析,因为Logstash可以方便地收集来自不同源的日志数据,Elasticsearch能高效地存储和搜索这些数据,而Kibana则提供了直观的可视化界面,帮助分析系统性能、检测异常、监控应用...
ELK(Elasticsearch, Logstash, Kibana)是一个流行的开源日志分析栈,用于收集、解析、存储和可视化各种...通过合理规划和实施,可以实现高效、灵活的日志管理和分析,帮助运维人员快速定位问题,提升系统监控能力。
**ELK日志收集系统集群搭建** ELK是Elasticsearch、Logstash和Kibana三个开源工具的首字母缩写,它们共同构成了一个强大的日志管理和分析平台。ELK stack在IT运维、数据分析和安全监控等领域有广泛的应用,帮助用户...
# 基于Spring Boot的监控与日志管理系统 ## 项目简介 本项目是一个基于Spring Boot框架的监控与日志管理系统,旨在提供一个集成的解决方案,用于监控应用程序的运行状态、收集和分析日志数据,并通过链路追踪技术...
在实际应用中,ELK Stack还可以与其他工具结合,例如Beats(如Filebeat、Metricbeat等)用于从远程主机收集日志或监控数据,进一步扩展其功能。此外,安全性和性能优化也是使用ELK Stack时需要注意的关键点,例如...
总结来说,ELK日志系统提供了强大的日志管理和分析能力,通过对各种类型日志的集中处理,如MySQL、Redis、Nginx、Tomcat、系统日志等,能够帮助运维人员实时监控系统状态,提高故障排查效率,同时也为开发人员提供了...
ELK堆栈还可以与其他组件结合使用,如Beats(一组轻量级数据收集代理)用于从不同主机和应用中收集日志,以及X-Pack(Elasticsearch的附加组件)提供安全、监控、报告和警报功能。 总结来说,ELK堆栈是现代IT环境中...
Elasticsearch是ELK Stack中的核心组件,它是一个基于Apache Lucene构建的开源、分布式搜索和分析引擎。它的设计目标是快速、稳定、可靠地扩展至上百台服务器,并处理数以TB计的数据。Elasticsearch不仅能够存储大量...
1. Elasticsearch:作为ELK的核心,Elasticsearch是一个分布式、RESTful风格的搜索引擎,基于Lucene构建。它提供了实时的数据存储、搜索和分析能力,支持海量数据的高效率检索,并且能够实现快速的数据聚合和多维度...
在实际应用中,ELK堆栈常用于日志管理和监控、安全分析、应用程序性能监控(APM)、网站分析等多种场景。7.4.2版本可能会有一些特定的性能优化和新特性,如增强的安全性、更高效的索引管理和查询性能。了解并熟练...