项目准备做日志统一收集分析系统,于是开始研究LogStash,坛子上已经有不少LogStash的文档了,我还是决定先把自己的东西简单总结下。
首先说下项目的背景:我们有1000多服务器,20多种日志,日志类型及格式也都各式各样。日志的统一管理是势在必行的。
LogStash一般都是搭配Redis(缓存)、ElasticSearch(存储、搜索)、Kibana(界面展示)。目前LogStash已经内置了ES和Kibana。
不过elasticSearch有性能压力,需要做集群部署,建议单独搭建。Kibana可以直接用LogStash内置的。
LogStash基本介绍就不再多说了,直接上架构图(图片是转过来的):
具体的效果图及配置详细说明等下篇再论,说下个人的用后感吧:
直观优点:
安装部署确实非常简单,功能上从统一收集来说比较有用。
问题:
1. 日志展示界面看的不够清爽,而且Kibana定制困难(我对js不了解,目前logstash的论坛中也米有对界面定制的讨论)
2. 搜索功能虽然比较强大,但是有时候就是搜不出来
3. 汉化(我自己当然是不需要,主要是我对日志格式通过grok做了处理,加了很多字段,如果不汉化的话,别人很难理解字段含义)
4. 问题分析(logstash有时候出现日志收集不了的情况,但是其本身的日志看不出任何问题,只能重启)
5. 性能问题(还没开始测试,估计会有的,中文论坛上没人讨论性能问题)
目前LogStash貌似并不是很普及,很多论坛都是讲最基本的用法,如果有大神的话欢迎来讨论。
相关推荐
centos7下安装rpm离线安装logstash-6.2.4和logstash-output-jdbc插件 内含logstash rpm包和已打包好的logstash-output-jdbc插件
logstash-input-cloudwatch-logs, Logstash的输入插件,用于从CloudWatch日志流事件 用于CloudWatch日志的 Logstash输入 来自CloudWatch日志的流事件。命令行目指定单个日志组或者组 array,这里插件将扫描该组中的...
在一个联网的虚拟机上下载好插件 ./logstash-plugin install logstash-input-jdbc 查看插件是否安装 ./logstash-plugin list 打包下载好的插件(可能会有错误;多试几次) ./logstash-plugin prepare-offline-...
logstash-7.12.1 output-clickhouse 插件已经编译好了,logstash-7.12.1解压,直接logstash-plugin install logstash-output-clickhouse-0.1.0.gem 安装 懂的人,不需要过多解释,直接下载安装开干
Logstash 是一个强大的开源数据收集、处理和转发引擎,由 Elastic 公司开发,广泛应用于日志管理和实时数据管道建设。这个压缩包“logstash-7.17.5-windows-x86_64.zip”包含了 Logstash 的 Windows 64 位版本,允许...
Logstash是一款广泛应用于日志管理系统的开源工具,它在IT领域中扮演着数据收集、处理和转发的重要角色。Logstash v7.11.1的源码版本为开发者提供了深入理解其工作原理和定制功能的机会。这个压缩包包含了Logstash的...
最新版linux logstash-8.10.0-linux-x86_64.tar.gz最新版linux logstash-8.10.0-linux-x86_64.tar.gz最新版linux logstash-8.10.0-linux-x86_64.tar.gz最新版linux logstash-8.10.0-linux-x86_64.tar.gz
Logstash 是一个强大的开源数据收集、处理和转发引擎,它属于 Elastic Stack(以前称为 ELK Stack,包括 Elasticsearch、Logstash 和 Kibana)的一部分。在Linux环境中,Logstash被广泛用于日志管理和分析,能够从...
解压后使用,版本:logstash-input-mongodb-0.4.1 logstash离线包安装命令: Windows:logstash-plugin install file:///D:/logstash-7.5.0/logstash-input-mongodb/logstash-input-mongodb-0.4.1.zip Linux:...
logstash-7.10.2-linux-x86_64.tar文件 logstash-7.10.2-linux-x86_64.tar文件 logstash-7.10.2-linux-x86_64.tar文件 logstash-7.10.2-linux-x86_64.tar文件 logstash-7.10.2-linux-x86_64.tar文件 logstash-7.10.2...
Linux Logstash 7.15.2 是一个强大的开源数据收集、处理和转发工具,尤其在日志管理和分析领域有着广泛的应用。这个版本是专为64位Linux系统设计的,确保了在现代硬件上的高效运行。让我们深入探讨Logstash的功能、...
Logstash 是一个开源的数据收集和传输工具,广泛用于日志管理和大数据分析的生态系统中。它遵循“收集、处理、存储”的工作模式,能够从各种数据源接收数据,对其进行过滤、转换,并将处理后的数据发送到各种目标,...
Logstash 是一个强大的数据收集、处理和转发工具,广泛用于日志管理和实时分析系统中。在Logstash中,filter模块负责对输入的数据进行各种转换和处理,以满足特定的需求。"logstash-filter-geoip-cn.zip" 文件显然是...
Linux Logstash 7.10.0 是一个强大的开源数据收集和处理引擎,它属于 Elastic Stack(也称为 ELK Stack,包括 Elasticsearch、Logstash 和 Kibana)的一部分。这个版本的 Logstash 针对 Linux x86_64 架构进行了优化...
为了将Logstash收集的数据存储到Clickhouse,我们需要使用Logstash的输出插件。在Logstash 7.12.0版本中,可以利用第三方插件logstash-output-clickhouse实现这一功能。该插件允许Logstash直接将数据写入Clickhouse...
最新版linux logstash-8.8.0-linux-x86_64.tar.gz最新版linux logstash-8.8.0-linux-x86_64.tar.gz最新版linux logstash-8.8.0-linux-x86_64.tar.gz
Linux Logstash是一款强大的数据收集、处理和转发工具,广泛应用于日志管理和监控系统中。它属于Elastic Stack(以前称为ELK Stack)的一部分,与Elasticsearch和Kibana一起,构建了一个完整的日志分析解决方案。...
Linux Logstash 7.12.0 是一个强大的开源数据收集、处理和转发工具,尤其在日志管理和分析领域有着广泛的应用。这个最新版本的软件是专为64位Linux系统设计的,提供了高效的数据流处理能力,帮助系统管理员和开发...
logstash-8.15.3-windows-x86_64
Linux Logstash 7.17.0 是一个强大的开源数据收集、处理和转发工具,它在日志管理和大数据分析领域有着广泛的应用。Logstash 主要由 Elasticsearch 和 Kibana 组成了 ELK(Elasticsearch, Logstash, Kibana)堆栈,...