`

LogStash日志收集系统调研(一)---初识LogStash

 
阅读更多

项目准备做日志统一收集分析系统,于是开始研究LogStash,坛子上已经有不少LogStash的文档了,我还是决定先把自己的东西简单总结下。

首先说下项目的背景:我们有1000多服务器,20多种日志,日志类型及格式也都各式各样。日志的统一管理是势在必行的。

LogStash一般都是搭配Redis(缓存)、ElasticSearch(存储、搜索)、Kibana(界面展示)。目前LogStash已经内置了ES和Kibana。

不过elasticSearch有性能压力,需要做集群部署,建议单独搭建。Kibana可以直接用LogStash内置的。

 

LogStash基本介绍就不再多说了,直接上架构图(图片是转过来的):

 

 

具体的效果图及配置详细说明等下篇再论,说下个人的用后感吧:

直观优点:    

      安装部署确实非常简单,功能上从统一收集来说比较有用。

 

问题:

      1. 日志展示界面看的不够清爽,而且Kibana定制困难(我对js不了解,目前logstash的论坛中也米有对界面定制的讨论)

      2. 搜索功能虽然比较强大,但是有时候就是搜不出来

      3. 汉化(我自己当然是不需要,主要是我对日志格式通过grok做了处理,加了很多字段,如果不汉化的话,别人很难理解字段含义)

      4. 问题分析(logstash有时候出现日志收集不了的情况,但是其本身的日志看不出任何问题,只能重启)

      5. 性能问题(还没开始测试,估计会有的,中文论坛上没人讨论性能问题)

 

目前LogStash貌似并不是很普及,很多论坛都是讲最基本的用法,如果有大神的话欢迎来讨论。

分享到:
评论

相关推荐

    rpm离线安装logstash-6.2.4和logstash-output-jdbc插件

    centos7下安装rpm离线安装logstash-6.2.4和logstash-output-jdbc插件 内含logstash rpm包和已打包好的logstash-output-jdbc插件

    logstash-input-cloudwatch-logs, Logstash的输入插件,用于从CloudWatch日志流事件.zip

    logstash-input-cloudwatch-logs, Logstash的输入插件,用于从CloudWatch日志流事件 用于CloudWatch日志的 Logstash输入 来自CloudWatch日志的流事件。命令行目指定单个日志组或者组 array,这里插件将扫描该组中的...

    logstash-output-jdbc.zip

    在一个联网的虚拟机上下载好插件 ./logstash-plugin install logstash-input-jdbc 查看插件是否安装 ./logstash-plugin list 打包下载好的插件(可能会有错误;多试几次) ./logstash-plugin prepare-offline-...

    logstash-output-clickhouse-0.1.0.gem

    logstash-7.12.1 output-clickhouse 插件已经编译好了,logstash-7.12.1解压,直接logstash-plugin install logstash-output-clickhouse-0.1.0.gem 安装 懂的人,不需要过多解释,直接下载安装开干

    logstash-7.17.5-windows-x86_64.zip

    Logstash 是一个强大的开源数据收集、处理和转发引擎,由 Elastic 公司开发,广泛应用于日志管理和实时数据管道建设。这个压缩包“logstash-7.17.5-windows-x86_64.zip”包含了 Logstash 的 Windows 64 位版本,允许...

    Logstash日志管理系统 v7.11.1-源码.zip

    Logstash是一款广泛应用于日志管理系统的开源工具,它在IT领域中扮演着数据收集、处理和转发的重要角色。Logstash v7.11.1的源码版本为开发者提供了深入理解其工作原理和定制功能的机会。这个压缩包包含了Logstash的...

    最新版linux logstash-8.10.0-linux-x86-64.tar.gz

    最新版linux logstash-8.10.0-linux-x86_64.tar.gz最新版linux logstash-8.10.0-linux-x86_64.tar.gz最新版linux logstash-8.10.0-linux-x86_64.tar.gz最新版linux logstash-8.10.0-linux-x86_64.tar.gz

    最新版linux logstash-8.5.0-linux-x86-64.tar.gz

    Logstash 是一个强大的开源数据收集、处理和转发引擎,它属于 Elastic Stack(以前称为 ELK Stack,包括 Elasticsearch、Logstash 和 Kibana)的一部分。在Linux环境中,Logstash被广泛用于日志管理和分析,能够从...

    logstash-input-mongodb离线包

    解压后使用,版本:logstash-input-mongodb-0.4.1 logstash离线包安装命令: Windows:logstash-plugin install file:///D:/logstash-7.5.0/logstash-input-mongodb/logstash-input-mongodb-0.4.1.zip Linux:...

    logstash-7.10.2-linux-x86-64.tar文件(分享给需要的同学)

    logstash-7.10.2-linux-x86_64.tar文件 logstash-7.10.2-linux-x86_64.tar文件 logstash-7.10.2-linux-x86_64.tar文件 logstash-7.10.2-linux-x86_64.tar文件 logstash-7.10.2-linux-x86_64.tar文件 logstash-7.10.2...

    最新版linux logstash-7.15.2-linux-x86_64.tar.gz

    Linux Logstash 7.15.2 是一个强大的开源数据收集、处理和转发工具,尤其在日志管理和分析领域有着广泛的应用。这个版本是专为64位Linux系统设计的,确保了在现代硬件上的高效运行。让我们深入探讨Logstash的功能、...

    最新版windows logstash-7.10.0-windows-x86_64.zip

    Logstash 是一个开源的数据收集和传输工具,广泛用于日志管理和大数据分析的生态系统中。它遵循“收集、处理、存储”的工作模式,能够从各种数据源接收数据,对其进行过滤、转换,并将处理后的数据发送到各种目标,...

    logstash-filter-geoip-cn.zip

    Logstash 是一个强大的数据收集、处理和转发工具,广泛用于日志管理和实时分析系统中。在Logstash中,filter模块负责对输入的数据进行各种转换和处理,以满足特定的需求。"logstash-filter-geoip-cn.zip" 文件显然是...

    最新版linux logstash-7.10.0-linux-x86_64.tar.gz

    Linux Logstash 7.10.0 是一个强大的开源数据收集和处理引擎,它属于 Elastic Stack(也称为 ELK Stack,包括 Elasticsearch、Logstash 和 Kibana)的一部分。这个版本的 Logstash 针对 Linux x86_64 架构进行了优化...

    logstash-7.12.0-output-clickhouse.rar

    为了将Logstash收集的数据存储到Clickhouse,我们需要使用Logstash的输出插件。在Logstash 7.12.0版本中,可以利用第三方插件logstash-output-clickhouse实现这一功能。该插件允许Logstash直接将数据写入Clickhouse...

    最新版linux logstash-8.8.0-linux-x86-64.tar.gz

    最新版linux logstash-8.8.0-linux-x86_64.tar.gz最新版linux logstash-8.8.0-linux-x86_64.tar.gz最新版linux logstash-8.8.0-linux-x86_64.tar.gz

    最新版linux logstash-7.12.1-linux-x86_64.tar.gz

    Linux Logstash是一款强大的数据收集、处理和转发工具,广泛应用于日志管理和监控系统中。它属于Elastic Stack(以前称为ELK Stack)的一部分,与Elasticsearch和Kibana一起,构建了一个完整的日志分析解决方案。...

    最新版linux logstash-7.12.0-linux-x86_64.tar.gz

    Linux Logstash 7.12.0 是一个强大的开源数据收集、处理和转发工具,尤其在日志管理和分析领域有着广泛的应用。这个最新版本的软件是专为64位Linux系统设计的,提供了高效的数据流处理能力,帮助系统管理员和开发...

    logstash-8.15.3-windows-x86-64

    logstash-8.15.3-windows-x86_64

    最新版linux logstash-7.17.0-linux-x86_64.tar.gz

    Linux Logstash 7.17.0 是一个强大的开源数据收集、处理和转发工具,它在日志管理和大数据分析领域有着广泛的应用。Logstash 主要由 Elasticsearch 和 Kibana 组成了 ELK(Elasticsearch, Logstash, Kibana)堆栈,...

Global site tag (gtag.js) - Google Analytics