`

Logstash由于时区导致8小时时差解决方案

阅读更多

写在最前面, 这个logstash解决时差的原理是利用timestamp字段替换logstash的@timesamp字段。

如果日志里没有这个timestamp字段,则无效。

Logstash 2.3版本


logstash的date插件配置:

date {
match =>["timestamp","dd/MMM/yyyy:HH:mm:ss Z"]
target =>"@timestamp"}

查看解析结果发现@timestamp比中国时间早了8小时

对于页面查看,ELK 的解决方案是在 Kibana 上,读取浏览器的当前时区,然后在页面上转换时间内容的显示。
解决方案找到两个
1、

vim vendor/bundle/jruby/1.9/gems/logstash-core-event-2.3.3-java/lib/logstash/timestamp.rb

把@time = time.utc 改成time即可

2、
这种办法与Linux服务器的时区设置有关系,有些Linux可能修改不成功,推荐用第一种。
http://www.aichengxu.com/view/6621766
1)修改logstash配置

date {
match =>["timestamp","yyyy-MM-dd HH:mm:ss"]
target =>"@timestamp""locale"=>"en"
timezone =>"+00:00"}

添加 timezone => “+00:00”
然后测试@timestamp就是正常的时间了,@timestamp和timestamp是一致的。
2)因为kibana会读取浏览器的时区,然后+8小时,所以需要修改kibana的配置。
Settings – Advanced – dateFormat:tz 修改为UTC

Elasticsearch索引创建错误
修改之后发现logstash在按每天输出到elasticsearch时,每天8:00才创建当天索引,而8:00以前数据还是会输出到昨天的索引,如图:

解决办法如下:

vim ./vendor/bundle/jruby/1.9/gems/logstash-core-event-2.3.3-java/lib/logstash/string_interpolation.rb
.withZone(org.joda.time.DateTimeZone::UTC)

修改为

.withZone(org.joda.time.DateTimeZone.getDefault())

 

 

Logstash5.3版本


解决8小时时差问题,配置如下:

    date {
        match =>["timestamp","dd/MMM/yyyy:HH:mm:ss +0800"]
        target =>"@timestamp""locale"=>"en"
        timezone =>"UTC"}
分享到:
评论

相关推荐

    Logstash6整合Hadoop-报错与解决方案.docx

    Logstash6整合Hadoop报错与解决方案 Logstash是 Elastic Stack 中的数据处理引擎,可以从多种数据源中提取数据,并对其进行处理和转换,然后将其输出到多种目标中,例如 Elasticsearch、Kafka、Hadoop 等。在大...

    Logstash收集Tomcat集群日志的解决方案.txt

    ### Logstash收集Tomcat集群日志的解决方案 #### 背景介绍 随着企业规模的不断扩大,业务系统逐渐复杂化,对于系统运维人员而言,如何有效地监控和管理大量的日志数据变得至关重要。尤其是在Web应用程序中,例如...

    FIlebeat和Logstash部署步骤

    ELK栈是目前最流行的日志收集和分析解决方案,它由Elasticsearch、Logstash和Kibana三个组件组成。Elasticsearch是一个开源的搜索引擎,提供了强大的搜索和分析能力。Logstash是一个日志处理工具,负责收集、处理和...

    ELK解决8小时的时间误差

    ELK是三个开源软件的缩写,分别表示:Elasticsearch , Logstash, Kibana , 它们都是开源软件。新增了一个FileBeat,它是一个轻量级的日志收集处理工具(Agent),Filebeat占用资源少,适合于在各个服务器上搜集日志后...

    logstash-7.17.8-windows-x86-64.zip

    在"7.17.8"这个版本中,Logstash 提供了稳定性和性能的改进,以适应不断增长的数据处理需求。 在"logstash-7.17.8-windows-x86-64.zip"这个压缩包中,包含了适用于 Windows 操作系统的 64 位 Logstash 安装文件。...

    实战Elasticsearch、Logstash、Kibana 分布式大数据搜索与日志挖掘及可视化解决方案

    但根据标题和标签,我们可以提取出一些与Elasticsearch、Logstash、Kibana相关的知识点,同时这些知识点也与分布式大数据搜索、日志挖掘及可视化解决方案有关。 1. Elasticsearch:Elasticsearch是一个基于Apache ...

    实战Elasticsearch、Logstash、Kibana++分布式大数据搜索与日志挖掘及可视化解决方案

    《实战Elasticsearch、Logstash、Kibana++分布式大数据搜索与日志挖掘及可视化解决方案》这本书涵盖了在大数据环境中如何高效地实现数据搜索、处理、分析以及可视化的关键技术和工具。以下是该书所涉及的核心知识点...

    Logstash使用中遇到的一些坑和解决方案.docx

    Logstash 使用中遇到的坑和解决方案 Logstash 是一个功能强大且灵活的数据处理工具,广泛应用于数据采集、处理和输出等领域。但在使用 Logstash 时,会遇到一些问题和坑,以下是其中的一些: 1. 无法写入 kafka ...

    logstash支持https的conf配置文件

    Elasticsearch启动https访问,需要配置logstash,该配置logstash支持https的conf配置文件

    logstash启动脚本

    Logstash 是一个强大的数据收集、处理和转发工具,广泛应用于日志管理和大数据分析。它能够从各种来源(如系统日志、...通过自定义这些脚本,你可以实现自动化日志收集,实时监控,甚至构建复杂的日志分析解决方案。

    logstash 定时检测及服务启动

    crontab logstash 定时检测及服务启动 解决logstash服务频繁宕机

    logstash6.2.3 数据采集工具

    Logstash 是 Elastic Stack(以前称为 ELK Stack)中的重要组成部分,与 Elasticsearch 和 Kibana 协同工作,为日志管理和分析提供了一整套解决方案。在Logstash 6.2.3版本中,我们看到了一系列强大的功能和优化,...

    logstash-5.6.8.z logstash-5.6.8.z

    总结,Logstash 是一个强大且灵活的日志管理工具,5.6.8 版本提供了一套可靠的日志处理解决方案。通过配置和运行,你可以将它整合到你的 IT 环境中,收集、转换并分发数据,以实现更有效的日志管理和分析。

    logstash日志抓取搭建

    **Logstash日志抓取搭建** 在IT行业中,日志管理是系统监控和故障排查的重要环节。Logstash作为 Elastic Stack(ELK Stack)的一部分,专为收集、解析、过滤和转发各种日志数据而设计。它能从各种来源获取日志,...

    logstash-template模板:logstash.json

    - **错误防范**:如果Logstash接收到的数据不符合模板定义,它会抛出错误,帮助你及时发现和解决问题。 2. **logstash.json文件**: - 这个文件包含了JSON格式的模板定义,JSON是一种轻量级的数据交换格式,易于...

    logstash集成logstash-input-jdbc

    9. **版本兼容性**:注意 Logstash 版本(如 6.5.1)与 Elasticsearch、JDBC 驱动和其他依赖之间的兼容性,避免因版本不匹配导致的问题。 10. **持续集成/持续部署 (CI/CD)**:在生产环境中,你可能需要将 Logstash...

    logstash-output-jdbc.zip

    logstash离线安装插件步骤: 在一个联网的虚拟机上下载好插件 ./logstash-plugin install logstash-input-jdbc 查看插件是否安装 ./logstash-plugin list 打包下载好的插件(可能会有错误;多试几次) ./...

    logstash ELK

    - **集成性**:ELK 提供了一套完整的解决方案,从数据收集到数据分析,再到可视化展示,实现端到端的流程。 - **可扩展性**:Logstash 支持大量插件,可以灵活地适应各种数据源和格式。 - **实时分析**:Elastic...

    logstash

    **Logstash:数据收集与日志管理神器** Logstash 是一个开源的数据收集引擎,由 Elastic 公司开发,主要用于实时地从各种不同来源采集数据,转换数据,然后将其存储到指定的目标位置,如 Elasticsearch、MongoDB ...

    logstash-6.3.2.zip

    ELK 技术栈是用于日志管理和日志分析的一套开源解决方案,由 Elasticsearch、Logstash 和 Kibana 三部分组成: 1. **Elasticsearch**:是一个分布式、RESTful 风格的搜索和数据分析引擎,用于存储、搜索和分析大量...

Global site tag (gtag.js) - Google Analytics