`

ELK logstash 配置语法

阅读更多

数据类型

logstash支持的数据类型有:

  • array
    数组可以是单个或者多个字符串值。
    path => [ "/var/log/messages", "/var/log/*.log" ]
    path 
    => "/data/mysql/mysql.log"
    如果指定了多次,追加数组。此实例path数组包含三个字符串元素。
  • boolean
    布尔值必须是TRUE或者false。true和false不能有引号。
    ssl_enable => true
  • bytes
    指定字节单位。支持的单位有SI (k M G T P E Z Y) 和 Binary (Ki Mi Gi Ti Pi Ei Zi Yi)。Binary单位基于1024,SI单位基于1000。不区分大小写和忽略值与单位之间的空格。如果没有指定单位,默认是byte。
    my_bytes => "1113" # 1113 bytes
    my_bytes 
    => "10MiB" # 10485760 bytes
    my_bytes 
    => "100kib" # 102400 bytes
    my_bytes 
    => "180 mb" # 180000000 bytes
  • Codec
    logstash编码名称用来表示数据编码。用于input和output段。便于数据的处理。如果input和output使用合适的编码,就无需单独的filter对数据进行处理。
    codec => "json"
  • hash
    键值对,注意多个键值对用空格分隔,而不是逗号。
    match => {
    "field1" => "value1"
    "field2" => "value2"
    ... }
  • number
    必须是有效的数值,浮点数或者整数。
    port => 33
  • password
    一个单独的字符串。
    my_password => "password"
  • path
    一个代表有效的操作系统路径。
    my_path => "/tmp/logstash"
  • string
    name => "Hello world"
    name 
    => 'It\'s a beautiful day'

字段引用

logstash字段引用语法。要在 Logstash 配置中使用字段的值,只需要把字段的名字写在中括号 [] 里就行了,这就叫字段引用。还需注意字段层次。如果引用的是一个顶级字段,可以省略[],直接指定字段名。要引用嵌套的字段,需要指定完整的路径,如[top-level field][nested field]。

下面有五个顶级字段(agent, ip, request, response, ua) 和三个嵌套字段 (status, bytes, os)。

为了引用os字段,需指定[ua][os]。引用顶级字段如request,可以简单指定request即可。

sprintf格式

字段引用格式也可以用于logstash调用sprintf格式。这种格式可以从其他字符串中引用字段值。如:

也可以格式化时间。如:

 

条件判断

使用条件来决定filter和output处理特定的事件。

logstash条件类似于编程语言。条件支持if、else if、else语句,可以嵌套。

条件语法如下:

比较操作有:

  • 相等: ==!=<><=>=
分享到:
评论

相关推荐

    logstash配置文件.rar

    - **配置语法**:Logstash配置文件是基于文本的,每个管道由input、filter和output三部分组成,每部分都有各自的配置选项。 - **输入插件**:例如file input用于读取文件,http input用于接收HTTP请求,syslog input...

    logstash6.2.4 和 ELK pdf文档

    4. **配置语法**:Logstash 使用简单的基于文本的配置文件,文档会详细介绍配置文件的结构、语法和最佳实践。 5. **性能调优**:如何根据硬件资源和数据量来调整 Logstash 的设置以获得最佳性能,包括批量大小、...

    Spring Cloud集成ELK完成日志收集实战(elasticsearch、logstash、kibana)

    开源社区正好有相对应的开源项目:logstash(收集)、elasticsearch(存储+搜索)、kibana(展示),我们将这三个组合起来的技术称之为ELK,所以说ELK指的是Elasticsearch、Logstash、Kibana技术栈的结合。...

    大数据搜索与日志挖掘及可视化方案 ELK Stack Elasticsearch Logstash Kibana 第2版

    《大数据搜索与日志挖掘及可视化方案:ELK Stack(Elasticsearch, Logstash, Kibana)第二版》 在大数据领域,有效地管理和分析海量数据是至关重要的。ELK Stack,即Elasticsearch、Logstash和Kibana的组合,提供了...

    大数据搜索与日志挖掘及可视化方案——ELK Stack:Elasticsearch Logstash Kibana(第2版)

    掌握Logstash的配置语法,编写自己的数据处理流程;以及如何利用Kibana设计美观且实用的数据仪表板。此外,书中可能还涵盖了ELK Stack与其他技术的集成,如Beats(用于轻量级数据收集)和X-Pack(提供安全、监控、...

    ELk知识详解.zip

    "Logstash配置语法详解.pptx"可能涵盖了Logstash配置文件的编写和常见插件的使用方法。 3. **Kibana**:Kibana 是一个数据可视化工具,与Elasticsearch紧密集成,提供了丰富的图表、仪表板和报告功能。用户可以通过...

    ELK语法命令.txt

    ELK语法命令--- 集合 1、启动Logstash 1) ./logstash -e 'input{stdin{}} output{stdout{}}' 2) ./logstash -e 'input{stdin{}} output{stdout{ codec =&gt; json}}' #输出格式使用json格式 3) ./logstash -e 'input{...

    elk:elasticsearch+logstash+kibana

    ELK(Elasticsearch, Logstash, Kibana)是一个流行的开源日志分析和可视化解决方案,广泛用于收集、解析、存储和展示各种日志数据。这个压缩包包含了ELK堆栈的主要组件,版本为7.6.1,适用于Linux x86_64架构。 **...

    Logstash 6.5.4版本

    例如,可能有改进的配置语法,使得配置文件更加易读和维护;或者增强的日志记录,帮助开发者更好地诊断和解决问题。 在部署Logstash 6.5.4时,通常会配合使用Kibana,这是一个交互式的可视化界面,允许用户创建...

    ELK是包含但不限于Elasticsearch(简称es)、Logstash、Kibana 三个开源软件的组成的一个整体

    ELK Stack,即Elasticsearch、Logstash与Kibana的组合体,是业界广泛采用的一款开源日志管理和数据分析平台。该平台以其卓越的性能、丰富的功能及强大的扩展性而闻名。 **Elasticsearch**作为该平台的核心组件之一...

    最新版windows logstash-7.10.2-windows-x86_64.zip

    4. **配置语法改进**:Logstash的配置文件易于理解和编写,新版本可能引入了新的语法特性或提高了现有语法的灵活性,以适应复杂的数据处理需求。 5. **更好的错误处理和日志记录**:为了便于调试,7.10.2版本可能会...

    logstash-7.3.0.zip

    8. **配置语法**:Logstash使用基于Ruby的配置语法,7.3.0可能对配置语法进行了一些改进,使其更易读、更易于维护。 9. **安全性和兼容性**:Logstash 7.3.0会关注与Elasticsearch、Kibana等其他组件的兼容性,以及...

    logstash-test2

    - **配置语法**:理解Logstash的配置结构,包括使用管道符(`|`)分隔输入、过滤器和输出,以及如何设置配置选项。 - **过滤器模式**:如`grok`的模式匹配,用于解析复杂日志格式。 - **性能优化**:调整Logstash的`...

    logstash-7.2.0.zip

    6. **配置文件的改进**:可能引入了更直观或更强大的配置语法,使得复杂的数据处理流程配置更为简便。 7. **监控和管理**:可能提供更丰富的监控指标和工具,使管理员能更好地监控Logstash实例的运行状态,及时发现...

    最新版linux logstash-7.10.0-linux-x86_64.tar.gz

    为了充分利用 Logstash,用户需要熟悉配置文件语法,以及如何编写插件配置。此外,监控 Logstash 的运行状态和日志也是维护其正常运行的关键。 在实际应用中,Logstash 常用于收集服务器日志、网络流量数据、应用...

    Teradata语法迁移到elk

    根据给定文件信息,本知识点将围绕Teradata语法迁移到ELK进行详细讲解,主要包括Teradata语法的介绍,以及如何将其迁移到ELK(Elasticsearch、Logstash和Kibana)系统中。 Teradata是一个多用户、并行处理关系...

    最新版windows logstash-8.2.0-windows-x86_64.zip

    Logstash 是一个强大的开源数据收集、处理和转发引擎,它属于 Elastic Stack(以前称为 ELK 堆栈)的一部分,Elastic Stack 包括 Elasticsearch、Logstash 和 Kibana。这个压缩包 "logstash-8.2.0-windows-x86_64....

Global site tag (gtag.js) - Google Analytics