`

Logstash详解之——output模块

阅读更多

Logstash的output模块,相比于input模块来说是一个输出模块,output模块集成了大量的输出插件,可以输出到指定文件,也可输出到指定的网络端口,当然也可以输出数据到ES.在这里我只介绍如何输出到ES,至于如何输出到端口和指定文件,有很多的文档资料可查找.

elasticsearch{  
    hosts=>["172.132.12.3:9200"]  
    action=>"index"  
    index=>"indextemplate-logstash"  
    #document_type=>"%{@type}"  
    document_id=>"ignore"  
      
    template=>"/opt/logstash-conf/es-template.json"  
    template_name=>"es-template.json"  
    template_overwrite=>true       
    }

 action=>”index” #es要执行的动作 index, delete, create, update
l index:将logstash.时间索引到一个文档
l delete:根据id删除一个document(这个动作需要一个id)
l create:建立一个索引document,如果id存在 动作失败.
l update:根据id更新一个document,有一种特殊情况可以upsert--如果document不是已经存在的情况更新document 。参见upsert选项。
l A sprintf style string to change the action based on the content of the event. The value %{[foo]} would use the foo field for the action
document_id=>” ” 为索引提供document id ,对重写elasticsearch中相同id词目很有用
document_type=>” ”事件要被写入的document type,一般要将相似事件写入同一type,可用%{}引用事件type,默认type=log
index=>”logstash-%{+YYYY,MM.dd}” 事件要被写进的索引,可是动态的用%{foo}语句
hosts=>[“127.0.0.0”] ["127.0.0.1:9200","127.0.0.2:9200"] "https://127.0.0.1:9200"
manage_template=>true 一个默认的es mapping 模板将启用(除非设置为false 用自己的template)
template=>”” 有效的filepath 设置自己的template文件路径,不设置就用已有的
template_name=>”logstash” 在es内部模板的名字
这里需要十分注意的一个问题是,document_id尽量保证值得唯一,这样会解决你面即将面临的ES数据重复问题,切记切记!

分享到:
评论

相关推荐

    rpm离线安装logstash-6.2.4和logstash-output-jdbc插件

    centos7下安装rpm离线安装logstash-6.2.4和logstash-output-jdbc插件 内含logstash rpm包和已打包好的logstash-output-jdbc插件

    logstash-output-jdbc.zip

    ./logstash-plugin prepare-offline-pack --overwrite --output logstash-input-jdbc.zip logstash-input-jdbc 最后成功会出现以下信息 You can install it with this command `bin/logstash-plugin install file...

    logstash-output-jdbc插件

    **Logstash-output-jdbc插件详解** Logstash是一款强大的数据收集、处理和转发工具,它在ELK(Elasticsearch, Logstash, Kibana)堆栈中扮演着核心角色。`logstash-output-jdbc`是Logstash的一个输出插件,用于将...

    logstash-output-syslog

    **logstash-output-syslog 插件详解** 在IT运维和日志管理领域,Logstash是一个广泛使用的工具,它能够收集、解析并转发各种来源的日志数据。Logstash以其强大的处理能力和灵活的配置,使得日志管理和分析变得更加...

    logstash-output-clickhouse-0.1.0.gem

    logstash-7.12.1 output-clickhouse 插件已经编译好了,logstash-7.12.1解压,直接logstash-plugin install logstash-output-clickhouse-0.1.0.gem 安装 懂的人,不需要过多解释,直接下载安装开干

    logstash-output-loki.zip

    `logstash-output-loki.zip` 文件包含了 Logstash 的 Loki 输出插件,允许 Logstash 将收集到的日志数据发送到 Loki 进行存储和查询。 安装此插件的步骤如下: 1. 首先,确保你已经安装了 Logstash。如果还没有,...

    logstash-output-jdbc

    标题"**logstash-output-jdbc**"指的是Logstash的一个输出插件,专门用于将数据从Logstash导出到关系型数据库,如MySQL,通过使用JDBC(Java Database Connectivity)接口。这个插件使得Logstash能够与各种数据库...

    logstash-7.12.0-output-clickhouse.rar

    《Logstash与Clickhouse的整合应用详解》 在大数据处理领域,Logstash和Clickhouse都是不可或缺的工具。Logstash作为Elastic Stack的一部分,是数据收集、处理和转发的强大引擎,而Clickhouse则是一款高性能的列式...

    linux下logstash-output-mongodb离线包

    放至logstash5.6.1的bin目录下,执行 bin/logstash-plugin install file:///usr/local/logstash/logstash-5.6.1/bin/logstash-output-mongodb-3.1.4.zip 。最低1分,不然就免费了,需要的留言我的csdn账号,有用点下...

    logstash6.3.0

    Logstash 的强大之处在于其模块化的架构,允许用户自由组合不同的输入、过滤和输出插件以满足特定需求。例如,可以使用 syslog 输入插件来收集服务器日志,通过 grok 过滤器解析日志格式,然后利用 Elasticsearch ...

    logstash-output-mongodb.zip

    logstash-output-mongodb 3.1.6 出现了一些版本不兼容的问题,该资源包含了未解决兼容问题修改后的插件,和原始插件

    logstash-output-kafka:Logstash 的 Kafka 输出

    Logstash插件 这是的插件。 它是完全免费和完全开源的。 许可证是 Apache 2.0,这意味着您可以随意以任何方式使用它。 Kafka 输出插件已移动 这个 Kafka 输出插件现在是的一部分。 在可能的情况下,该项目仍对该...

    logstash-output-clickhouse:实现Logstash的ClickHouse输出

    output { clickhouse { headers => ["Authorization", "Basic YWRtaW46cGFzc3dvcmQxMjM="] http_hosts => ["http://your.clickhouse1/", "http://your.clickhouse2/", "http://your.clickhouse3/"] table =>

    graylog-logstash-tcp-output:Graylog插件,用于将消息转发到Logstash TCP输入

    Graylog TcpLogstashOutput插件该插件旨在将日志消息转发到logstash的tcp输入。 input { tcp { port => "12300" codec => "json" data_timeout => -1 }}output { file { codec => "json_lines" path => "archive.log...

    logstash-output-jut:logstash输出插件,发布多个记录的json数组

    在Logstash中运行未发布的插件2.1在本地Logstash克隆中运行2.1.1 1.5及更高版本编辑Logstash Gemfile并添加本地插件路径,例如: gem "logstash-output-jut" , :path => "/your/local/logstash-output-jut" 安装插件...

    logstash-output-http

    Logstash插件 这是的插件。 它是完全免费和完全开源的。 该许可证是Apache 2.0,这意味着您可以随意使用它,但是您可以通过任何方式使用它。 文献资料 Logstash提供了自动为该插件生成文档的基础结构。 我们使用...

Global site tag (gtag.js) - Google Analytics