Logstash的output模块,相比于input模块来说是一个输出模块,output模块集成了大量的输出插件,可以输出到指定文件,也可输出到指定的网络端口,当然也可以输出数据到ES.在这里我只介绍如何输出到ES,至于如何输出到端口和指定文件,有很多的文档资料可查找.
elasticsearch{ hosts=>["172.132.12.3:9200"] action=>"index" index=>"indextemplate-logstash" #document_type=>"%{@type}" document_id=>"ignore" template=>"/opt/logstash-conf/es-template.json" template_name=>"es-template.json" template_overwrite=>true }
action=>”index” #es要执行的动作 index, delete, create, update
l index:将logstash.时间索引到一个文档
l delete:根据id删除一个document(这个动作需要一个id)
l create:建立一个索引document,如果id存在 动作失败.
l update:根据id更新一个document,有一种特殊情况可以upsert--如果document不是已经存在的情况更新document 。参见upsert选项。
l A sprintf style string to change the action based on the content of the event. The value %{[foo]} would use the foo field for the action
document_id=>” ” 为索引提供document id ,对重写elasticsearch中相同id词目很有用
document_type=>” ”事件要被写入的document type,一般要将相似事件写入同一type,可用%{}引用事件type,默认type=log
index=>”logstash-%{+YYYY,MM.dd}” 事件要被写进的索引,可是动态的用%{foo}语句
hosts=>[“127.0.0.0”] ["127.0.0.1:9200","127.0.0.2:9200"] "https://127.0.0.1:9200"
manage_template=>true 一个默认的es mapping 模板将启用(除非设置为false 用自己的template)
template=>”” 有效的filepath 设置自己的template文件路径,不设置就用已有的
template_name=>”logstash” 在es内部模板的名字
这里需要十分注意的一个问题是,document_id尽量保证值得唯一,这样会解决你面即将面临的ES数据重复问题,切记切记!
相关推荐
centos7下安装rpm离线安装logstash-6.2.4和logstash-output-jdbc插件 内含logstash rpm包和已打包好的logstash-output-jdbc插件
./logstash-plugin prepare-offline-pack --overwrite --output logstash-input-jdbc.zip logstash-input-jdbc 最后成功会出现以下信息 You can install it with this command `bin/logstash-plugin install file...
**Logstash-output-jdbc插件详解** Logstash是一款强大的数据收集、处理和转发工具,它在ELK(Elasticsearch, Logstash, Kibana)堆栈中扮演着核心角色。`logstash-output-jdbc`是Logstash的一个输出插件,用于将...
**logstash-output-syslog 插件详解** 在IT运维和日志管理领域,Logstash是一个广泛使用的工具,它能够收集、解析并转发各种来源的日志数据。Logstash以其强大的处理能力和灵活的配置,使得日志管理和分析变得更加...
logstash-7.12.1 output-clickhouse 插件已经编译好了,logstash-7.12.1解压,直接logstash-plugin install logstash-output-clickhouse-0.1.0.gem 安装 懂的人,不需要过多解释,直接下载安装开干
`logstash-output-loki.zip` 文件包含了 Logstash 的 Loki 输出插件,允许 Logstash 将收集到的日志数据发送到 Loki 进行存储和查询。 安装此插件的步骤如下: 1. 首先,确保你已经安装了 Logstash。如果还没有,...
标题"**logstash-output-jdbc**"指的是Logstash的一个输出插件,专门用于将数据从Logstash导出到关系型数据库,如MySQL,通过使用JDBC(Java Database Connectivity)接口。这个插件使得Logstash能够与各种数据库...
《Logstash与Clickhouse的整合应用详解》 在大数据处理领域,Logstash和Clickhouse都是不可或缺的工具。Logstash作为Elastic Stack的一部分,是数据收集、处理和转发的强大引擎,而Clickhouse则是一款高性能的列式...
放至logstash5.6.1的bin目录下,执行 bin/logstash-plugin install file:///usr/local/logstash/logstash-5.6.1/bin/logstash-output-mongodb-3.1.4.zip 。最低1分,不然就免费了,需要的留言我的csdn账号,有用点下...
Logstash 的强大之处在于其模块化的架构,允许用户自由组合不同的输入、过滤和输出插件以满足特定需求。例如,可以使用 syslog 输入插件来收集服务器日志,通过 grok 过滤器解析日志格式,然后利用 Elasticsearch ...
logstash-output-mongodb 3.1.6 出现了一些版本不兼容的问题,该资源包含了未解决兼容问题修改后的插件,和原始插件
Logstash插件 这是的插件。 它是完全免费和完全开源的。 许可证是 Apache 2.0,这意味着您可以随意以任何方式使用它。 Kafka 输出插件已移动 这个 Kafka 输出插件现在是的一部分。 在可能的情况下,该项目仍对该...
output { clickhouse { headers => ["Authorization", "Basic YWRtaW46cGFzc3dvcmQxMjM="] http_hosts => ["http://your.clickhouse1/", "http://your.clickhouse2/", "http://your.clickhouse3/"] table =>
Graylog TcpLogstashOutput插件该插件旨在将日志消息转发到logstash的tcp输入。 input { tcp { port => "12300" codec => "json" data_timeout => -1 }}output { file { codec => "json_lines" path => "archive.log...
在Logstash中运行未发布的插件2.1在本地Logstash克隆中运行2.1.1 1.5及更高版本编辑Logstash Gemfile并添加本地插件路径,例如: gem "logstash-output-jut" , :path => "/your/local/logstash-output-jut" 安装插件...
Logstash插件 这是的插件。 它是完全免费和完全开源的。 该许可证是Apache 2.0,这意味着您可以随意使用它,但是您可以通过任何方式使用它。 文献资料 Logstash提供了自动为该插件生成文档的基础结构。 我们使用...