`

单机版splunk创建索引和重写source,sourcetype,原日志保持不变

 
阅读更多

indexes.conf

[custom]

homePath   = $SPLUNK_DB\custom\db

coldPath   = $SPLUNK_DB\custom\colddb

thawedPath = $SPLUNK_DB\custom\thaweddb

tstatsHomePath = volume:_splunk_summaries\custom\datamodel_summary

maxMemMB = 20

maxConcurrentOptimizes = 6

maxHotIdleSecs = 86400

maxHotBuckets = 10

maxDataSize = auto_high_volume

 

input.conf

[tcp::60002]

sourcetype=custom-log

connection_host=dns

index=custom

 

props.conf

[custom-log]

TRANSFORMS-source = set-source

TRANSFORMS-sourcetype = set-sourcetype

 TRANSFORMS-sourcetype = set-rawdata

 

transforms.conf

[set-source]

REGEX = <tag>app_id:(.*),log_type:(.*)<tag>

FORMAT = source::$1

DEST_KEY = MetaData:Source

WRITE_META = true

 

 

[set-sourcetype]

REGEX = <tag>app_id:(.*),log_type:(.*)<tag>

FORMAT = sourcetype::$1##$2

DEST_KEY = MetaData:Sourcetype

WRITE_META = true

 

 

[set-rawdata]

REGEX = <tag>app_id:(.*),log_type:(.*)<tag>(.*)

FORMAT = $3

DEST_KEY = _raw

 

 

public class InputTest {

 

public static void main(String[] args) throws Throwable {

//send(60001, "2008-10-30 14:15:21 mightyhost awesomeftpd INFO Attempt to login by user: root: login FAILEDaaaaaaaaaaddddde.\r\n\r\n");

send(60002,"<tag>app_id:quguilai,log_type:cuostlog<tag> test log");

 

}

 

private static void send(int port, String message) throws UnknownHostException, IOException {

Socket socket = new Socket("localhost", port);

   // 向服务端程序发送数据

   OutputStream ops = socket.getOutputStream();    

   OutputStreamWriter opsw = new OutputStreamWriter(ops);

   BufferedWriter bw = new BufferedWriter(opsw);

     

   bw.write(message);

   bw.flush();

   

   ops.close();

   opsw.close();

   bw.close();

   socket.close();

}

}

 

 

 

分享到:
评论

相关推荐

    使用Splunk(WMI)远程获取服务器日志

    Splunk是一款强大的日志管理和分析工具,它允许用户收集、索引和利用各种来源的日志数据。本文将详细介绍如何使用Splunk通过Windows Management Instrumentation (WMI) 远程获取服务器日志,特别是CPUTime、Memory和...

    面向云的日志处理引擎 --SPLUNK

    SPLUNK可以收集、索引和利用所有应用程序、服务器和设备(物理、虚拟和云中)生成的日志数据,并生成可视化的视图。从一个位置搜索并分析所有实时和历史数据。使用SPLUNK处理计算机数据,可以快速解决问题和调查安全...

    splunk各级别认证和考试指南.rar

    - Splunk的核心功能是收集、索引、搜索、分析和可视化各种类型的数据,包括机器日志、网络流量、应用日志等。 - Splunk使用自定义搜索语法和 SPL (Splunk Processing Language) 进行高级查询和数据分析。 2. **...

    SPLUNK大数据日志系统分析平台技术方案

    ### SPLUNK大数据日志系统分析平台技术方案 #### 一、项目背景与需求 随着信息技术的快速发展,组织机构对科技运维工作的要求日益提高。面对庞大的数据量和复杂的系统环境,传统的运维方式已难以满足需求。为此,...

    Splunk-官方操作指引文档中文版

    Splunk是一款强大的日志管理和分析工具,尤其在大数据和实时事件监控方面表现出色。这份"Splunk-官方操作指引文档中文版"包含了多个主题,帮助用户深入理解和掌握Splunk的各项功能。以下是各文档的主要内容概览: 1...

    splunk分布式日志收集和搜索

    Splunk是一个广泛应用于企业环境的日志分析工具,它能够帮助用户收集、搜索和监控机器生成的大数据。Splunk通过其分布式架构允许用户集中处理海量日志数据,具备灵活的搜索功能和实时数据处理能力。 分布式日志收集...

    SPLUNK8.2.0中文手册

    2. **自定义输入插件**:对于不常见或特殊格式的数据,可以创建自定义输入插件,以确保SPLUNK能够正确解析和索引这些数据。 3. **数据转发**:SPLUNK允许数据在多个实例间转发,这在分布式环境中尤其有用,可以实现...

    splunk-forward设置

    通过上述步骤,我们可以有效地配置 Splunk Forwarder 来监控和收集指定目录下的日志文件,从而实现实时监控和分析功能。需要注意的是,具体配置细节可能会根据实际应用场景有所不同,建议参考官方文档获取更详尽的...

    Splunk日志分析

    **Splunk**是一款功能强大的企业级日志分析工具,能够收集、索引并搜索来自各种不同来源的日志数据,帮助用户快速发现问题根源,实现对业务流程的有效监控与管理。本篇文章将基于Splunk Enterprise 6.3.0版本的手册...

    splunk操作手册中文版

    ### Splunk操作手册中文版知识点...综上所述,《splunk操作手册中文版》是一份全面而详细的指南,涵盖了从基本的搜索操作到高级数据分析和自定义功能的所有方面,是Splunk用户提升数据洞察力和分析效率不可或缺的资源。

    Linux关于splunk采集程序的测试

    在Linux环境中,Splunk是一款强大的日志管理和分析工具,它能有效地收集、索引和解析来自不同来源的日志数据,从而提供实时的监控和报警功能。对于新手来说,理解如何在Linux上设置和测试Splunk的采集过程是至关重要...

    Splunk-8.0.0-搜索手册中文版.pdf

    《Splunk 8.0.0 搜索手册中文版》是针对Splunk Enterprise 8.0.0版本的全面搜索指南,旨在帮助用户理解和掌握Splunk的搜索语法、搜索优化技巧,以及各种高级搜索功能。这份手册包含了丰富的知识点,下面对其进行详细...

    Splunk-官方最新文档-中文版

    Splunk 是一款强大的日志管理和数据分析工具,广泛应用于IT运维、安全监控、业务分析等领域。它能够实时收集、索引、搜索、分析和可视化大量结构化和非结构化的数据,帮助企业从海量数据中挖掘价值。 ** Splunk 的...

    splunk proxy

    Splunk 是一款强大的日志管理和分析工具,而 "Splunk proxy" 指的是使用 Splunk 作为代理来处理和分析网络流量或者日志数据的一种技术。在 IT 环境中,尤其是在大型企业中,日志管理和监控是至关重要的,因为它们有...

    Splunk大数据分析

    Splunk是一款实时数据平台,它能够收集、索引、搜索、可视化和分析来自各种来源的机器数据,包括系统日志、网络流量、应用程序日志等。其核心特点在于强大的日志处理能力和灵活的数据分析能力,使得Splunk在IT运营、...

    splunk 7.0 中文手册

    Splunk是一款强大的日志管理和分析工具,它能够收集、索引、搜索、监视和分析各种机器生成的数据。本手册是针对Splunk 7.0版本的中文版,提供了详尽的操作指南和参考资料,帮助用户更好地理解和使用这个平台。以下是...

    splunk5.0中文手册

    Splunk是一款强大的日志管理和分析工具,广泛应用于系统监控、安全分析、业务洞察等多个领域。Splunk 5.0作为其一个重要版本,引入了许多改进和新功能,帮助用户更有效地管理和解析海量数据。本篇将详细讲解Splunk ...

    splunk语法

    Splunk 是一款强大的日志管理和分析工具,它的搜索语法是其核心功能之一,允许用户高效地探索、理解和可视化大量数据。以下是对Splunk语法的详细解释: 1. **全文搜索**: - 用户可以直接在搜索框输入关键词进行...

    Splunk数据库连接应用

    Splunk是一款强大的日志管理和分析工具,它能够收集、索引和分析来自各种来源的数据,为企业提供实时的业务洞察。"Splunk数据库连接应用"是官方提供的一个扩展,旨在增强Splunk的功能,使其能够直接与各种数据库进行...

    splunk 中文手册.zip

    Splunk 是一款强大的日志管理和大数据分析工具,广泛应用于企业级环境,帮助用户收集、索引、搜索、监视和分析机器生成的数据。本中文手册针对 Splunk 7.10 版本,提供了全面的指南,包括概述和安装流程,为用户提供...

Global site tag (gtag.js) - Google Analytics