`
canofy
  • 浏览: 829712 次
  • 性别: Icon_minigender_1
  • 来自: 北京、四川
社区版块
存档分类
最新评论

统计系统六----日志解析三awk脚本

阅读更多
这里是解析日志用的两个awk脚本,

list_pv.awk
BEGIN{
    FS="\t";
    OFS="\t";
}
{
    # date pid cid sid posid aid
    split($6,aids,",");
    #print $1
    for(i in aids){
         key=$2"_"$3"_"$4"_"$5"_"aids[i];
         #print key;
         if(key in pv){
             pv[key]++;
         }else{
             pv[key]=1;
             pv_date[key]=substr($1,1,10);
             pv_hour[key]=substr($1,12,2); 
             pv_pid[key]=$2;
             pv_cid[key]=$3;
             pv_sid[key]=$4;
             pv_posid[key]=$5;
             pv_aid[key]=aids[i];  
         }        
    }
}
END{
    #date,hour,pid,cid,bid,sid,posid,aid,data 
    for(key in pv){
        print pv_date[key],pv_hour[key],pv_pid[key],pv_cid[key],pv_sid[key],pv_posid[key],pv_aid[key],pv[key];
    }
}


list_click.awk脚本

BEGIN{
    FS="\t";
    OFS="\t";
}
{
    # date pid cid sid posid aid spid type
    
  
    key=$2"_"$3"_"$4"_"$5"_"$6"_"$7"_"$8;
    if(key in cl){
        cl[key]++;
    }else{
        cl[key]=1;
        cl_date[key]=substr($1,1,10);
        cl_hour[key]=substr($1,12,2);
        cl_pid[key]=$2;
        cl_cid[key]=$3;
        #cl_bid[key]=$4;
        cl_sid[key]=$4;
        cl_posid[key]=$5;
        cl_aid[key]=$6;         
        cl_spid[key]=$7;
        cl_type[key]=$8;
    }
}
END{
    #date,hour,pid,cid,bid,sid,posid,aid,spid,type,data
    for(key in cl){
        print cl_date[key],cl_hour[key],cl_pid[key],cl_cid[key],cl_sid[key],cl_posid[key],cl_aid[key],cl_spid[key],cl_type[key],cl[key];
    }
}




分享到:
评论
1 楼 imlyj 2010-08-11  
原来跟我们的一样的,哥们也是做互联网的吧!呵呵
你们公司现在日子艰难不?

相关推荐

    awk使用手册

    - 结合循环和条件语句,awk可以用来生成统计报告。 4. **文本格式化**: - awk可以用于格式化输出,比如调整字段宽度、添加列标题等。 5. **系统监控**: - awk可以配合其他工具,用于监控系统状态,如CPU使用...

    all-awk.rar_All.awk_NS2仿真_all awk_awk_awk-scripts

    《全面解析NS2仿真与AWK脚本:深入理解all-awk.rar》 在计算机科学领域,网络模拟和分析是至关重要的环节,特别是在设计和优化网络协议时。NS2(Network Simulator 2)是一个广泛使用的开源网络模拟工具,它允许...

    AWK-file.rar_awk_awk tcl_delay awk_jitter awk _jitter ns-2

    7. **文件分析**: "AWK-file"很可能包含一系列的脚本或报告,这些脚本使用AWK语言解析和处理NS-2模拟输出的数据,从而得出网络性能的量化指标。 8. **性能优化**: 使用AWK进行这样的分析可以帮助网络工程师识别性能...

    日志分析脚本

    通过对系统产生的各种日志进行解析、处理和分析,可以帮助我们了解系统的运行状态、识别问题、优化性能以及预防潜在故障。特别是对于大型分布式系统而言,日志分析是必不可少的一环。 ### 2. 日志格式理解 从提供...

    some-ns2-trace-awk.rar_.awk_fichier awk ns2_ns2 script_some ns2

    这个"some-ns2-trace-awk.rar"压缩包包含了一个专门针对NS2仿真的AWK脚本,用于解析NS2的trace文件,从而分析网络性能的关键指标。AWK是一种强大的文本处理语言,常用于处理和分析结构化的数据文件,如日志文件或...

    AWK语言学习资料--基础知识

    AWK是一种强大的文本分析工具,尤其在处理结构化文本文件如日志、配置文件时,其强大之处得以显现。在Linux和Unix环境中,AWK常用于数据处理和报告生成。以下将详细介绍AWK语言的基础知识及其重要性。 1. **基本...

    awk学习手册--unix 系统学习

    《awk学习手册——Unix系统学习》 本书是一部针对初学者的awk编程教程,旨在帮助读者快速掌握awk这一强大的文本处理工具。awk是一种在Unix和类似操作系统如Solaris中广泛使用的编程语言,特别适合处理结构化的数据...

    AWK脚本学习文档 Linux

    AWK是一种强大的文本分析工具,它在Linux环境下被广泛用于处理和解析日志文件、CSV数据、报告等。AWK的名称来源于它的三位创始人——Alfred Aho、Peter Weinberger和Brian Kernighan。此工具允许用户根据指定的模式...

    AWK命令资源收集.rar

    - **日志分析**:AWK非常适合提取、过滤和统计日志文件中的关键信息。 - **数据转换**:它可以用来从一种格式转换为另一种格式,例如CSV到TSV。 - **报告生成**:通过组合和格式化数据,快速生成报表。 - **性能...

    一个批量域名解析的Shell脚本例子

    标题中的“一个批量域名解析的Shell脚本例子”是指通过Shell脚本来实现对大量域名进行DNS解析的功能。在IT行业中,这种操作常用于网络监控、安全分析或数据收集等场景。下面将详细介绍这个主题。 首先,`...

    AWK实例教程 AWK实例教程中文版

    - **高级应用案例**:通过构建复杂的AWK脚本,可以实现诸如数据分析、统计报告生成等高级功能。 综上所述,AWK不仅是一种功能强大的文本处理工具,也是一种易于学习且功能丰富的脚本语言。掌握了AWK的基本使用方法...

    实战Shell脚本—sed,awk使用

    在IT行业中,Shell脚本是Linux或Unix操作系统中不可或缺的一部分,它允许用户通过命令行界面自动化执行一系列操作。本文将深入探讨两个强大的文本处理工具——`sed`和`awk`,它们经常被用于Shell脚本中,以实现对...

    awk学习笔记,从论坛整理而来

    `awk` 是一种强大的文本分析工具,常用于处理和解析结构化的文本文件,如日志文件、配置文件等。在Linux和Unix系统中,`awk` 提供了一种灵活的方式来提取、过滤和处理数据。本篇文章将深入讲解 `awk` 的基本用法和...

    Linux实战awk详解

    Awk是Linux/unix系统中用于处理结构化文本数据的强大工具,它能够解析、处理和格式化文本,尤其在日志分析、数据提取和报表生成等方面表现出色。 首先,我们需要了解awk的基本工作原理。Awk读取输入文件(或者标准...

    linux环境下awk开发

    - **数据分析**:AWK可以用来解析日志文件,提取关键信息,进行统计分析。 - **文本处理**:比如格式转换、内容提取、文本替换等。 - **脚本开发**:利用AWK的脚本功能,可以快速开发出功能强大的文本处理脚本。 ##...

    awk学习awk学习awk学习awk学习

    1. **日志文件分析**: awk经常用于分析和处理大量的日志文件,帮助快速查找特定的信息或统计关键数据。 2. **配置文件处理**: 对于需要解析和修改的配置文件,awk能够轻松实现自动化处理。 3. **文本数据处理**: 如...

    Learning AWK Programming-2018.3.pdf

    - **文本处理与模式匹配**:使用AWK处理各种类型的文本文件,包括日志文件分析、CSV文件解析等。 - **自动化任务执行**:编写脚本来自动执行定期维护工作,如备份文件、清理日志等。 - **复杂数据处理**:处理大型...

    什么是awk(awk入门)

    - **日志分析**:解析系统日志文件,提取关键信息进行监控或审计。 - **数据处理**:清洗和转换数据,为后续数据分析做准备。 - **配置文件管理**:修改或生成配置文件。 - **脚本编写**:作为脚本语言的一部分,...

Global site tag (gtag.js) - Google Analytics