`
lydawen
  • 浏览: 472191 次
  • 性别: Icon_minigender_1
  • 来自: 杭州
社区版块
存档分类
最新评论

shell编程 for 循环提取日志,并awk做统计

阅读更多

日志文件:xx.dat(xx为时间标签)

日志格式:

#startTime xxxx

#username number

admin  123

testuser 34

admin 3443

...

 

需求:将目录下所有dat内文件按用户累加number 输出

 

机器上有ubuntu,但考虑开发还是用xp,临时装了个cygwin,调试了大半天,发现awk真是强壮,shell真是强壮

 

得到两个命令

 

命令:

1、for file in '*.dat';do awk -F' '  '$1!="#"&&$1!="" {a[$1]+=$2}END {for (i in a) print i" "a[i]}' ${file};done

2、cat *.dat|awk -F' '  '$1!="#"&&$1!="" {a[$1]+=$2}END {for (i in a) print i" "a[i]}' 

 

 

两种方式均可,但日志1天有200多个,每个5-10M,暂不知两个是否在效率上有不同,有待具体测试。。。

 

 

0
0
分享到:
评论

相关推荐

    shell demo及编程pdf

    **Shell编程介绍** Shell编程是Linux/Unix操作系统中的一种脚本语言,用于自动化日常任务,交互式地控制操作系统,以及实现系统级别的程序间交互。它提供了命令行接口(CLI)来执行各种系统命令,使用户能够高效地...

    shell编程-正则表达式/awk/sed

    在IT领域,Shell编程是一种非常重要的技能,尤其对于系统管理员和开发者来说,它提供了一种高效的方式来自动化Linux或Unix系统的任务。在这个主题中,我们主要关注三个强大的工具:正则表达式(Regular Expressions)...

    Shell脚本专家指南.sed与awk第二版.shell十三问

    这包括了对Bash Shell的深入了解,如变量定义、条件语句(if-else)、循环结构(for、while)、函数定义、输入输出重定向以及错误处理等基本概念。此外,指南可能还会讨论高级特性,如数组、shell别名、shell函数...

    Shell编程中文版教程.zip

    本教程中的中文版Shell编程教程将详细讲解以上这些概念,并可能包含更多实践案例和进阶技巧,帮助你更好地理解和掌握Shell编程。无论是进行系统自动化、数据分析还是日常系统管理,Shell技能都能极大地提高工作效率...

    linux 命令、编程器与shell编程 第一版

    本书《Linux 命令、编程器与Shell编程 第一版》着眼于帮助读者提升在Linux环境下的操作能力,特别是通过命令行界面进行操作的技能。它覆盖了Linux系统中常用的命令行工具、编程器的使用,以及Shell编程的方方面面。 ...

    shell及shell编程基础

    在`循环exprShell 6.ppt`中,我们学习了如何使用`expr`进行算术运算,并探讨了`for`、`while`和`until`循环结构。这些循环结构在处理重复任务时非常有用,如遍历文件数组,或在满足特定条件前反复执行某个命令。 ##...

    Shell脚本编程入门100例

    - sed和awk命令:掌握文本处理利器,进行替换、提取、格式化等操作。 7. **进程控制** - 子进程与父进程:理解进程间的关联关系,学习`fork()`和`exec()`函数。 - &符号:了解如何让命令在后台运行。 - jobs...

    LINUX SHELL编程指南 2

    《LINUX SHELL编程指南 2》是一本深入讲解Linux Shell编程的专业书籍,旨在帮助读者掌握这一强大而灵活的脚本语言。Shell编程是Linux系统管理中的重要技能,它允许用户自动化日常任务,提高工作效率。本书涵盖了从...

    shell介绍及编程

    基础Shell编程通常包括变量、控制结构(如循环和条件判断)、函数、输入输出等基础知识。变量用来存储数据,控制结构用来控制程序的流程,函数用来封装重复使用的代码块。输入输出命令(如echo、read)用于实现用户...

    LINUX与UNIX Shell编程指南

    《LINUX与UNIX Shell编程指南》是一本专为shell编程人员设计的学习参考资料,全面涵盖了shell编程的各个方面。这本书分为五个部分,旨在帮助读者深入理解和掌握在UNIX和LINUX环境中进行shell脚本开发的关键技能。 ...

    大数据Shell编程.zip

    大数据Shell编程是现代数据分析领域中一个重要的技能组合,它结合了大数据处理的高效能与Shell脚本的强大自动化能力。在大数据环境中,Shell脚本被广泛用于数据预处理、数据迁移、日志分析以及自动化任务执行等多个...

    LINUX与UNIX SHELL编程指南

    《LINUX与UNIX SHELL编程指南》是一本深入探讨Shell编程的著作,旨在帮助读者掌握Shell的精髓。 首先,我们来了解一下Shell的基本概念。Shell是用户与操作系统内核之间的接口,它接收用户的输入并执行相应的命令。...

    实战Shell脚本—sed,awk使用

    `sed`(流编辑器)和`awk`(一种编程语言)都是数据分析和文本转换的强大工具,尤其在处理日志文件、数据过滤和格式化方面表现出色。 `sed` 是“流编辑器”(Stream Editor)的缩写,它可以读取输入流(一个文件或...

    Linux与UNIX Shell编程指南

    另外,书中也会讨论一些实用工具,如awk、sed、grep等,这些都是Shell编程中不可或缺的部分。这些工具能够对文本进行模式匹配、替换和提取,极大地增强了Shell脚本的处理能力。 最后,了解Shell编程不仅仅是技术上...

    linux与unix shell编程

    2. **Shell语法基础**:学习Shell编程,首先要掌握变量定义、赋值、条件表达式、循环结构(如for和while)、函数定义以及流程控制(如if-else语句)等基本语法。 3. **Shell命令**:了解和使用常见的Shell内置命令...

    Shell编程大全.zip

    《Shell编程大全》是一部深入探讨Linux/Unix系统中Shell编程技术的综合教程。Shell作为Linux命令行界面下的一种脚本语言,是系统管理员和开发者的重要工具,它允许用户通过编写脚本来自动化日常任务,提高工作效率。...

    shell编程面试题.doc

    `awk`命令用于提取日志中的IP地址(`$1`),`sort -u`进行排序和去重,`uniq -c`统计每个唯一IP的数量。 5. **计算所有进程占用内存的总和**: `ps aux`列出所有进程的信息,`tail -n +2`跳过第一行(标题行),`...

    UNIX.Shell编程24学时教程

    **UNIX Shell编程24学时教程** 这是一本专为初学者设计的UNIX Shell编程教程,旨在引导读者深入了解和掌握UNIX环境下的Shell编程技术。在UNIX操作系统中,Shell是用户与系统交互的主要接口,它提供了命令行界面以及...

Global site tag (gtag.js) - Google Analytics