`
leichenlei
  • 浏览: 128168 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

shell awk 统计重复个数

阅读更多

有文件file.log内容如下:

http://www.sohu.com/aaa

http://www.sina.com/111

http://www.sohu.com/bbb

http://www.sina.com/222

http://www.sohu.com/ccc

http://www.163.com/zzz

http://www.sohu.com/ddd


要统每个域名出现次数:

http://www.sohu.com 4

http://www.sina.com 2

http://www.163.com 1


答案是:  awk -F / '{a[$3]++} END{for(i in a){print i,a[i] | "sort -r -k 2"}}' file.log;


解释一下,awk语法就不说了:


-F参数是制定awk分隔符,这里制定的是 /,所以每行被分成4个部分。


sort 的-r是降序,-k是按照第几组字符排序,从1开始。


a可以理解成key-value形式的对象,域名做key 个数做value。

在end动作里完成对结果a的打印,


注意: 这个方法还可以用来统计日志中响应时间等等。


分享到:
评论

相关推荐

    shell awk实用实例教程

    这个脚本首先通过`cat`显示文件内容,然后使用Awk统计每个单词出现的次数。 学习并熟练掌握Shell和Awk的结合使用,对于日常的系统管理和数据分析工作将大有裨益。通过阅读提供的《awk实用程序.pdf》教程,你将能...

    shell中的精髓_sed_awk

    ### 关于Shell中的sed与awk #### 一、引言 在Unix及类Unix系统(如Linux)中,`sed` 和 `awk` 是两个极其强大的文本处理工具,被广泛应用于脚本编写、数据处理以及各种自动化任务中。本文旨在深入探讨这两个工具的...

    shell中常见命令与awk,sed的等价命令

    shell提供了丰富的命令来实现各种功能,而`awk`和`sede`则是其中两个非常强大的文本处理工具。本文将详细介绍一系列常用的shell命令及其在`awk`和`sed`中的等价实现方法。 #### 二、等价命令详解 ##### 1. `cat` *...

    awk使用手册,写shell的下载吧

    - **生成报告**:利用 AWK 可以根据特定的数据集自动生成报告或统计信息。 - **验证数据**:可以使用 AWK 对输入的数据进行验证,确保数据格式正确无误。 - **制作索引及文档准备任务**:AWK 还可用于生成文档索引,...

    linux环境下awk开发

    - **数据分析**:AWK可以用来解析日志文件,提取关键信息,进行统计分析。 - **文本处理**:比如格式转换、内容提取、文本替换等。 - **脚本开发**:利用AWK的脚本功能,可以快速开发出功能强大的文本处理脚本。 ##...

    AWK应用和讲解步骤

    AWK 是一个强大的文本处理工具,在 Linux 和 Unix 系统中广泛使用。AWK 的基本命令格式如下: ``` awk [选项] '模式或条件 {动作}' 文件名 ``` #### 选项 - `-F` 或 `--field-separator`:用于指定输入记录中的字段...

    实验七 shell编程

    实验七的目的是让学生掌握Shell编程的基本技巧和方法,通过编写三个具体的脚本来加深理解。...在实际应用中,Shell脚本可以用于自动化重复任务、系统管理和维护等多种场景,是Linux系统管理员和开发者必备的技能之一。

    shell教程(一个很不错的bash脚本编写教程)

    - `wc`: 统计文件的字节数、单词数或行数。 - `cp`: 复制文件。 - `mv`: 移动或重命名文件。 - `rm`: 删除文件。 - `grep`: 在文件中搜索匹配指定模式的行。 - `cut`: 从文件中剪切字段或字节。 - `cat`: ...

    shell成绩管理系统

    在Shell脚本中,可以使用`cat`, `grep`, `awk`等命令来读取、过滤和处理这些数据。 3. **score.txt**: 很显然,这个文件包含了学生的分数信息,可能是按照某种格式,比如学号+科目+得分。处理这类数据时,可以使用`...

    第二十四章:shell脚本-正则、grep、sed、awk三剑客1

    ### 第二十四章:Shell 脚本 - 正则、grep、sed、awk 三剑客 #### 一、正则表达式及 grep **1. 概述** 正则表达式是一种强大的文本处理工具,它能够帮助用户方便地进行字符串的搜索、替换等操作。在 Linux 系统中...

    统计系统七----主要执行的shell文件

    在实际应用中,shell脚本可能涉及到与数据库交互,使用awk、sed等工具进行文本处理,或者调用其他统计软件如R或Python的接口。 标签"源码"表明我们会看到实际的代码示例,这对于学习和理解shell脚本的语法和结构...

    shell基础学习资料

    - `wc`:统计文件中的行数、单词数或字符数。 - `cp`:复制文件。 - `mv`:移动或重命名文件。 - `rm`:删除文件。 - `grep`:在文件中搜索匹配特定模式的行。 - `cut`:从每个输入行中选择字段,输出到标准...

    linux shell脚本

    - `wc`:统计输入的字节数、字数、行数等。 - `cp`:复制文件或目录。 - `mv`:移动文件或重命名文件。 - `rm`:删除文件或目录。 - `grep`:在文件中搜索匹配正则表达式的行。 - `cut`:从文件中剪切字段或字节。 -...

    awk_手册【中文】.pdf

    - **自动化任务:**利用AWK编写脚本来自动执行重复性高的任务。 ##### 2. **AWK的解题模式** - **基于规则的数据筛选:**通过条件判断对数据行进行过滤。 - **数据的聚合处理:**比如求和、计数等统计操作。 - **...

Global site tag (gtag.js) - Google Analytics