`

收集一些统计的Shell脚本

阅读更多

经常会有统计日志的功能,故收集了一些shell脚本,方便以后常用

 

例如以下需求:

1:统计排名

   数据内容为

a 12
b 13
b 14
b 15
b 67
a 23
d 44
a 56
 

 

要求得到:

b 4
a 3
d 1

 java里的方法是使用hashMap,shell里当然也一样了。

 

 awk '{a[$1]++}END{for(i in a){print i,a[i] | "sort -r -k 2"}}'  file

 

  还有另外一种方法是使用cut

 

cut -c1 file | sort | uniq -c | sort -r | awk '{print $2,$1}'

 

2 某列求和

例如数据内容为:

1
2
3
4

 希望得到 1 +2 +3 +4 的结果

   shell脚本为

awk '{a = a + $1} END {print a} ' file

 

3 统计某一类的总和数(就是多了个if的判断)

 

awk '{ if($1==2) a = a + $1} END {print a} ' file

 

 

4 提取 AAA=BBB,CCC=DDD为BBB:DDD

awk '/add success/{ print $7$8}' DBReaderLog0.log | sed -r 's/userId=(.*?)cartId=(.*?)$/\1:\2/' 


fgrep 'add success' DBReaderLog0.log  | awk -F '=' '{print $2,$3}' | awk '{print $1":"$3}'


awk -F '=' '/add success/{print $2,$3}' DBReaderLog0.log | awk '{print $1":"$3}'


awk '/add success/ { print gensub("userId=(.*)","\\1","g",$7) ":" gensub("cartId=(.*)","\\1","g",$8)}' DBReaderLog0.log 


awk '/add success/ { print substr($7,8)":"substr($8,8)}' DBReaderLog0.log 
 
分享到:
评论

相关推荐

    Linux常用的系统监控shell脚本

    下面将详细解析几个典型的Linux系统监控Shell脚本,涵盖网络流量监控、CPU与内存使用情况、磁盘空间警告及系统统计信息捕获等关键领域。 #### 网络流量监控脚本 该脚本通过循环读取`eth0`网卡的接收和发送数据包...

    shell脚本自动监测系统cpu资源,异常彪高时,自动打印应用线程日志文件

    在IT行业中,shell脚本是一种常用的自动化工具,尤其在服务器管理和运维中发挥着重要作用。本文将详细介绍如何使用shell脚本来实现系统CPU资源的自动监测,并在CPU资源异常升高时自动打印应用线程日志文件。 首先,...

    利用shell脚本批量获取主机信息 IP地址 主机名 CPU型号 主频 核数 物理内存总大小 磁盘名称 容量

    在IT系统管理中,批量获取主机信息...总结,通过编写shell脚本并结合Linux命令,我们可以高效地批量获取并整理主机信息,这对于系统监控、资源统计和故障排查都非常有帮助。在实际操作时,请根据具体环境进行适当调整。

    Shell脚本监控服务器状态

    通过上述方法,一个完整的Shell脚本监控系统可以实现自动化收集、存储和分析服务器性能数据,为系统运维提供有力支持。对于大型系统而言,这种自动化监控尤为重要,因为它能及时发现潜在问题,提高系统的稳定性和...

    数据库巡检shell脚本

    在本场景中,我们讨论的是一个名为"数据库巡检shell脚本"的工具,该脚本专门针对Oracle和MySQL这两种常见的关系型数据库系统设计。这个shell脚本具有批量巡检的能力,能够帮助管理员快速获取关键性能指标,从而更好...

    linux-DoSDeflate是一个轻量级的bashshell脚本旨在协助阻止拒绝服务攻击的过程

    Linux DoS Deflate 是一个专为防御拒绝服务(Denial of Service, DoS)攻击而设计的轻量级bash shell脚本。在了解这个脚本之前,我们需要先理解什么是DoS攻击。DoS攻击是恶意攻击者通过大量无效请求淹没目标服务器,...

    使用shell脚本采集系统cpu、内存、磁盘、网络等信息

    本文将详细讲解如何使用Shell脚本来采集系统的关键信息,包括CPU使用率、CPU负载、内存使用情况以及磁盘I/O。 首先,我们来看CPU信息的采集。CPU使用率反映了处理器的繁忙程度。在Linux系统中,/proc/stat文件提供...

    Linux&SHELL;基本知识笔试试卷

    - 使用 `sh $shell_script` 或 `./$shell_script` 来在一个新的子 shell 中执行脚本。 #### SHELL 脚本结构 - **知识点**:SHELL 脚本的基本结构包括: - 循环结构:例如 `for`、`while` 循环。 - 选择结构:...

    EDI shell脚本职责清单1

    在这个场景中,我们看到一系列shell脚本被用来自动化处理数据处理流程,主要涉及Hadoop、Hive、MySQL和NLP(自然语言处理)的任务。以下是这些脚本的主要职责和涉及的技术点: 1. `/opt/running/edi/edi_new_in_...

    shell100例.pdf

    【shell脚本应用实例】 1. **网络主机状态检测**:使用`ping`命令批量测试192.168.4.0/24网段中的主机状态,通过脚本自动化实现。对于开机的主机,`ping`命令将返回响应,而关机的主机则不会响应。可以结合`for`...

    统计系统七----主要执行的shell文件

    在这个系统中,shell脚本可能是主要的执行程序,用于收集、处理和分析数据。 首先,让我们深入了解shell脚本的基础。Shell是一种命令解释器,它允许用户通过命令行与操作系统进行交互。在Linux或Unix环境下,bash...

    oracle常用监控脚本

    AWR是Oracle 10g引入的自动性能诊断和基线管理组件,它周期性地收集数据库的统计信息,并存储在内存和表中,用于性能比较和问题诊断。 3. **ASH(Active Session History)**: ASH提供了一个细粒度的视图,记录...

    Shell脚本实现的单机流量统计功能

    Shell脚本是一种在Unix/Linux操作系统环境下编写自动化任务的编程语言,它能够有效地帮助用户执行系统管理任务。在这个特定的脚本中,我们看到一个用于单机流量统计的功能实现。这个脚本的主要目的是监测网络接口的...

    Linux常用的系统监控shell脚本.docx

    以下是一些常见的Linux系统监控脚本,涵盖了网络流量、系统状态、磁盘空间、CPU和内存使用情况以及全方位的主机监控。 1. **网络流量监控**: 这个脚本通过`ifconfig`命令获取网卡eth0的接收(RX)和发送(TX)...

    获取服务器信息的Shell脚本分享(ubuntu、centos测试通过)

    本篇将详细解释一个用于获取Linux服务器信息的Shell脚本,该脚本已在Ubuntu和CentOS上经过测试。 首先,脚本开始时定义了一个分隔线`Line='==========='`,用于在输出信息时提供清晰的视觉分隔。接下来,脚本通过...

    常用shell监控脚本.txt

    ### 常用Shell监控脚本知识点解析 #### 一、网络流量监控脚本 **脚本概述**:此脚本用于实时监控网络接口(如eth0)的上传与下载速度,并将数据输出到标准输出。 **核心逻辑**: 1. **定义变量**: - `time`:...

    shell脚本常用脚本备用20例.md涉及系统

    系统信息脚本用于收集并展示关于操作系统的重要数据,包括但不限于操作系统版本、CPU信息、内存使用情况以及磁盘使用情况。这种脚本有助于快速诊断系统性能问题或者进行常规维护。 - **脚本示例**: ```bash #!/...

    shell脚本:我的脚本

    在IT行业中,shell脚本是一种极其重要的工具,尤其在系统管理和自动化任务中不可或缺。本文将深入探讨shell脚本的核心概念,以及与之相关的技术,如memcached、mongodb、ELK(Elasticsearch、Logstash、Kibana)堆栈...

Global site tag (gtag.js) - Google Analytics