经常会有统计日志的功能,故收集了一些shell脚本,方便以后常用
例如以下需求:
1:统计排名
数据内容为
a 12
b 13
b 14
b 15
b 67
a 23
d 44
a 56
要求得到:
b 4
a 3
d 1
java里的方法是使用hashMap,shell里当然也一样了。
awk '{a[$1]++}END{for(i in a){print i,a[i] | "sort -r -k 2"}}' file
还有另外一种方法是使用cut
cut -c1 file | sort | uniq -c | sort -r | awk '{print $2,$1}'
2 某列求和
例如数据内容为:
1
2
3
4
希望得到 1 +2 +3 +4 的结果
shell脚本为
awk '{a = a + $1} END {print a} ' file
3 统计某一类的总和数(就是多了个if的判断)
awk '{ if($1==2) a = a + $1} END {print a} ' file
4 提取 AAA=BBB,CCC=DDD为BBB:DDD
awk '/add success/{ print $7$8}' DBReaderLog0.log | sed -r 's/userId=(.*?)cartId=(.*?)$/\1:\2/'
fgrep 'add success' DBReaderLog0.log | awk -F '=' '{print $2,$3}' | awk '{print $1":"$3}'
awk -F '=' '/add success/{print $2,$3}' DBReaderLog0.log | awk '{print $1":"$3}'
awk '/add success/ { print gensub("userId=(.*)","\\1","g",$7) ":" gensub("cartId=(.*)","\\1","g",$8)}' DBReaderLog0.log
awk '/add success/ { print substr($7,8)":"substr($8,8)}' DBReaderLog0.log
分享到:
相关推荐
下面将详细解析几个典型的Linux系统监控Shell脚本,涵盖网络流量监控、CPU与内存使用情况、磁盘空间警告及系统统计信息捕获等关键领域。 #### 网络流量监控脚本 该脚本通过循环读取`eth0`网卡的接收和发送数据包...
在IT行业中,shell脚本是一种常用的自动化工具,尤其在服务器管理和运维中发挥着重要作用。本文将详细介绍如何使用shell脚本来实现系统CPU资源的自动监测,并在CPU资源异常升高时自动打印应用线程日志文件。 首先,...
在IT系统管理中,批量获取主机信息...总结,通过编写shell脚本并结合Linux命令,我们可以高效地批量获取并整理主机信息,这对于系统监控、资源统计和故障排查都非常有帮助。在实际操作时,请根据具体环境进行适当调整。
通过上述方法,一个完整的Shell脚本监控系统可以实现自动化收集、存储和分析服务器性能数据,为系统运维提供有力支持。对于大型系统而言,这种自动化监控尤为重要,因为它能及时发现潜在问题,提高系统的稳定性和...
在本场景中,我们讨论的是一个名为"数据库巡检shell脚本"的工具,该脚本专门针对Oracle和MySQL这两种常见的关系型数据库系统设计。这个shell脚本具有批量巡检的能力,能够帮助管理员快速获取关键性能指标,从而更好...
Linux DoS Deflate 是一个专为防御拒绝服务(Denial of Service, DoS)攻击而设计的轻量级bash shell脚本。在了解这个脚本之前,我们需要先理解什么是DoS攻击。DoS攻击是恶意攻击者通过大量无效请求淹没目标服务器,...
本文将详细讲解如何使用Shell脚本来采集系统的关键信息,包括CPU使用率、CPU负载、内存使用情况以及磁盘I/O。 首先,我们来看CPU信息的采集。CPU使用率反映了处理器的繁忙程度。在Linux系统中,/proc/stat文件提供...
- 使用 `sh $shell_script` 或 `./$shell_script` 来在一个新的子 shell 中执行脚本。 #### SHELL 脚本结构 - **知识点**:SHELL 脚本的基本结构包括: - 循环结构:例如 `for`、`while` 循环。 - 选择结构:...
在这个场景中,我们看到一系列shell脚本被用来自动化处理数据处理流程,主要涉及Hadoop、Hive、MySQL和NLP(自然语言处理)的任务。以下是这些脚本的主要职责和涉及的技术点: 1. `/opt/running/edi/edi_new_in_...
【shell脚本应用实例】 1. **网络主机状态检测**:使用`ping`命令批量测试192.168.4.0/24网段中的主机状态,通过脚本自动化实现。对于开机的主机,`ping`命令将返回响应,而关机的主机则不会响应。可以结合`for`...
在这个系统中,shell脚本可能是主要的执行程序,用于收集、处理和分析数据。 首先,让我们深入了解shell脚本的基础。Shell是一种命令解释器,它允许用户通过命令行与操作系统进行交互。在Linux或Unix环境下,bash...
AWR是Oracle 10g引入的自动性能诊断和基线管理组件,它周期性地收集数据库的统计信息,并存储在内存和表中,用于性能比较和问题诊断。 3. **ASH(Active Session History)**: ASH提供了一个细粒度的视图,记录...
Shell脚本是一种在Unix/Linux操作系统环境下编写自动化任务的编程语言,它能够有效地帮助用户执行系统管理任务。在这个特定的脚本中,我们看到一个用于单机流量统计的功能实现。这个脚本的主要目的是监测网络接口的...
以下是一些常见的Linux系统监控脚本,涵盖了网络流量、系统状态、磁盘空间、CPU和内存使用情况以及全方位的主机监控。 1. **网络流量监控**: 这个脚本通过`ifconfig`命令获取网卡eth0的接收(RX)和发送(TX)...
本篇将详细解释一个用于获取Linux服务器信息的Shell脚本,该脚本已在Ubuntu和CentOS上经过测试。 首先,脚本开始时定义了一个分隔线`Line='==========='`,用于在输出信息时提供清晰的视觉分隔。接下来,脚本通过...
### 常用Shell监控脚本知识点解析 #### 一、网络流量监控脚本 **脚本概述**:此脚本用于实时监控网络接口(如eth0)的上传与下载速度,并将数据输出到标准输出。 **核心逻辑**: 1. **定义变量**: - `time`:...
系统信息脚本用于收集并展示关于操作系统的重要数据,包括但不限于操作系统版本、CPU信息、内存使用情况以及磁盘使用情况。这种脚本有助于快速诊断系统性能问题或者进行常规维护。 - **脚本示例**: ```bash #!/...
在IT行业中,shell脚本是一种极其重要的工具,尤其在系统管理和自动化任务中不可或缺。本文将深入探讨shell脚本的核心概念,以及与之相关的技术,如memcached、mongodb、ELK(Elasticsearch、Logstash、Kibana)堆栈...