`
MyEyeOfJava
  • 浏览: 1151950 次
  • 性别: Icon_minigender_1
  • 来自: 北京
博客专栏
7af2d6ca-4fe1-3e9a-be85-3f65f7120bd0
测试开发
浏览量:71167
533896eb-dd7b-3cde-b4d3-cc1ce02c1c14
晨记
浏览量:0
社区版块
存档分类
最新评论

Linux系统性能监控采集项

阅读更多

1. Linux运维基础采集项

做运维,不怕出问题,怕的是出了问题,抓不到现场,两眼摸黑。所以,依靠强大的监控系统,收集尽可能多的指标,意义重大。但哪些指标才是有意义的呢,本着从实践中来的思想,各位工程师在长期摸爬滚打中总结出来的经验最有价值。

在各位运维工程师长期的工作实践中,我们总结了在系统运维过程中,经常会参考的一些指标,主要包括以下几个类别:

  • CPU
  • Load
  • 内存
  • 磁盘
  • IO
  • 网络相关
  • 内核参数
  • ss 统计输出
  • 端口采集
  • 核心服务的进程存活信息采集
  • 关键业务进程资源消耗
  • NTP offset采集
  • DNS解析采集

每个类别,具体的详细指标如下,这些指标,都是open-falcon的agent组件直接支持的。falcon-agent每隔一定时间间隔(目前是60秒)会采集一次相关的指标,并汇报给server端。

2. CPU相关采集项

计算方法:通过采集/proc/stat来得到,大家可以参考sar命令的统计输出来理解。

  • cpu.idle:Percentage of time that the CPU or CPUs were idle and the system did not have an outstanding disk I/O request.
  • cpu.busy:与cpu.idle相对,他的值等于100减去cpu.idle。
  • cpu.guest:Percentage of time spent by the CPU or CPUs to run a virtual processor.
  • cpu.iowait:Percentage of time that the CPU or CPUs were idle during which the system had an outstanding disk I/O request.
  • cpu.irq:Percentage of time spent by the CPU or CPUs to service hardware interrupts.
  • cpu.softirq:Percentage of time spent by the CPU or CPUs to service software interrupts.
  • cpu.nice:Percentage of CPU utilization that occurred while executing at the user level with nice priority.
  • cpu.steal:Percentage of time spent in involuntary wait by the virtual CPU or CPUs while the hypervisor was servicing another virtual processor.
  • cpu.system:Percentage of CPU utilization that occurred while executing at the system level (kernel).
  • cpu.user:Percentage of CPU utilization that occurred while executing at the user level (application).
  • cpu.cnt:cpu核数。
  • cpu.switches:cpu上下文切换次数,计数器类型。

3. 磁盘相关采集项

计算方法:先读取/proc/mounts拿到所有挂载点,然后通过syscall.Statfs_t拿到blocks和inode的使用情况。每个metric都会附加一组tag描述,类似mount=$mount,fstype=$fstype,其中$mount是挂载点,比如/home,$fstype是文件系统,比如ext4。

  • df.bytes.free:磁盘可用量,int64
  • df.bytes.free.percent:磁盘可用量占总量的百分比,float64,比如32.1
  • df.bytes.total:磁盘总大小,int64
  • df.bytes.used:磁盘已用大小,int64
  • df.bytes.used.percent:磁盘已用大小占总量的百分比,float64
  • df.inodes.total:inode总数,int64
  • df.inodes.free:可用inode数目,int64
  • df.inodes.free.percent:可用inode占比,float64
  • df.inodes.used:已用的inode数据,int64
  • df.inodes.used.percent:已用inode占比,float64

4. megacli工具输出

使用 megacli 工具读取 RAID 相关信息,每个metric都会附件一组tag描述,用来标明所属PD或者 VD,PD格式为PD=Enclosure_ID:SLOT_ID,比如PD=32:0表明第一块磁盘 ,VD=0 表明第一个逻辑磁盘。

  • sys.disk.lsiraid.pd.Media_Error_Count:这个及以下三个指标目前仅作为数据收集,不一定意味磁盘损坏(只是表示损坏概率变大)
  • sys.disk.lsiraid.pd.Other_Error_Count
  • sys.disk.lsiraid.pd.Predictive_Failure_Count
  • sys.disk.lsiraid.pd.Drive_Temperature
  • sys.disk.lsiraid.pd.Firmware_state:如果值不为0,则此物理磁盘出现问题
  • sys.disk.lsiraid.vd.cache_policy:如果值不为0,表示此逻辑磁盘缓存策略和设置不符
  • sys.disk.lsiraid.vd.state: 如果值不为0,表示此逻辑磁盘出现问题

5. SMART工具输出

使用 smartctl 工具读取磁盘 SMART 信息,目前所有指标仅作为数据收集,不一定意味磁盘损坏(只是表示概率变大),每个metric都会有一组tag描述,表明盘符,例如device=/dev/sda。

  • sys.disk.smart.Reallocated_Sector_Ct
  • sys.disk.smart.Spin_Retry_Count
  • sys.disk.smart.Reallocated_Event_Count
  • sys.disk.smart.Current_Pending_Sector
  • sys.disk.smart.Offline_Uncorrectable
  • sys.disk.smart.Temperature_Celsius

6. 分区读写监控

测试所有已挂载分区是否可读写,每个metric都会有一组tag描述,表示挂载点,比如mount=/home

  • sys.disk.rw: 如果值不为0,表明此分区读写出现问题

7. IO相关采集项

计算方法:每秒采集一次/proc/diskstats,计算差值,都是计数器类型的。每个metric都会有一组tag描述,形如device=$device,用来表示具体的设备,比如sda1、sdb。用户可以参考iostat的帮助文档来理解具体的metric含义。

  • disk.io.ios_in_progress:Number of actual I/O requests currently in flight.
  • disk.io.msec_read:Total number of ms spent by all reads.
  • disk.io.msec_total:Amount of time during which ios_in_progress >= 1.
  • disk.io.msec_weighted_total:Measure of recent I/O completion time and backlog.
  • disk.io.msec_write:Total number of ms spent by all writes.
  • disk.io.read_merged:Adjacent read requests merged in a single req.
  • disk.io.read_requests:Total number of reads completed successfully.
  • disk.io.read_sectors:Total number of sectors read successfully.
  • disk.io.write_merged:Adjacent write requests merged in a single req.
  • disk.io.write_requests:total number of writes completed successfully.
  • disk.io.write_sectors:total number of sectors written successfully.
  • disk.io.read_bytes:单位是byte的数字
  • disk.io.write_bytes:单位是byte的数字
  • disk.io.avgrq_sz:下面几个值就是iostat -x 1看到的值
  • disk.io.avgqu-sz
  • disk.io.await
  • disk.io.svctm
  • disk.io.util:是个百分数,比如56.43,表示56.43%

8. 机器负载相关采集项

计算方法:读取/proc/loadavg,都是原始值类型的:

  • load.1min
  • load.5min
  • load.15min

9. 内存相关采集项

计算方法:读取/proc/meminfo 中的内容,其中的mem.memfree是free+buffers+cached,mem.memused=mem.memtotal-mem.memfree。用户具体可以参考free命令的输出和帮助文档来理解每个metric的含义。

  • mem.memtotal:内存总大小
  • mem.memused:使用了多少内存
  • mem.memused.percent:使用的内存占比
  • mem.memfree
  • mem.memfree.percent
  • mem.swaptotal:swap总大小
  • mem.swapused:使用了多少swap
  • mem.swapused.percent:使用的swap的占比
  • mem.swapfree
  • mem.swapfree.percent

10. 网络相关采集项

计算方法:读取/proc/net/dev的内容,每个metric都附加有一组tag,形如iface=$iface,标明具体那个interface,比如eth0。metric中带有in的表示流入情况,out表示流出情况,total是总量in+out,支持的metric如下:

  • net.if.in.bytes
  • net.if.in.compressed
  • net.if.in.dropped
  • net.if.in.errors
  • net.if.in.fifo.errs
  • net.if.in.frame.errs
  • net.if.in.multicast
  • net.if.in.packets
  • net.if.out.bytes
  • net.if.out.carrier.errs
  • net.if.out.collisions
  • net.if.out.compressed
  • net.if.out.dropped
  • net.if.out.errors
  • net.if.out.fifo.errs
  • net.if.out.packets
  • net.if.total.bytes
  • net.if.total.dropped
  • net.if.total.errors
  • net.if.total.packets

11. 端口采集项

计算方法,通过ss -ln,来判断指定的端口是否处于listen状态。原始值类型,值要么是1:代表在监听,要么是0,代表没有在监听。每个metric都附件一组tag,形如port=$port,$port就是具体的端口。

  • net.port.listen

12. 机器内核配置

  • kernel.maxfiles: 读取的/proc/sys/fs/file-max
  • kernel.files.allocated:读取的/proc/sys/fs/file-nr第一个Field
  • kernel.files.left:值=kernel.maxfiles-kernel.files.allocated
  • kernel.maxproc:读取的/proc/sys/kernel/pid_max

13. ntp采集项

使用 ntpq -pn 获取本机时间相对于 ntp 服务器的 offset。

  • sys.ntp.offset: 本机偏移时间,单位为ms,值过大或者为0则表明有异常,需要报警

14. 进程监控

  • proc.num:判断某个进程的数目,这里需要分两个场景,一种是根据进程的名字来判定,比如name=sshd;另外一种是根据cmdline来判定,比如Java的应用进程名可能都是java,根据第一种情况没法做区分,此时可以配置cmdline,如cmdline=./falcon_agent-c./cfg.ini

15. 进程资源监控

  • process.cpu.all:进程和它的子进程使用的sys+user的cpu,单位是jiffies
  • process.cpu.sys:进程和它的子进程使用的sys cpu,单位是jiffies
  • process.cpu.user:进程和它的子进程使用的user cpu,单位是jiffies
  • process.swap:进程和它的子进程使用的swap,单位是page
  • process.fd:进程使用的文件描述符个数
  • process.mem:进程占用内存,单位byte

16. ss命令输出

  • ss.orphaned
  • ss.closed
  • ss.timewait
  • ss.slabinfo.timewait
  • ss.synrecv
  • ss.estab
分享到:
评论

相关推荐

    基于Linux的计算系统性能监控

    ### 基于Linux的计算系统性能监控 #### 摘要解读与核心知识点 本文主要探讨了在分布式高性能计算环境中进行轻量级、低负载的持续性能监控的重要性及其实施方法。作者提出了一款名为PerfMon的开源性能监控工具,该...

    基于Linux的计算系统性能监控.pdf

    【基于Linux的计算系统性能监控】是针对在Linux操作系统环境下,如何有效监控和管理分布式高性能计算系统的主题。本文由徐建、张琨和刘凤玉共同撰写,发表于《南京理工大学学报》2007年第5期。文章探讨了在高性能...

    基于Linux的视频监控报警系统.pdf

    在系统驱动开发中,我们使用了madplay音频播放器和AUX接口的音响,使用Linux系统驱动程序来实现音频报警和视频采集。同时,我们也使用了Web服务器来实现远程控制和管理,用户可以通过Web浏览器来查看图片和控制系统...

    Linux系统设计-linux 系统资源监控库,监控进程占用的CPU、内存、磁盘IO、网络IO

    它继承了Unix以网络为核心的设计思想,是一个性能稳定的多用户网络操作系统,Linux是许多企业和服务提供商的首选操作系统,用于部署Web服务器、数据库服务器、邮件服务器等。Linux系统具有高效的网络功能和稳定的...

    基于SpringBoot+Bootstrap实现linux自动化运维监控系统,完美实现了分布式监控

    基于微服务springboot架构开发,是轻量高性能的分布式监控系统,核心采集指标包括:**cpu使用率,cpu温度,内存使用率,磁盘容量,磁盘IO,硬盘SMART健康状态,系统负载,连接数量,网卡流量,硬件系统信息等。...

    nmon_linux服务器性能监控

    综上所述,nmon是一款强大的Linux服务器性能监控工具,其配合Excel分析程序,使得性能监控和故障排查变得更加便捷高效。通过合理使用nmon,运维人员可以更好地管理和维护Linux服务器,保障系统的稳定运行。

    基于嵌入式Linux的远程数据采集系统

    基于嵌入式Linux的远程数据采集系统是一种创新的解决方案,旨在替代传统的单片机为基础的数据采集系统,提供更强大、灵活且具备网络通信能力的新一代数据采集平台。该系统的核心优势在于其采用了嵌入式微处理器S3C44...

    linux性能数据收集工具

    - **Linux性能监控命令**:例如`top`、`vmstat`、`iostat`、`netstat`等,它们是基础的性能监控工具,用于查看实时性能指标。 - **数据处理技术**:Perl是一种强大的文本处理语言,适合处理日志文件和结构化数据。...

    基于ARM Linux的综合信息采集系统的设计.pdf

    《基于ARM Linux的综合信息采集系统的设计》这篇文章探讨了如何构建一个高效、多功能的信息采集系统,该系统适用于工业控制、计算机测控等多个领域。本文主要围绕基于ARM处理器的硬件架构和Linux操作系统,详细阐述...

    基于ARM_Linux的无线视频监控系统的设计与实现

    ### 基于ARM_Linux的无线视频监控系统的设计与实现 #### 一、系统概述 随着嵌入式技术和移动通信技术的飞速发展,视频监控系统正逐步向无线化、数字化和网络化的方向演进。传统的有线视频监控系统在安装过程中需要...

    基于ARM Linux的高速数据采集系统.pdf

    总的来说,该高速数据采集系统利用了ARM处理器的强大性能和Linux的灵活性,结合I2C总线技术,实现了高效的数据采集和传输。同时,通过Qt界面,用户可以直观地查看和管理采集到的数据,适应了复杂环境下的监测需求。...

    linux服务器性能监控之-nmon.docx

    Linux 服务器性能监控之...Nmon 广泛应用于 AIX 和 Linux 系统的性能监控,可以帮助管理员快速地监控系统的性能,从而提高系统的稳定性和可靠性。同时,Nmon 也可以应用于其他领域,如性能优化、故障诊断、资源分配等。

    基于Linux平台的图像采集系统的设计与实现.pdf

    【基于Linux平台的图像采集系统的设计与实现】 随着科技的发展,图像采集系统在各个领域,如军事、远程监控、机器人和航天气象等,都扮演着至关重要的角色。传统的基于Windows系统的图像采集系统虽然技术成熟,但...

    基于嵌入式Linux的远程视频监控系统

    发平台进行,设计并实现了基于嵌入式Linux的远程视频监控系统。该系统是以嵌入式Linux 和控制器S3C2440为核心平台,通过嵌入式平台建立Web服务器Boa和视频服务器。通过 基于TCP/IP的socket编程实现网络通信,将USB...

    基于嵌入式Linux的远程数据采集系统.pdf

    总结来说,基于嵌入式Linux的远程数据采集系统结合了高性能的处理器、高精度的数据采集组件和先进的操作系统,为工业和军事领域的数据监控提供了强大而可靠的解决方案。这样的系统不仅提高了数据采集的精确度和实时...

    linux 系统系统信息采集器 外加socket发送

    总的来说,这个“Linux系统信息采集器”项目结合了系统监控和网络通信两大主题,对于学习Linux系统管理和网络编程的开发者来说,是一个有价值的实践案例。通过阅读和分析源代码,我们可以深入理解如何在Linux环境下...

Global site tag (gtag.js) - Google Analytics