其实很简单,最近可能需要对postgresql进行监控,所以接触了很多相关的监控命令和工具,这边文章主要是记录下工作过程,怕之后会忘记。
转载注明出处:http://blog.csdn.net/lengzijian/article/details/8133471
我想要的功能:记录每条sql的执行时间,能够查询每天执行最慢的top10。
下面先介绍下pg_stat_statements:(翻译)
引文原文地址:http://www.postgresql.org/docs/9.0/interactive/pgstatstatements.html
pg_stat_statements模块提供了一种跟踪执行的所有SQL语句的统计信息的方法。
这个模块必须改写配置文件postgresql.conf中的shared_preload_libraries变量(之后讲解如何配置),这是因为他需要额外的共享内存。同时也意味着需要重启服务。
1-先看下pg_stat_statements视图
字段名
|
类型
|
引用
|
说明
|
userid
|
oid
|
pg_authid.oid
|
执行者id
|
dbid
|
oid
|
pg_database.oid
|
执行数据库id
|
query
|
text
|
|
执行的语句
|
calls
|
bigint
|
|
执行次数
|
total_time
|
double precision
|
|
执行总时间 (平均值=total_time/calls )
|
rows
|
bigint
|
|
影响的总行数
|
shared_blks_hit
|
bigint
|
|
共享块命中数量
|
shared_blks_read
|
bigint
|
|
共享块读数量
|
shared_blks_written
|
bigint
|
|
共享块写数量
|
local_blks_hit
|
bigint
|
|
本地块命中数量
|
local_blks_read
|
bigint
|
|
本地块读数量
|
local_blks_written
|
bigint
|
|
本地块写数量
|
如上视图和函数pg_stat_statements_reset只有在数据库已经正确安装,并且已经执行pg_stat_statements.sql脚本后才会生效。只要pg_stat_statements成功添加,就会跟踪服务器上所有的数据库操作。
处于安全的原因,普通用户不允许查看其他用户执行的语句信息(query),如果视图安装到他的数据库,那么就可以查看相关的统计信息(子健做的实验实在超级用户下:postgres用户postgres库)
注意,如果语句信息(query)一样,不论任何out-of-line变量的值被使用,都会认为这几条声明是相同的。使用out-of-line变量有助于组织语句并且可能回事统计数据更加有用
2-函数
pg_stat_statements_reset() returns void
pg_stat_statements_reset丢弃目前由pg_stat_statements统计的所有信息,默认情况下,这个函数只能运行在超级用户下。
3-配置变量
pg_stat_statements.max(integer)
pg_stat_statements.max是最大追踪的统计数据数量(即,视图中的最大行数)。如果数据量大于最大值,那么执行最少的语句将会被丢弃(本人测试,如果语句执行次数都为1时,其次是时间久的数据被丢弃),这个值默认是1000,这个变量在服务启动前设置。
pg_stat_statements.track(enum)
pg_stat_statements.track控制统计数据规则,top用于追踪top-level statement(直接由客户端方发送的),all还会追踪嵌套的statements(例如在函数中调用的statements)
pg_stat_statements.track_utility(boolen)
pg_stat_statements.track_utility控制是否跟踪公共程序命令(utility commands),公共程序命令是SELECT/INSERT/UPDATE/DELETE以外的命令,默认值是开启,只有超级用户可以更改此设置。
pg_stat_statements.save(boolean)
pg_stat_statements.save指定在服务器关闭时,是否保存统计信息。如果设置off,服务关闭时,统计信息将不会保存。默认值是on。这个值只能够在postgresql.conf中或者命令行设置。
该模块需要额外的共享内存,内存大小大致为pg_stat_statements.max* track_activity_query_size。要注意的是,一旦模块被加载,即使pg_stat_statements.track设置为none,共享内存都会被消耗。
上面的都是一些需要掌握的知识,下面开始真正配置pg_stat_statements并且运行
首先要编写postgresql.conf
#postgresql.conf
#------------------------------------------------------------------------------
# PG_STAT_STATEMENTS OPTIONS
#------------------------------------------------------------------------------
shared_preload_libraries = 'pg_stat_statements'
custom_variable_classes = 'pg_stat_statements'
pg_stat_statements.max = 1000
pg_stat_statements.track = all
|
4-编译安装pg_stat_statements模块
进入postgresql的源码目录:
cd /home/proxy_pg/postgresql-9.1.3/contrib/pg_stat_statements
make
make install
#如果$pgpath/share/extension目录下存在pg_stat_statements--1.0.sql,说明安装成功了
|
5-加载pg_stat_statements模块
#启动postgresql服务
bin/pg_ctl start -D stat_date/
#加载sql文件
[postgres@slave2 pgsql]$ bin/psql -f share/extension/pg_stat_statements--1.0.sql -p 5499
Use "CREATE EXTENSION pg_stat_statements" to load this file.
#进入数据库做,如下操作:
[postgres@slave2 pgsql]$ bin/psql -p 5499
psql (9.1.3)
Type "help" for help.
postgres=# create extension pg_stat_statements;#创建pg_stat_statements
CREATE EXTENSION
postgres=# SELECT pg_stat_statements_reset();#清空pg_stat_statements(可以不做)
pg_stat_statements_reset
--------------------------
(1 row)
#我们手动插入10条数据:(这里是自己写的脚本,可以通过www下载)
./a.out 1 10
#执行如下命令
SELECT query, calls, total_time, rows, 100.0 * shared_blks_hit /nullif(shared_blks_hit + shared_blks_read, 0) AS hit_percent FROM pg_stat_statements ORDER BY total_time DESC LIMIT 5;

#可以看到最耗时的5条数据,最后一列表示命中率
|
虽然成功了,但这也是监控系统中很小的一部分,接下来我的挑战是把各种监控系统融合在意思,做出可视化界面,使监控更友好。
分享到:
相关推荐
同时,结合 PostgreSQL 的其他监控工具,如 `pg_stat_statements`,可以进一步分析查询的执行情况。 总结来说,`pg_hint_plan` 是一个强大的 PostgreSQL 插件,通过提供对执行计划的精细化控制,它能够帮助用户在...
解压 "postgresql-9.5.1" 压缩包后,按照以下步骤进行编译和安装: - 首先,确保系统上安装了必要的依赖库,如 `libreadline`、`openssl`、`zlib` 等。 - 进入解压后的目录,运行 `./configure` 配置编译选项。 - ...
**PostgreSQL扩展pg_qualstats详解** `pg_qualstats`是由powa-team开发的一个PostgreSQL数据库扩展,其核心功能是收集并分析SQL查询中的谓词(即条件)统计信息,以帮助用户识别可能缺失的索引,优化查询性能。在...
- PostgreSQL 的安装通常涉及下载源码包(如 "postgresql-14.2"),解压后编译和安装。在Linux系统中,这通常包括配置、编译、安装和初始化数据库集群等步骤。 - 配置文件 `postgresql.conf` 可以定制服务器的性能...
- PostgreSQL 9.6引入了pg_stat_statements扩展,可以收集和分析查询执行的统计信息,帮助优化查询性能。 10. **备份与恢复**: - 9.6版提供了更好的备份和恢复工具,如pg_basebackup和pg_restore,简化了灾难...
- **即时分析**:9.5版本引入了`pg_stat_statements`模块的增强,可以实时监控查询性能,帮助优化数据库操作。 - **JSONB增强**:9.5引入了对JSONB数据类型的更多操作,包括支持索引和更高效的数据处理。 - **安全...
**PostgreSQL 10.1 知识点详解** PostgreSQL 是一款强大的开源关系型数据库管理系统,以其稳定性、可扩展性和强大的SQL支持...同时,遵循提供的安装编译方法,可以顺利地在本地环境中搭建和测试PostgreSQL 10.1实例。
- **性能监控**:使用内置的`pg_stat_statements`扩展或者第三方工具(如pgAdmin、pgBadger)来监控数据库性能,定位慢查询。 - **日志分析**:通过配置日志输出,收集和分析日志信息,帮助诊断和解决问题。 - **...
- **监控与日志**: 日志分析、性能监控工具如pg_stat_statements的使用。 通过研究和实践PostgreSQL 10.4源码,不仅可以深入了解数据库的工作原理,还可以为定制化需求和优化提供可能。如果你对这个领域充满热情,...
4. **监控和诊断**:增加了新的性能监控工具和统计信息,如pg_stat_statements扩展,帮助管理员更好地理解和优化数据库性能。 5. **安全性提升**:强化了权限系统,提供更加细粒度的访问控制,同时改进了加密和审计...
- **性能监控**:介绍使用pg_stat_statements等工具监控查询性能的方法。 ##### 2. **高级特性篇** - **流复制**:深入探讨如何设置主从流复制,包括异步和同步复制。 - **故障检测与切换**:介绍如何使用pg_ctl、...
9. **监控与诊断工具**:提供了新的系统视图和函数,帮助管理员更好地监控数据库状态,例如,pg_stat_statements 扩展现在可以跟踪单个事务的执行情况。 10. **备份与恢复**:改进了wal2json,使得基于 WAL 的备份...
- 使用pg_stat_statements等工具进行性能监控。 3. **备份与恢复** - 完整备份的方法及其最佳实践。 - 点到时间恢复(Point-in-Time Recovery, PITR)的实现。 - 物理复制与逻辑复制的区别及应用场景。 4. **高...
`temboard-agent`与PostgreSQL紧密集成,支持多种版本的PostgreSQL,它通过pg_stat_statements扩展收集SQL查询统计信息,同时获取其他系统级别的性能指标,如内存使用情况、负载平均值等。 4. **安全与认证** ...
通过扩展如 `pg_stat_statements`,可以监控数据库性能,找出瓶颈并优化。还可以使用图形界面工具如 pgAdmin 或 PgMonitor 进行管理和监控。 **结论** PostgreSQL 初学者指南将引导你逐步了解这个强大的数据库系统...