`
lin5061
  • 浏览: 83557 次
社区版块
存档分类
最新评论

Mysql使用经验[转]

阅读更多

 

目前项目性能指标是20万用户,20并发。用的是Mysql,但是总感觉性能很差,今天上网查了一下,发现的确没有好好的调整一下性能。先引用一个wiki,改天调整一下看看。[原文]

 

同时在线访问量继续增大 对于1G内存的服务器明显感觉到吃力严重时甚至每天都会死机 或者时不时的服务器卡一下 这个问题曾经困扰了我半个多月MySQL使用是很具伸缩性的算法,因此你通常能用很少的内存运行或给MySQL更多的被存以得到更好的性能。

 

安装好mysql后,配制文件应该在/usr/local/mysql/share/mysql目录中,配制文件有几个,有my-huge.cnf my-medium.cnf my-large.cnf my-small.cnf,不同的流量的网站和不同配制的服务器环境,当然需要有不同的配制文件了。

 

一般的情况下,my-medium.cnf这个配制文件就能满足我们的大多需要;一般我们会把配置文件拷贝到/etc/my.cnf 只需要修改这个配置文件就可以了,使用mysqladmin variables extended-status –u root –p 可以看到目前的参数,有3个配置参数是最重要的,即key_buffer_size,query_cache_size,table_cache。

 

key_buffer_size只对MyISAM表起作用,

 

key_buffer_size指定索引缓冲区的大小,它决定索引处理的速度,尤其是索引读的速度。一般我们设为16M,实际上稍微大一点的站点 这个数字是远远不够的,通过检查状态值Key_read_requests和Key_reads,可以知道key_buffer_size设置是否合理。比例key_reads / key_read_requests应该尽可能的低,至少是1:100,1:1000更好(上述状态值可以使用SHOW STATUS LIKE ‘key_read%’获得)。 或者如果你装了phpmyadmin 可以通过服务器运行状态看到,笔者推荐用phpmyadmin管理mysql,以下的状态值都是本人通过phpmyadmin获得的实例分析:

 

这个服务器已经运行了20天

key_buffer_size – 128M 

key_read_requests – 650759289 

key_reads - 79112 

 

比例接近1:8000 健康状况非常好

 

另外一个估计key_buffer_size的办法 把你网站数据库的每个表的索引所占空间大小加起来看看以此服务器为例:比较大的几个表索引加起来大概125M 这个数字会随着表变大而变大。

 

从4.0.1开始,MySQL提供了查询缓冲机制。使用查询缓冲,MySQL将SELECT语句和查询结果存放在缓冲区中,今后对于同样的SELECT语句(区分大小写),将直接从缓冲区中读取结果。根据MySQL用户手册,使用查询缓冲最多可以达到238%的效率。

 

通过调节以下几个参数可以知道query_cache_size设置得是否合理

Qcache inserts 

Qcache hits 

Qcache lowmem prunes 

Qcache free blocks 

Qcache total blocks

 

Qcache_lowmem_prunes的值非常大,则表明经常出现缓冲不够的情况,同时Qcache_hits的值非常大,则表明查询缓冲使用非常频繁,此时需要增加缓冲大小Qcache_hits的值不大,则表明你的查询重复率很低,这种情况下使用查询缓冲反而会影响效率,那么可以考虑不用查询缓冲。此外,在SELECT语句中加入SQL_NO_CACHE可以明确表示不使用查询缓冲。

 

Qcache_free_blocks,如果该值非常大,则表明缓冲区中碎片很多query_cache_type指定是否使用查询缓冲

 

我设置:

query_cache_size = 32M 

query_cache_type= 1 

 

得到如下状态值:

Qcache queries in cache 12737 表明目前缓存的条数 

Qcache inserts 20649006 

Qcache hits 79060095  看来重复查询率还挺高的 

Qcache lowmem prunes 617913 有这么多次出现缓存过低的情况 

Qcache not cached 189896    

Qcache free memory 18573912  目前剩余缓存空间 

Qcache free blocks 5328 这个数字似乎有点大 碎片不少 

Qcache total blocks 30953 

 

如果内存允许32M应该要往上加点

 

table_cache指定表高速缓存的大小。每当MySQL访问一个表时,如果在表缓冲区中还有空间,该表就被打开并放入其中,这样可以更快地访问表内容。通过检查峰值时间的状态值Open_tables和Opened_tables,可以决定是否需要增加table_cache的值。如果你发现open_tables等于table_cache,并且opened_tables在不断增长,那么你就需要增加table_cache的值了(上述状态值可以使用SHOW STATUS LIKE ‘Open%tables’获得)。注意,不能盲目地把table_cache设置成很大的值。如果设置得太高,可能会造成文件描述符不足,从而造成性能不稳定或者连接失败。

 

对于有1G内存的机器,推荐值是128-256。

 

笔者设置table_cache = 256

 

得到以下状态:

Open tables 256 

Opened tables 9046 

 

虽然open_tables已经等于table_cache,但是相对于服务器运行时间来说,已经运行了20天,opened_tables的值也非常低。因此,增加table_cache的值应该用处不大。如果运行了6个小时就出现上述值 那就要考虑增大table_cache。

 

如果你不需要记录2进制log 就把这个功能关掉,注意关掉以后就不能恢复出问题前的数据了,需要您手动备份,二进制日志包含所有更新数据的语句,其目的是在恢复数据库时用它来把数据尽可能恢复到最后的状态。另外,如果做同步复制( Replication )的话,也需要使用二进制日志传送修改情况。

 

log_bin指定日志文件,如果不提供文件名,MySQL将自己产生缺省文件名。MySQL会在文件名后面自动添加数字引,每次启动服务时,都会重新生成一个新的二进制文件。此外,使用log-bin-index可以指定索引文件;使用binlog-do-db可以指定记录的数据库;使用binlog-ignore-db可以指定不记录的数据库。注意的是:binlog-do-db和binlog-ignore-db一次只指定一个数据库,指定多个数据库需要多个语句。而且,MySQL会将所有的数据库名称改成小写,在指定数据库时必须全部使用小写名字,否则不会起作用。

 

关掉这个功能只需要在他前面加上#号

#log-bin 

 

开启慢查询日志( slow query log ) 慢查询日志对于跟踪有问题的查询非常有用。它记录所有查过long_query_time的查询,如果需要,还可以记录不使用索引的记录。下面是一个慢查询日志的例子:

 

开启慢查询日志,需要设置参数log_slow_queries、long_query_times、log-queries-not-using-indexes。

 

log_slow_queries指定日志文件,如果不提供文件名,MySQL将自己产生缺省文件名。long_query_times指定慢查询的阈值,缺省是10秒。log-queries-not-using-indexes是4.1.0以后引入的参数,它指示记录不使用索引的查询。笔者设置long_query_time=10

 

笔者设置:

sort_buffer_size = 1M 

max_connections=120 

wait_timeout =120 

back_log=100 

read_buffer_size = 1M 

thread_cache=32 

interactive_timeout=120 

thread_concurrency = 4 

 

参数说明:

 

back_log

 

要求MySQL能有的连接数量。当主要MySQL线程在一个很短时间内得到非常多的连接请求,这就起作用,然后主线程花些时间(尽管很短)检查连接并且启动一个新线程。back_log值指出在MySQL暂时停止回答新请求之前的短时间内多少个请求可以被存在堆栈中。只有如果期望在一个短时间内有很多连接,你需要增加它,换句话说,这值对到来的TCP/IP连接的侦听队列的大小。你的操作系统在这个队列大小上有它自己的限制。 Unix listen(2)系统调用的手册页应该有更多的细节。检查你的OS文档找出这个变量的最大值。试图设定back_log高于你的操作系统的限制将是无效的。

 

max_connections

 

并发连接数目最大,120 超过这个值就会自动恢复,出了问题能自动解决

 

thread_cache

 

没找到具体说明,不过设置为32后 20天才创建了400多个线程 而以前一天就创建了上千个线程 所以还是有用的

 

thread_concurrency

#设置为你的cpu数目x2,例如,只有一个cpu,那么thread_concurrency=2 

#有2个cpu,那么thread_concurrency=4 

skip-innodb 

#去掉innodb支持

 

代码:

# Example MySQL config file for medium systems. 

# 

# This is for a system with little memory (32M - 64M) where MySQL plays 

# an important part, or systems up to 128M where MySQL is used together with 

# other programs (such as a web server) 

# 

# You can copy this file to 

# /etc/my.cnf to set global options, 

# mysql-data-dir/my.cnf to set server-specific options (in this 

# installation this directory is /var/lib/mysql) or 

# ~/.my.cnf to set user-specific options. 

# 

# In this file, you can use all long options that a program supports. 

# If you want to know which options a program supports, run the program 

# with the "--help" option. 




# The following options will be passed to all MySQL clients 

[client] 

#password = your_password 

port = 3306 

socket = /tmp/mysql.sock 

#socket = /var/lib/mysql/mysql.sock 

# Here follows entries for some specific programs 




# The MySQL server 

[mysqld] 

port = 3306 

socket = /tmp/mysql.sock 

#socket = /var/lib/mysql/mysql.sock 

skip-locking 

key_buffer = 128M 

max_allowed_packet = 1M 

table_cache = 256 

sort_buffer_size = 1M 

net_buffer_length = 16K 

myisam_sort_buffer_size = 1M 

max_connections=120 

#addnew config 

wait_timeout =120 

back_log=100 

read_buffer_size = 1M 

thread_cache=32 

skip-innodb 

skip-bdb 

skip-name-resolve 

join_buffer_size=512k 

query_cache_size = 32M 

interactive_timeout=120 

long_query_time=10 

log_slow_queries= /usr/local/mysql4/logs/slow_query.log 

query_cache_type= 1 

# Try number of CPU's*2 for thread_concurrency 

thread_concurrency = 4 




#end new config 

# Don't listen on a TCP/IP port at all. This can be a security enhancement, 

# if all processes that need to connect to mysqld run on the same host. 

# All interaction with mysqld must be made via Unix sockets or named pipes. 

# Note that using this option without enabling named pipes on Windows 

# (via the "enable-named-pipe" option) will render mysqld useless! 

# 

#skip-networking 




# Replication Master Server (default) 

# binary logging is required for replication 

#log-bin 




# required unique id between 1 and 2^32 - 1 

# defaults to 1 if master-host is not set 

# but will not function as a master if omitted 

server-id = 1 




# Replication Slave (comment out master section to use this) 

# 

# To configure this host as a replication slave, you can choose between 

# two methods : 

# 

# 1) Use the CHANGE MASTER TO command (fully described in our manual) - 

# the syntax is: 

# 

# CHANGE MASTER TO MASTER_HOST=, MASTER_PORT=, 

# MASTER_USER=, MASTER_PASSWORD= ; 

# 

# where you replace , , by quoted strings and 

# by the master's port number (3306 by default). 

# 

# Example: 

# 

# CHANGE MASTER TO MASTER_HOST='125.564.12.1', MASTER_PORT=3306, 

# MASTER_USER='joe', MASTER_PASSWORD='secret'; 

# 

# OR 

# 

# 2) Set the variables below. However, in case you choose this method, then 

# start replication for the first time (even unsuccessfully, for example 

# if you mistyped the password in master-password and the slave fails to 

# connect), the slave will create a master.info file, and any later 

# change in this file to the variables' values below will be ignored and 

# overridden by the content of the master.info file, unless you shutdown 

# the slave server, delete master.info and restart the slaver server. 

# For that reason, you may want to leave the lines below untouched 

# (commented) and instead use CHANGE MASTER TO (see above) 

# 

# required unique id between 2 and 2^32 - 1 

# (and different from the master) 

# defaults to 2 if master-host is set 

# but will not function as a slave if omitted 

#server-id = 2 

# 

# The replication master for this slave - required 

#master-host = 

# 

# The username the slave will use for authentication when connecting 

# to the master - required 

#master-user = 

# 

# The password the slave will authenticate with when connecting to 

# the master - required 

#master-password = 

# 

# The port the master is listening on. 

# optional - defaults to 3306 

#master-port = 

# 

# binary logging - not required for slaves, but recommended 

#log-bin 




# Point the following paths to different dedicated disks 

#tmpdir = /tmp/ 

#log-update = /path-to-dedicated-directory/hostname 




# Uncomment the following if you are using BDB tables 

#bdb_cache_size = 4M 

#bdb_max_lock = 10000 




# Uncomment the following if you are using InnoDB tables 

#innodb_data_home_dir = /var/lib/mysql/ 

#innodb_data_file_path = ibdata1:10M:autoextend 

#innodb_log_group_home_dir = /var/lib/mysql/ 

#innodb_log_arch_dir = /var/lib/mysql/ 

# You can set .._buffer_pool_size up to 50 - 80 % 

# of RAM but beware of setting memory usage too high 

#innodb_buffer_pool_size = 16M 

#innodb_additional_mem_pool_size = 2M 

# Set .._log_file_size to 25 % of buffer pool size 

#innodb_log_file_size = 5M 

#innodb_log_buffer_size = 8M 

#innodb_flush_log_at_trx_commit = 1 

#innodb_lock_wait_timeout = 50 




[mysqldump] 

quick 

max_allowed_packet = 16M 




[mysql] 

no-auto-rehash 

# Remove the next comment character if you are not familiar with SQL 

#safe-updates 




[isamchk] 

key_buffer = 20M 

sort_buffer_size = 20M 

read_buffer = 2M 

write_buffer = 2M 




[myisamchk] 

key_buffer = 20M 

sort_buffer_size = 20M 

read_buffer = 2M 

write_buffer = 2M 




[mysqlhotcopy] 

interactive-timeout

 

补充

 

优化table_cachetable_cache指定表高速缓存的大小。每当MySQL访问一个表时,如果在表缓冲区中还有空间,该表就被打开并放入其中,这样可以更快地访问表内容。通过检查峰值时间的状态值Open_tables和Opened_tables,可以决定是否需要增加table_cache的值。如果你发现open_tables等于table_cache,并且opened_tables在不断增长,那么你就需要增加table_cache的值了(上述状态值可以使用SHOW STATUS LIKE ‘Open%tables’获得)。注意,不能盲目地把table_cache设置成很大的值。如果设置得太高,可能会造成文件描述符不足,从而造成性能不稳定或者连接失败。对于有1G内存的机器,推荐值是128-256。

 

案例1:该案例来自一个不是特别繁忙的服务器table_cache – 512open_tables – 103opened_tables – 1273uptime – 4021421 (measured in seconds)该案例中table_cache似乎设置得太高了。在峰值时间,打开表的数目比table_cache要少得多。

 

案例2:该案例来自一台开发服务器。table_cache – 64open_tables – 64opened-tables – 431uptime – 1662790 (measured in seconds)虽然open_tables已经等于table_cache,但是相对于服务器运行时间来说,opened_tables的值也非常低。因此,增加table_cache的值应该用处不大。案例3:该案例来自一个upderperforming的服务器table_cache – 64open_tables – 64opened_tables – 22423uptime – 19538该案例中table_cache设置得太低了。虽然运行时间不到6小时,open_tables达到了最大值,opened_tables的值也非常高。这样就需要增加table_cache的值。优化key_buffer_sizekey_buffer_size指定索引缓冲区的大小,它决定索引处理的速度,尤其是索引读的速度。通过检查状态值Key_read_requests和Key_reads,可以知道key_buffer_size设置是否合理。比例key_reads / key_read_requests应该尽可能的低,至少是1:100,1:1000更好(上述状态值可以使用SHOW STATUS LIKE ‘key_read%’获得)。key_buffer_size只对MyISAM表起作用。即使你不使用MyISAM表,但是内部的临时磁盘表是MyISAM表,也要使用该值。可以使用检查状态值created_tmp_disk_tables得知详情。对于1G内存的机器,如果不使用MyISAM表,推荐值是16M(8-64M)。

 

案例1:健康状况key_buffer_size – 402649088 (384M)key_read_requests – 597579931key_reads - 56188案例2:警报状态key_buffer_size – 16777216 (16M)key_read_requests – 597579931key_reads - 53832731案例1中比例低于1:10000,是健康的情况;案例2中比例达到1:11,警报已经拉响。

 

 

分享到:
评论

相关推荐

    从excel模版生成数据库表DDL,excel设计mysql,excel设计表格模板转成mysql表文件,

    "从Excel模版生成数据库表DDL,excel设计mysql,excel设计表格模板转成mysql表文件"这个主题涉及到了一种高效且直观的方法,它允许开发人员或数据库管理员使用熟悉的Excel工具来设计数据库结构,然后自动转换为MySQL...

    MySQL++使用手册

    ### MySQL++ 使用手册知识点概述 #### 一、简介与历史 **MySQL++** 是一个用于在 C++ 应用程序中访问 MySQL 数据库的强大而灵活的接口库。它旨在简化数据库编程并提供易于使用的 API。根据文档介绍,MySQL++ 的...

    MySQL转MSSQL

    标题中的“MySQL转MSSQL”指的是将数据从MySQL数据库迁移至Microsoft SQL Server(MSSQL)的过程。这个过程在数据库管理中很常见,可能是为了业务需求、性能优化或者使用不同平台的应用程序。以下是关于这一转换过程...

    MYSQL 生成C#实体类

    使用MySQL生成C#实体类的好处主要包括: 1. **提高效率**:手动编写每个表的实体类既耗时又容易出错,自动化的生成工具可以大大节省时间。 2. **保持同步**:当数据库表结构发生变化时,如添加或删除字段,只需重新...

    将MSSQL改写为MYSQL的经验

    ### 将MSSQL改写为MYSQL的经验 在IT领域,数据库迁移是一项常见的任务,尤其当企业决定从Microsoft SQL Server(MSSQL)迁移到MySQL时。这种迁移不仅仅是简单的数据转移,还需要对原有的SQL脚本进行调整以适应新...

    Mysql函数手册.rar_MySQL函数手册_VZI_mysql 函数手册

    此外,VZI版的MySQL函数手册可能会有额外的注解、实用技巧和常见问题解答,这些都是作者在实际工作中积累的经验,对于新手和有经验的开发者来说都非常有价值。 在使用手册时,应结合实际的数据库操作环境,通过阅读...

    人大金仓数据库适配mysql

    本文基于长期实践经验和参考资料,旨在为那些需要进行MySQL到KingbaseES迁移工作的朋友提供一份详细的指南。 #### 一、语法差异 **1. 字段定义** - 在人大金仓KingbaseES中,字段定义需要使用双引号 `"`,而不是...

    C开发mysql的api中文手册

    在当今互联网时代,MySQL数据库...总之,这份手册是对MySQL C API一个全面的介绍,无论是初学者还是经验丰富的开发者,都能从这份手册中获取到有价值的信息和知识,进而有效地开发出高质量、高性能的数据库应用程序。

    云时代MySQL数据库的转型实践.pptx

    - MySQL的InnoDB存储引擎使用行级锁,依赖于索引,而在并发性上表现出色,架构更加灵活。 然而,Oracle在一致性、工具丰富度和数据恢复方面具有显著优势,特别是其重做日志机制,能够确保数据的完整性和持久性。 ...

    7天带你玩转Mysql数据库之SQL语句_MYSQL_

    "7天带你玩转Mysql数据库之SQL语句"的学习资料旨在帮助初学者快速掌握MySQL的基础知识,并通过LeetCode的面试题来提升实战技能。本文将深入探讨MySQL中的SQL语句及其在实际操作中的应用。 SQL(Structured Query ...

    MySQL for Database Administrators Student Guide - Volume I

    为了达到MySQL 5.6数据库管理员的专业认证水平,DBA需要对上述内容有深入的理解和实践经验。认证考试通常包括理论知识的测试和可能的实践场景模拟,以确保获得认证的数据库管理员具备在实际工作中应用MySQL的最佳...

    MySQL 5.1参考手册html版

    5. **存储过程和函数**:MySQL 5.1增强了存储过程和自定义函数的创建和管理,允许用户编写复杂的SQL逻辑并重复使用。 6. **复制增强**:MySQL 5.1的复制功能得到了改进,支持主从复制和多线程复制,提高了数据同步...

    mysql学习资料电子书Mysql教程精选

    本资源“mysql学习资料电子书Mysql教程精选”提供了深入学习MySQL的基础和高级概念的重要参考资料,对于初学者和有经验的开发者来说都是极好的学习工具。 1. **MySQL基础** - 数据库概念:了解什么是数据库,以及...

    mysql应用经验 面试

    ### MySQL中文乱码问题及其解决方案 在MySQL应用与开发过程中,中文乱码是一个常见的问题,尤其是在跨平台项目中。由于不同系统平台对字符编码的处理方式存在差异,导致乱码出现的原因多种多样,因此,没有一种万能...

    MySQL_API中文手册

    MySQL是一种广泛使用的开源关系型数据库管理系统(RDBMS),其API(应用程序接口)允许程序员通过编写代码来执行SQL查询,管理数据库,以及实现其他数据库操作。 1. **MySQL API基础**: - MySQL API主要包括C API...

    mysql.rar_MYSQL_mysql c++_mysql sdk

    总的来说,"mysql.rar"压缩包中的资源对学习和使用MySQL C++ SDK非常有帮助,无论是初学者还是经验丰富的开发者,都可以通过这个SDK快速掌握在C++中操作MySQL数据库的技能。记得在实际项目中,根据需求选择合适的...

    MySQL8.0.17安装包

    - 使用`mysqld.cnf`配置文件可以自定义MySQL服务器的行为,如设置最大连接数、内存使用等。 - `mysqladmin`和`mysql`命令行工具可用于管理数据库,如启动、停止服务,创建和管理用户,以及执行SQL查询。 5. **...

    MySQL的安装与使用

    MySQL是一种广泛使用的开源关系型数据库管理系统(RDBMS),它由瑞典MySQL AB公司开发,后来被Oracle公司收购。MySQL以其高效、稳定、易用和跨平台的特性深受开发者喜爱,尤其在Web应用程序开发中占据重要地位。以下...

    mysql5.4.3

    MySQL 5.4.3是MySQL数据库管理系统的一个版本,它属于MySQL 5.4系列,该系列...从源码编译到实际使用,涉及到许多技术细节,包括编译配置、数据库管理、SQL操作以及性能监控等,都需要开发者具备一定的技术背景和经验。

Global site tag (gtag.js) - Google Analytics