`
shootyou
  • 浏览: 84473 次
  • 性别: Icon_minigender_1
  • 来自: 长沙
社区版块
存档分类
最新评论

MySQL 主从同步操作文档

阅读更多

 

MySQL 主从同步操作文档

取自 NSOP-WIKI

目录

1 同步原理说明

2 同步设置基本步骤(以下设置均涉及my.cnf文件的修改)

2.1 设置主服务器:启用bin-log日志、同步帐号

2.2 设置从服务器:设置需要同步的内容

2.3 拷贝主服务器数据到从服务器

2.3.1 方式1:停止主服务器或其中一台从服务器并拷贝数据

2.3.2 方式2:在主服务器或其中一台从服务器上设置锁,禁止一切读写操作并拷贝数据

2.4 启动同步

3 实例参考:

4 FAQ

1 同步原理说明

MySQL的Replication基于主服务器在二进制日志中跟踪所有对数据库的更改(更新、删除等)。

MySQL使用3个线程来完成Replication工作,具体分布是主上1个相关线程、从上2个相关线程;

主的相关线程可以理解为主服务器上SHOW PROCESSLIST的输出中的Binlog Dump线程、从服务器分别为IO和SQL线程;

主服务器创建将binlog中的内容发送到从服务器。从服务器I/O线程读取主服务器Binlog Dump线程发送的内容并将该数据拷贝到从服务器数据目录中的中继日志文件(relay-log)里,SQL线程用于读取中继日志并执行日志中包含的更新。

MySQL的Replication是单向,异步同步

MySQL同步机制基于master把所有对数据库的更新、删除等)都记录在二进制日志里。因此,想要启用同步机制,在master就必须启用二进制日志。每个slave接受来自master上在二进制日志中记录的更新操作,因此在slave上执行了这个操作的一个拷贝。应该非常重要地意识到,二进制日志只是从启用二进制日志开始的时刻才记录更新操作的。所有的 slave必须在启用二进制日志时把master上已经存在的数据拷贝过来。如果运行同步时slave上的数据和master上启用二进制日志时的数据不一致的话,那么slave同步就会失败。把master上的数据拷贝过来的方法之一实在slave上执行 LOAD DATA FROM MASTER 语句。不过要注意,LOAD DATA FROM MASTER 是从MySQL 4.0.0之后才开始可以用的,而且只支持master上的 MyISAM 类型表。同样地,这个操作需要一个全局的读锁,这样的话传送日志到slave的时候在master上就不会有更新操作了。当实现了自由锁表热备份时(在 MySQL 5.0中),全局读锁就没必要了。由于有这些限制,因此我们建议只在master上相关数据比较小的时候才执行 LOAD DATA FROM MASTER 语句,或者在master上允许一个长时间的读锁。由于每个系统之间 LOAD DATA FROM MASTER 的速度各不一样,一个比较好的衡量规则是每秒能拷贝1MB数据。这只是的粗略的估计,不过master和slave都是奔腾700MHz的机器且用 100MBit/s网络连接时就能达到这个速度了。slave上已经完整拷贝master数据后,就可以连接到master上然后等待处理更新了。如果 master当机或者slave连接断开,slave会定期尝试连接到master上直到能重连并且等待更新。重试的时间间隔由 --master-connect-retry 选项来控制,它的默认值是60秒。每个slave都记录了它关闭时的日志位置。master是不知道有多少个slave连接上来或者哪个slave从什么时候开始更新。

MySQL同步功能由3个线程(master上1个,slave上2个)来实现。执行 START SLAVE 语句后,slave就创建一个I/O线程。I/O线程连接到master上,并请求master发送二进制日志中的语句。master创建一个线程来把日志的内容发送到slave上。这个线程在master上执行 SHOW PROCESSLIST 语句后的结果中的 Binlog Dump 线程便是。slave上的I/O线程读取master的 Binlog Dump 线程发送的语句,并且把它们拷贝到其数据目录下的中继日志(relay logs)中。第三个是SQL线程,salve用它来读取中继日志,然后执行它们来更新数据。如上所述,每个mster/slave上都有3个线程。每个 master上有多个线程,它为每个slave连接都创建一个线程,每个slave只有I/O和SQL线程。在MySQL 4.0.2以前,同步只需2个线程(master和slave各一个)。slave上的I/O和SQL线程合并成一个了,它不使用中继日志。slave上使用2个线程的优点是,把读日志和执行分开成2个独立的任务。执行任务如果慢的话,读日志任务不会跟着慢下来。例如,如果slave停止了一段时间,那么 I/O线程可以在slave启动后很快地从master上读取全部日志,尽管SQL线程可能落后I/O线程好几的小时。如果slave在SQL线程没全部执行完就停止了,但I/O线程却已经把所有的更新日志都读取并且保存在本地的中继日志(relay-log)中了,因此在slave再次启动后就会继续执行它们了。这就允许在 master上清除二进制日志,因为slave已经无需去master读取更新日志了。执行 SHOW PROCESSLIST 语句就会告诉我们所关心的master和slave上发生的情况。

2 同步设置基本步骤(以下设置均涉及my.cnf文件的修改)

2.1 设置主服务器:启用bin-log日志、同步帐号

server-id = n #设置ID

log-bin #启用bin-log记录,如需要指定binlog文件名,可使用如下语法

#log-bin=binlog #binlog文件名为binlog.0,binlog.1……

set-variable=binlog-ignore-db=mysql #不记录数据库mysql的更新日志

binlog-do-db = #记录指定的数据库的更新日志,还可以单独处理只更新表内容

此外,需要注意两个环境变量:

innodb_flush_log_at_trx_commit=1 #Default: 1。在使用了事务的数据库中,强烈建议该值显式的设置为1,以确保在每个事务提交时,日志缓冲被写到日志文件,并将该写操作同步到磁盘上

sync_binlog=1 #在每进行1次binlog写操作后就将该操作同步到硬盘上。设为更高的值可以有效降低io并获得更好的性能,但会增加bilog丢失的风险

为从服务器上的同步帐号授权:

mysql>GRANT REPLICATION SLAVE ON *.* TO 同步帐号的用户名@从服务器ip地址 IDENTIFIED BY '同步帐号的密码';

如果想要从服务器上有权限执行”LOAD TABLE FROM MASTER”和”LOAD DATA FROM MASTER”还需要增加”FILE”和”SELECT”权限;

2.2 设置从服务器:设置需要同步的内容

server-id = n #设置ID

master-host = #设置主服务器的ip

master-user = #设置同步帐户的用户名

master-password = #设置同步帐户的密码

master-port = #设置TCP/IP端口,默认为3306

set-variable=replicate-ignore-db=mysql #设置忽略的同步数据库名

set-variable=replicate-db-db= #设置同pass_adm步的数据库名若需要单独设置可以针对表级设置的数据多个,请设置多次

这里的设置可以在后面登陆进从数据库之后用CHANGE MASTER TO来修改。

2.3 拷贝主服务器数据到从服务器

2.3.1 方式1:停止主服务器或其中一台从服务器并拷贝数据

在需要拷贝数据的服务器上停止mysqld,完全停止服务。如果是从服务器,则需要在停止mysqld之前,停止同步进程。

mysql>stop slave;

$mysqladmin -uroot -p shutdown

确认mysqld停止之后,将其中的数据文件ib*,master.info需要同步的数据库目录和其他相关文件拷贝到新机器上。binlog和relay-log不用拷贝

2.3.2 方式2:在主服务器或其中一台从服务器上设置锁,禁止一切读写操作并拷贝数据

在主服务器上执行:

mysql>FLUSH TABLES WITH READ LOCK;

导出数据到从数据库(可以使用tar、scp、mysqldump等方式,此处实现比较灵活):

$cd ~/mysql/

$tar zcvf var.tar.gz var/ #数据目录可能不为var目录

然后是拷贝此var.tar.gz包到从服务器并解压缩到相应目录

在主服务器上执行:

mysql>UNLOCK TABLES;

说明: 拷贝主服务器的数据到从服务器的实现方式太多:可以直接停止mysqld程序拷贝数据、可以直接tar方式打包处理、可以直接scp方式处理、可以直接导出相应表结构等,具体实现方式看具体应用,适而择之,主要保证在拷贝数据的时候没有数据写入和更改即可

2.4 启动同步

启动从数据库的mysqld,推荐使用--skip-slave-start启动,进入mysql后再start slave启动同步。

说明: 通常使用的mysqld_safe会记住启动时的参数,例如--skip-slva-start。如果从库因为意外原因重启,且该数据库启动的时候使用了mysqld_safe --skip-slave-start,则需要手工启动同步进程,否则同步进程会始终处于停止状态

从服务器上执行:

mysql>SHOW SLAVE STATUS

若Slave_IO_Running 和 Slave_SQL_Running 两行的值都为 "Yes",这表明 Slave 的 I/O 和 SQL 线程都在正常运行。

说明: 推荐使用CHANGE MASTER TO 语句进行同步参数设置; 具体参照help change master to,语法如下:

master_def:aster_def [, master_def] ...

master_def:

MASTER_HOST = 'host_name'

MASTER_USER = 'user_name'

MASTER_PASSWORD = 'password'

MASTER_PORT = port_num

MASTER_CONNECT_RETRY = count

MASTER_LOG_FILE = 'master_log_name'

MASTER_LOG_POS = master_log_pos

RELAY_LOG_FILE = 'relay_log_name'

RELAY_LOG_POS = relay_log_pos

MASTER_SSL = {0|1}

MASTER_SSL_CA = 'ca_file_name'

MASTER_SSL_CAPATH = 'ca_directory_name'

MASTER_SSL_CERT = 'cert_file_name'

MASTER_SSL_KEY = 'key_file_name'

MASTER_SSL_CIPHER = 'cipher_list'

3 实例参考:

主数据库A的my.cnf配置:

server-id = 1 #设置ID

log-bin #启用bin-log记录

binlog-do-db = iknow #记录指定库的binlog更新记录,每个数据库一行

binlog-do-db = iknow_adm

binlog-do-db = ...

现在,新搭建一个从数据库B。需要进行如下步骤

1.修改配置文件: 修改my.cnf,加入如下项:

server-id = 2 #指定server id,每台机器的id必须保证唯一

log-bin #启用binlog记录

master-connect-retry = 60 #连接主库的重试间隔

master-host = xxx.xxx.xxx.xxx #指定主库A的IP,不能用虚IP

master-port = 3306 #指定主库端口

master-user = rep #指定同步用户的用户名为replication

master-password = rep #指定同步用户的密码为PassWORd

replicate-do-db = iknow #指定需要同步的库,每个库独占一行

replicate-do-db = iknow_adm

replicate-do-db = ...

log-slave-updates #在从库上对同步进行日志记录,磁盘占用量较大,建议从库运行稳定后将其去除,如要作为第二层主数据库,则此项必须

这里的设置可以在后面登陆进从数据库之后用CHANGE MASTER TO来修改。

2.拷贝数据:从一台从数据库C拷贝数据到B 从数据库没有对外提供服务,因此可以直接停掉从数据库拷贝数据。

注意:

停从数据库的时候需要显式的执行stop slave,并执行show slave status,确认Read_Master_Log_Pos和Exec_Master_Log_Pos一致,再执行mysqladmin -uroot -p shutdown停掉mysqld。

mysql>stop slave;

mysql>show slave status

确认Read_Master_Log_Pos和Exec_Master_Log_Pos一致

$ mysqladmin -uroot -p shutdown

待mysqld完全退出后,将var目录下的ib*,master.info,以及需要同步的库cp到本地目录var.$DATE下(主要是为了缩短C上mysqld的服务停止时间)

$ cd $MYSQL/var; mkdir ../var.$DATE

$ cp -r ib* iknow iknow_adm master.info ../var.$DATE/

$ scp $MYSQL/var.$DATE B:~/mysql

3.在主数据库上为一台从库授权同步

mysql>GRANT REPLICATION SLAVE ON *.* TO replication@B机器的ip地址 IDENTIFIED BY 'Password;

4.在B上启动mysqld

$ mysqld_safe –-skip-slave-start &

5.进入mysql观察slave status

mysql> show slave status

6.观察master.info和relay-log.info

$ cat $MYSQL/master.info

$ cat $MYSQL/relay-log.info

在这里不需要change master一步是因为master.info中已记录了master_log_file和master_log_pos等相关信息。这是一种比较保险而且简单的办法

7.复查确认my.cnf中replication slave配置正确如果master.info文件存在的话,mysql是优先读取它的,但在某些情况下,比如mysqld异常重启等,有可能会读取my.cnf中配置,因此需要保证my.cnf中的replication slave配置正确 由于mysqld在正常情况下优先读取master.info,因此,在主数据库上一定要保证master.info是不存在的,否则可能出现不可预知的后果。

8. CHANGE MASTER TO语句这是用于在mysql命令行中显式的更改主库的语句。在mysql命令行中执行

mysql> help change master to

可获得关于这条语句的详细信息。如果在进行主从数据库切换后,或需要临时更改主库,而又不想重启数据库的时候,可以使用如下语句动态的更改主库:

mysql> CHANGE MASTER TO MASTER_HOST=xxx.xxx.xxx.xxx, MASTER_USER='replication', MASTER_PASSWORD='Password', MASTER_LOG_FILE='master-binlog.00001', MASTER_LOG_POS='123456';

以上语句各项含义如下:

MASTER_HOST主库的机器名或IP地址

MASTER_USER主库为从库授权的同步帐号

MASTER_PASSWORD主库为从库授权的同步帐号密码

MASTER_LOG_FILE主库的binlog文件名

MASTER_LOG_POS主库的binlog文件偏移

MASTER_LOG_FILE和MASTER_LOG_POS两项需要在启动主库之前执行show master status记录下来,并且必须保证准确无误,否则会出现同步失败的情况。

4 FAQ

1. scp了整个var目录到新的从库,start slave后,发现同步无法正常进行,Slave_IO_Running正常,但Slave_SQL_Running的状态为No,并且mysql错误日志中报找不到一个releylog文件

答:这是由于reley-log.info文件的存在造成的,它记录了数据库当前正在使用的relaylog,而mysql默认的relaylog命名是以机器名命名的,因此如果从一台机器拷贝到另一台机器,它是找不到这个文件的。如果可以确认Read_Master_Log_Pos和Exec_Master_Log_Pos一致,那么可以直接将relay-log.info删除,重启mysqld,再start slave就可以解决。

2. start slave后, Slave_IO_Running和Slave_SQL_Running的状态都为No,并且日志中报类似“Slave I/O thread: Failed reading log event, reconnecting to retry, log 'tc-nsop-test00-bin.000177' position 1019586208”的错误

答:这是由于主库对从库的同步帐号授权不正确造成的,更改并确认授权正确之后,重新start slave,就可以正常同步。

3. 如果错误日志中出现如下提示“Warning: You should set server-id to a non-0 value if master_host is set; we force server id to 2, but this MySQL server will not act as a slave.”,并且 Slave_IO_Running和Slave_SQL_Running的状态都为No

答:检查主库的my.cnf,这样的错误是由于没有设置主库的server id或者server id不合法造成的。更改主库server id并重启主库后,start slave,同步可以恢复正常。

4. 如果Slave_SQL_Running状态为No,并且错误日志中有类似“Error 'Lock wait timeout exceeded; try restarting transaction' on query. Default database: ……”这样的错误

答:这是由于同步某个行的时候恰好遇到有其他SQL进程对该行进行了锁定,并且锁定时间较长导致同步进程等待超时。直接start slave即可。

5. 同时启动多台从库的同步进程对主库有什么影响

答:通常情况会导致主库的io和网卡流量增加。MySQL的Binlog Dump进程是没有限速的,因此会全速进行binlog读取和数据分发,给主库带来较大的负担。在实际操作中,尽量依次启动从库,并在启动后观察主库io,确保Binlog Dump进程读取完binlog后,再启动下一台。

取自"http://zhiwen.baidu.com/wiki/index.php/MySQL_%E4%B8%BB%E4%BB%8E%E5%90%8C%E6%AD%A5%E6%93%8D%E4%BD%9C%E6%96%87%E6%A1%A3"

转自:http://hi.baidu.com/xinghoney/blog/item/86fe532bfda3e4f3e7cd40f0.html

分享到:
评论

相关推荐

    MySQL主从同步配置过程.docx

    MySQL 主从同步配置过程 一、 MySQL 主从同步配置概述 MySQL 主从同步配置是指将 MySQL 数据库的数据从一台服务器(主服务器)同步到另一台服务器(从服务器)的过程。这种配置可以实现数据的高可用性和灾难恢复,...

    12.1: MySQL主从同步 、 主从同步模式 、 总结和答疑.docx

    MySQL主从同步配置和实现 MySQL主从同步是指将一个MySQL服务器的数据实时地复制到另一个或多个服务器上,以实现数据的高可用性和灾难恢复。这种方式可以实现数据的热备援、读写分离、负载均衡等功能。 1. 案例 1:...

    Linux配置mysql主从同步

    ### Linux下MySQL主从同步配置详解 #### 一、引言 在数据库管理领域,MySQL主从同步是一种常见的数据复制技术,它可以帮助我们构建高可用性和数据冗余性,从而提高系统的稳定性和可靠性。本文将详细介绍如何在Linux...

    Linux-Mysql主从同步配置

    Linux-Mysql 主从同步配置 本文将详细解释 Linux-Mysql 主从同步配置的步骤和知识点。 一、主服务器配置 1. 编辑数据库配置文件 my.cnf, 一般在/etc/目录下。 2. 在[mysqld]下面加入以下代码: * log-bin=mysql...

    mysql主从同步搭建修改优化版.pdf

    MySQL主从同步是一种常见的数据库高可用性和数据冗余策略,它允许数据在多个服务器之间实时复制,确保即使在一台服务器故障时,数据仍然可以被访问。以下是对搭建、修改和优化MySQL主从同步过程的详细解释: 1. **...

    Mysql主从同步备份策略

    Mysql主从同步备份策略 五月 18th, 2009 at 17:30 - 3,803 views 环境: 主从服务器上的MySQL数据库版本同为5.1.34 主机IP:192.168.0.1 从机IP:192.168.0.2 一. MySQL主服务器配置 1.编辑配置文件/etc/my.cnf # ...

    windows下mysql主从同步备份步骤

    在Windows环境下,MySQL主从同步备份是一种常见的高可用性和数据冗余策略,确保数据的安全性和一致性。以下是详细步骤,适用于MySQL 5.0版本: 1. **创建备份账户**: 在主服务器A上,我们需要创建一个用于复制的...

    MySql主从同步监控程序源码

    MySQL主从同步是数据库高可用性和数据一致性的关键机制,特别是在大型分布式系统中。这个名为"MySql主从同步监控程序源码"的项目是用C#语言开发的,旨在帮助管理员实时监控MySQL数据库的主从复制状态,确保数据在...

    mysql主从同步配置

    - MySQL主从同步基于异步复制机制,主服务器上的写操作先执行,然后将变更记录到二进制日志(binlog)。 - 从服务器通过网络连接定期读取主服务器的binlog,将其内容复制到自己的中继日志(relay log)。 - 中继...

    部署mysql主从同步结构操作指引文档.rar

    部署mysql主从同步结构操作指引及工具软件 1、数据库安装包:mysql-5.7.32-winx64.zip 2、数据库客户端:SQLyog 8.14.rar 3、说明文档:部署mysql主从同步结构操作指引文档.doc

    mysql主从同步和一台服务器两个mysql

    MySQL 主从同步和一台服务器两个 MySQL MySQL 主从同步是指将一个 MySQL 服务器的数据实时地复制到另一个 MySQL 服务器上,以提高数据库的高可用性和灾难恢复能力。在本文中,我们将详细介绍如何在一台服务器上配置...

    mysql主从同步及canal配置详解.docx

    MySQL 主从同步及 Canal 配置详解 MySQL 主从同步是指将一个 MySQL 服务器的数据实时同步到另一个 MySQL 服务器上,以保证数据的一致性和高可用性。该技术主要基于 binlog 技术,下面将详细介绍 MySQL 主从同步的...

    Debian系统下MySQL主从同步复制

    ### Debian系统下MySQL主从同步复制 在Debian系统中实现MySQL主从同步复制是一种常见的数据库高可用性和负载均衡策略。这种技术可以确保数据的安全性并提高系统的整体性能。接下来,我们将详细介绍如何在Debian环境...

    Mysql主从半同步配置

    MySQL主从半同步复制是介于异步复制和全同步复制之间的一种模式,它提供了更好的数据安全性和一致性,同时也尽可能地减少了性能损失。 首先,我们来了解一下什么是MySQL半同步复制。在半同步复制模式下,主服务器在...

    win系统下的mysql主从同步配置

    在Windows操作系统下配置MySQL主从同步涉及多个步骤,以下将详细解读配置的原理、步骤、优缺点等内容。 MySQL主从同步原理: MySQL主从同步的核心在于主库(Master)记录更改操作的二进制日志(binlog),从库...

    MySQL 主从同步 、 MySQL 读写分离 、 MySQL 性能调优 、 总结和答疑

    在 MySQL 主从同步中,主服务器是负责写操作的服务器,而从服务器是负责读操作的服务器。主服务器将数据写入到自己的日志文件中,然后将日志文件复制到从服务器上,从服务器然后将日志文件应用到自己的数据库中。 ...

    MySQL主从同步与读写分离配置图文详解

    ### MySQL主从同步与读写分离配置详解 #### 一、实验目的 在现代的生产环境中,单一的MySQL服务器往往无法满足对数据处理的安全性、高可用性和高并发的需求。因此,采用**主从同步(Master-Slave Replication)**...

Global site tag (gtag.js) - Google Analytics