`
丁林.tb
  • 浏览: 798382 次
  • 性别: Icon_minigender_1
  • 来自: 杭州
社区版块
存档分类
最新评论

MySQL源码学习:ib_logfile、bin-log与主从同步

阅读更多

    今天研究MySQL主从同步的同事问了一个问题,如果InnoDB写完ib_logfile后,服务异常关闭。会不会由于主库能够根据ib_logfile恢复数据,而由于bin-log没写导致从库同步时少了这个事务?或者反之,bin-log写成功,而ib_logfile没有写完,导致从库执行事务,而主库不执行? 这会导致主从不一致。

本文简要说明下这个问题。

 

1、              写入流程

源码sql/handler.cc:

ha_commit_trans

{

 

  if ((err= ht->prepare(ht, thd, all)))

 

  tc_log->log_xid(thd, xid)

 

  error=ha_commit_one_phase(thd, all)

}

说明:

实际上ib_logfile的两步写策略避免了上述的两个问题。流程大致如下:

a)        [ib_logfile] 写入当前事务的更新数据,并标志为事务准备(trx_prepare).

b)        写入bin-log

c)        [ib_logfile] 当前事务提交结束(trx_commit)

 

2、              恢复流程

实际上,若ib_logfile已经写入trx_prepare,则在恢复过程中,会根据bin-log中该事务是否存在来恢复数据(见函数xarecover_handlerton)。

流程如下(sql/handler.cc

xarecover_handlerton

{

  sql_print_information("Found %d prepared transaction(s) in %s",                             got, ha_resolve_storage_engine_name(hton));

  foreach (trx)

  {

If (found in bin-log)

{

  sql_print_information("commit xid %s", xid_to_str(buf, info->list+i));

  hton->commit_by_xid(hton, info->list+i);

}

Else

{

sql_print_information("rollback xid %s",xid_to_str(buf, info->list+i));

hton->rollback_by_xid(hton, info->list+i);

}

}

}

说明:从启动日志中能够看到上述代码输出的日志。

    假设在阶段a)结束之后程序异常, 此时没有写入bin-log 则从库不会同步这个事务。 主库上,在重启之后,从恢复日志中这个事务没有trx_commit,因此会被回滚。 逻辑上主从库都不会执行这个事务。

    假设在阶段b)结束后程序异常,此时bin-log已经写入,则从库会同步这个事务。 主库上,根据恢复日志和bin-log,也能够正常恢复此事务。

也就是说,若bin-log写入完成,则主从库都会正常完成事务;bin-log没有写入,则主从库都回滚事务。不会出现主从不一致的问题。

 

3、              操作系统崩溃造成的不一致

上述的流程并不是天衣无缝的。ib_logfile的写盘是能够被设置成非实时flush的。假设在bin-log写入完成后,系统崩溃,则可能出现这样的情况:bin-log写入所以从库能够执行事务。但主库中trx_prepare的日志没有被写入到ib_logifle中,导致主库不执行事务。这样就会出现主从不一致的情况。

解决方案:增加启动检测,将ib_logfile中不存在的事务,从bin-log删除掉。这样主从库都不执行此事务。

3
0
分享到:
评论
5 楼 lidayu_up 2012-10-07  
谢谢你的回答,
4 楼 丁林.tb 2012-09-29  
lidayu_up 写道
你好,丁林,这看到这文章有个疑问:mysql在恢复的时候只要根据ib_logfile就可以确定哪些已经commit 哪些没有commit,从而产生相应的commit或者rollback动作,为什么恢复的时候还要看binlog呢?是不是没有这个必要

要考虑这种情况: redo第一段写完成,binlog写完成,redo第二段没写就crash了。此时是要认为事务成功的,就redo第一段+binlog来确认
3 楼 lidayu_up 2012-09-29  
你好,丁林,这看到这文章有个疑问:mysql在恢复的时候只要根据ib_logfile就可以确定哪些已经commit 哪些没有commit,从而产生相应的commit或者rollback动作,为什么恢复的时候还要看binlog呢?是不是没有这个必要
2 楼 丁林.tb 2011-11-22  
huadaonan 写道
有点不太清楚,按照文章中写的意思就是说 事务没有提交之前就写bin-log了?但我做实验发现依然还是commit以后才会记录bin-log 啊,还是
"bin-log没有写入,则主从库都完成事务" 这句话没太明白,可以解释一下吗

你的实验没错:)
我这句话笔误了。
这句话和上下文不符,已经修改,多谢。
1 楼 huadaonan 2011-11-21  
有点不太清楚,按照文章中写的意思就是说 事务没有提交之前就写bin-log了?但我做实验发现依然还是commit以后才会记录bin-log 啊,还是
"bin-log没有写入,则主从库都完成事务" 这句话没太明白,可以解释一下吗

相关推荐

    ib_logfile0

    ib_logfile0ib_logfile0ib_logfile0

    Mysql启动中 InnoDB: Error: log file ./ib_logfile0 is of different size 0 5242880 bytes 的问题

    当遇到"InnoDB: Error: log file ./ib_logfile0 is of different size 0 5242880 bytes"这样的错误时,通常意味着InnoDB的日志文件大小与MySQL配置文件中设置的大小不匹配。 InnoDB的日志文件通常以`ib_logfile0`和...

    mysql 有关“InnoDB Error ib_logfile0 of different size”错误

    当遇到"InnoDB Error ib_logfile0 of different size"错误时,意味着MySQL在启动时检测到当前的InnoDB日志文件(ib_logfile0和ib_logfile1)的大小与配置文件(my.cnf)中指定的大小不匹配,这可能导致数据库无法...

    sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz

    通过 Sqoop,用户可以将大规模的数据从 RDBMS(如 MySQL、Oracle、SQL Server 等)批量导入到 HDFS(Hadoop 分布式文件系统),或者将 HDFS 中处理后的数据导回 RDBMS,以供其他业务系统使用。这大大提高了数据迁移...

    ERROR: Error in Log_event::read_log_event()

    在MySQL数据库环境中,`Log_event::read_log_event()` 错误通常表示在解析二进制日志(binlog)时遇到了问题。二进制日志是MySQL用来记录所有更改数据库结构或数据的非临时事件的重要工具,对于主从复制、故障恢复等...

    MySQL主从配置完整步骤资料

    -> MASTER_LOG_FILE = 'mysql-bin.000001', -> MASTER_LOG_POS = 106; ``` - **说明**: 上述命令指定了从服务器连接到主服务器的方式以及开始复制的位置。 **2.6 启动从服务器复制** - **命令**: ```sql ...

    MySQL主从同步配置过程.docx

    change master to master_host='192.168.147.133', master_port=3306, master_user='root', master_password='root', master_log_file='mysql-bin.000003', master_log_pos=0; ``` ### 4. 启动同步进程 启动从...

    mysql2_query_filter-plugin-casual_log:为 Mysql2QueryFilter 的错误查询着色的插件

    Mysql2QueryFilter::Plugin::CasualLog 为的错误查询着色的。 它是移植。 见 安装 将此行添加到应用程序的 Gemfile 中: gem 'mysql2_query_filter-plugin-casual_log' 然后执行: $ bundle 或者自己安装: ...

    Linux-Mysql主从同步配置

    5. 登录 MySQL 服务器,执行以下命令:`CHANGE MASTER TO MASTER_HOST='X.X.X.X', MASTER_USER='user', MASTER_PASSWORD='password', MASTER_PORT=3306, MASTER_LOG_FILE='mysql-bin.000001', MASTER_LOG_POS=98, ...

    CentOs7下mysql5.7的下载安装以及主从同步、双主多从配置详情

    最后,使用 yum install 命令安装 Mysql,命令为 yum install mysql-community-server。\ 配置 Mysql 首先,需要配置 my.cnf 文件,以便设置 Mysql 的编码和绑定 IP 地址。使用 vi /etc/my.cnf 命令打开 my.cnf ...

    docker-compose搭建mysql主从环境.md

    docker-compose搭建mysql主从环境.md

    MySQL不停机不锁表主从同步与读写分离配置

    MASTER_LOG_FILE='mysql-bin.000458', MASTER_LOG_POS=1022022953; ``` - **启动主从同步**: ```sql START SLAVE; ``` - **检查从服务器状态**: ```sql SHOW SLAVE STATUS \G ``` #### 五、读写分离...

    docker-compose关于mysql主从复制一键搭建脚本

    关于博客: https://blog.csdn.net/qq_42413011/article/details/126914080 的搭建脚本

    开启bin-log日志mysql报错的解决方法

    在MySQL中,bin-log(二进制日志)是一个关键特性,用于记录所有改变数据库状态的语句,以便于数据恢复、主从复制等场景。然而,在开启bin-log时,可能会遇到一些问题,比如在创建存储过程时出现的错误:`ERROR 1418...

    MySQL编译安装、主从复制的配置(CentOS-6.6+MySQL-5.6)

    6. **设置从服务器复制**:在从服务器上执行`CHANGE MASTER TO MASTER_HOST='主服务器IP', MASTER_USER='复制用户', MASTER_PASSWORD='复制用户密码', MASTER_LOG_FILE='mysql-bin.000001', MASTER_LOG_POS=123456;...

    Mysql主从同步备份策略

    Mysql主从同步备份策略 五月 18th, 2009 at 17:30 - 3,803 views 环境: 主从服务器上的MySQL数据库版本同为5.1.34 主机IP:192.168.0.1 从机IP:192.168.0.2 一. MySQL主服务器配置 1.编辑配置文件/etc/my.cnf # ...

    MYSQL主从同步实战

    Mysql> CHANGE MASTER TO MASTER_HOST='10.240.136.9', MASTER_USER='tongbu', MASTER_PASSWORD='123456', MASTER_LOG_FILE='mysql-bin.000001', MASTER_LOG_POS=107; Mysql> START SLAVE; ``` 以上步骤完成后,...

    :innodb_flush_log_at_trx_commit 和 sync_binlog1

    首先,`innodb_flush_log_at_trx_commit` 参数是 InnoDB 存储引擎特有的,它控制着事务日志(redo log 和 undo log)何时以及如何被刷新到磁盘上的 ib_logfile 文件。此参数有三个可选值: 1. 当设置为 0 时,...

Global site tag (gtag.js) - Google Analytics