MySQL Group Replication(MGR)使用简介与注意事项
MySQL Group Replication(MGR)是MySQL官方在5.7.17版本引进的一个数据库高可用与高扩展的解决方案,以插件形式提供。MGR基于分布式paxos协议,实现组复制,保证数据一致性。内置故障检测和自动选主功能,只要不是集群中的大多数节点都宕机,就可以继续正常工作。提供单主模式与多主模式,多主模式支持多点写入。MGR集群的搭建,参考文章MySQL MGR 集群搭建(单主模式&多主模式)。
相对于传统的MySQL,MGR带来的改进让人激动人心,但是使用MGR也有一些前提条件与注意事项,下面基于 MySQL 8.0.11 版本进行简单说明。
一、MGR使用限制
- 仅支持innodb存储引擎
MGR集群中,只支持innodb存储引擎,能够创建非innodb引擎的表,但是无法写入数据,向非innodb表写数据直接报错。
mysql> create table tb_myisam(id int, name varchar(50), primary key(id)) engine=myisam;
Query OK, 0 rows affected (0.05 sec)
mysql> insert into tb_myisam select 1, '1';
ERROR 3098 (HY000): The table does not comply with the requirements by an external plugin.
- 表必须有主键,或者非Null的唯一键
MGR集群中,只支持innodb引擎的表,并且该表必须有显式的主键,或者非Null的唯一键,否则即使能够创建表,也无法向表中写入数据。
# 创建没有主键的表,写入数据失败
mysql> create table tb_no_primary_key(name varchar(50));
Query OK, 0 rows affected (0.15 sec)
mysql> insert into tb_no_primary_key select '1';
ERROR 3098 (HY000): The table does not comply with the requirements by an external plugin.
# 创建Null唯一索引的表,写入数据失败
mysql> create table tb_null_unique_key(name varchar(50), unique key(name));
Query OK, 0 rows affected (0.09 sec)
mysql> insert into tb_null_unique_key select '1';
ERROR 3098 (HY000): The table does not comply with the requirements by an external plugin.
# 创建非Null唯一索引的表,写入数据成功
mysql> create table tb_no_null_unique_key(name varchar(50) not null, unique key(name));
Query OK, 0 rows affected (0.04 sec)
mysql> insert into tb_no_null_unique_key select '1';
Query OK, 1 row affected (0.06 sec)
Records: 1 Duplicates: 0 Warnings: 0
- 网络限制
MGR 组通信引擎目前仅支持IPv4网络,并且对节点间的网络性能要求较高,低延迟、高带宽的网络是部署MGR集群的基础。 - MGR忽略表锁和命名锁,在MGR中lock tables、unlock tables、get_lock、release_lock等这些表锁和命名锁将被忽略。
- MGR多主模式中,默认不支持 SERIALIZABLE 隔离级别。
- 多主模式下,对同一个对象进行并发的有冲突的ddl和dml操作导致这种冲突在部分成员节点中无法检测到,最终可能导致数据不一致。
- 多主模式下,不支持级联约束的外键,可能造成有冲突的操作无法检测。
- 不支持超大事务。
- 多主模式下可能导致死锁,比如select ...for update在不同节点执行,由于多节点锁无法共享,很容易导致死锁。
- 不支持复制过滤,如果有节点设置了复制过滤,将影响节点间决议的达成。
- MGR最多支持9个节点,大于9个节点,将拒绝新节点的加入。
二、节点配置要求
- log_bin
- log_slave_updates
- binlog_format=ROW
- gtid_mode=ON
- master_info_repository=TABLE
- relay_log_info_repository=TABLE
- transaction_write_set_extraction=XXHASH64
- 并行复制
- slave_parallel_type=LOGICAL_CLOCK
- slave_preserve_commit_order=1
- slave_parallel_workers=[N]
- binlog_checksum=NONE
- transaction_isolation=READ-COMMITTED #官方推荐在MGR中隔离级别设置为RC
三、MGR冲突检测
MGR多主模式下,一个事务在执行时,并不会做前置的检查,但是在提交阶段,会和其他节点通信对该事务是否能够提交达成一个决议。在多个节点同对相同记录的修改,在提交时会进行冲突检测,首先提交的事务将获得优先权。例如对同一条记录的修改,t1事务先于t2事务,那么t1事务在冲突检测后获得执行权,顺利提交,而t2事务进行回滚。显然这种多点写入条件下,对于同一条记录的并发修改,由于大量的回滚,导致性能很低,因此MySQL官方建议,这种对于同一条记录的修改,应该放在同一个节点执行,这样可以利用节点本地锁来进行同步等待,减少事务回滚,提高性能。
四、MGR新节点加入过程
MGR中,新节点申请加入组,会在组中生成一个View_change事件,组内所有online节点将该事件写入到binlog,同时,申请加入组的新节点也会记录这个View_change事件,之后,该节点会进入下面两个阶段。
- 第一阶段,新节点会从组内online的节点中选择一个作为贡献者(donor),通过标准的异步复制通道,拉取贡献者的binlog,并应用这些binlog。与此同时,新节点也会获取当前组内正在交换的事务信息,并将其缓存到队列中,当binlog应用完成,也就是应用到View_change事件处,异步复制通道关闭,进入第二阶段。
- 第二阶段,新节点处理缓存在队列中的组内事务信息,当队列中的事务信息处理完成,即缓存队列长度为0时,新节点在组内状态变为online。
在第一阶段,遇到任何错误,新节点会自动从组内选择另外一个online节点作为贡献者,如果仍然遇到异常,会继续选择其他online节点,直到所有online节点枚举完毕,如果这时仍然报错,会sleep一段时间之后,再次重试,sleep时间和重试次数通过相应参数来控制。
第一阶段,应用binlog的开始点由新节点的gtid_executed决定,结束点由View_change事件决定。MGR新节点加入组的第一阶段,由于使用传统的异步binlog数据同步,如果新加入的节点使用较早的备份,可能出现binlog接不上的情况,新节点一直处于RECOVERING状态,在经过一定时间间隔和一定次数的重试后,恢复失败,新节点从组中退出。另外一种情况,binlog能够接上,但是binlog太多,导致应用binlog时间太长,同时第二阶段缓存队列也可能变得很大,整个恢复过程也将花费太长的时间。因些建议新节点加入组时,使用最近、最新的一次完整备份数据作为基础。
下面附上View_change事件信息和binlog接不上的报错信息。
View_change事件信息:
mysql> show binlog events;
+------------------+-----+----------------+-----------+-------------+--------------------------------------------------------------------+
| Log_name | Pos | Event_type | Server_id | End_log_pos | Info |
+------------------+-----+----------------+-----------+-------------+--------------------------------------------------------------------+
| mysql-bin.000003 | 4 | Format_desc | 1 | 124 | Server ver: 8.0.11, Binlog ver: 4 |
| mysql-bin.000003 | 124 | Previous_gtids | 1 | 191 | aaaaaaaa-aaaa-aaaa-aaaa-aaaaaaaaaaaa:1-18 |
| mysql-bin.000003 | 191 | Gtid | 1 | 269 | SET @@SESSION.GTID_NEXT= 'aaaaaaaa-aaaa-aaaa-aaaa-aaaaaaaaaaaa:19' |
| mysql-bin.000003 | 269 | Query | 1 | 331 | BEGIN |
| mysql-bin.000003 | 331 | View_change | 1 | 470 | view_id=15313080985527991:9 |
| mysql-bin.000003 | 470 | Query | 1 | 538 | COMMIT |
| mysql-bin.000003 | 538 | Gtid | 1 | 616 | SET @@SESSION.GTID_NEXT= 'aaaaaaaa-aaaa-aaaa-aaaa-aaaaaaaaaaaa:20' |
| mysql-bin.000003 | 616 | Query | 1 | 678 | BEGIN |
| mysql-bin.000003 | 678 | View_change | 1 | 817 | view_id=15313080985527991:11 |
| mysql-bin.000003 | 817 | Query | 1 | 885 | COMMIT |
+------------------+-----+----------------+-----------+-------------+--------------------------------------------------------------------+
10 rows in set (0.00 sec)
binlog接不上报错信息
相关推荐
MySQL 8 MGR 集群 MySQL 8 MGR 集群是一种高可用性的数据库解决方案,通过在多个服务器上部署多个 MySQL 实例,实现数据库的高可用性和负载均衡。本文将详细介绍 MySQL 8 MGR 集群的原理、安装、配置和部署。 一、...
/usr/local/mysql-8.0.30-linux-glibc2.12-x86_64/bin/mysqld --defaults-group-suffix=.1 --defaults-file=/home/var/my.cnf --log-output=file --loose-debug-sync-timeout=600 --core-file --loose-mysqlx-port=...
MySQL MGR 真正的技术实战手册--京东数据库技术部
#### 六、注意事项 - MGR最大支持9个节点,超过此数目将拒绝新节点加入。 - 官方推荐节点数量为奇数个,以避免投票平局。 - 表必须有显式主键,否则即使可以建表也无法插入数据。 - 数据库默认字符集应设置为utf8mb...
mysql group replication 安装步骤,动态视图,问题定位,故障处理。
RedHat 7.9 安装 MySQL 8.0 MGR RedHat 7.9 安装 MySQL 8.0 MGR 是一种高可用性的数据库解决方案,它可以提供高性能、可扩展性和高可用性的数据库服务。在本文中,我们将指导您如何在 RedHat 7.9 上安装 MySQL 8.0 ...
MySQL Group Replication(简称MGR)是MySQL官方在2016年12月推出的一个全新的高可用与高扩展的解决方案。MGR提供的MySQL集群服务具有高一致性、高容错性、高扩展性、高灵活性等特点。 高一致性:MGR基于原生复制及...
##### 2.4 注意事项 - 关闭服务器的SELinux和防火墙,或配置防火墙以允许必需的端口通信。 - 所有节点的操作系统和硬件配置应保持一致。 #### 三、服务器优化配置 为了更好地支持MySQL集群的运行,需要对服务器的...
文档内容:概念、二进制安装MySQL、对库的操作、对表的操作、表结构操作、表的插入、修改和删除记录、约束、查询、条件查询、函数、分组...以及高级应用的MySQL主从架构、读写分离、cluster集群、mgr集群、MHA高可用。
MySQL Group Replication(MGR)是MySQL官方在5.7.17版本引进的一个数据库高可用与高扩展的解决方案,以插件形式提供,实现了分布式下数据的最终一致性,总结MGR特点如下: 高一致性:基于分布式paxos协议实现组...
MySQL Group Replication (MGR) 是一种用于MySQL数据库的高...总的来说,理解并熟练掌握MGR的单主多主模式切换是确保MySQL集群稳定性和可用性的重要一环。正确配置和管理MGR,能够为业务提供高效、可靠的数据库服务。
mysql5.7.35 mgr集群详细搭建文档,并配置mysqlrouter,保障故障的自动转移
MySQL MGR,全称为MySQL Group Replication,是MySQL 5.7版本引入的一个高可用性和高扩展性的插件。它的核心目标是解决传统异步复制和半同步复制中可能出现的数据一致性问题,提供一种更为可靠的数据复制解决方案。...
安装基于Ansible的MySQL MGR+VIP自动切换,可用于5.7和8版本.0版本_mgr-installer
MySQL Group Replication (MGR) 是MySQL官方在2016年12月推出的一种创新的高可用性和高扩展性的解决方案。它旨在提供一个高一致性、高容错性、高可扩展性和高度灵活的MySQL集群服务。MGR是MySQL数据库未来发展的关键...
### 注意事项 - 在配置MGR时,主节点和从节点需要根据实际情况调整配置文件中的参数。 - 确保所有节点上的配置文件与角色一致,并且配置正确无误。 - MGR配置过程中的网络配置部分需要特别注意,以确保集群内的节点...
MySQL MGR组复制技术是MySQL数据库提供的一种高可用性解决方案,它通过在多个节点之间同步数据,确保在任何单个节点出现故障时,集群能够自动切换到其他健康节点,从而保持服务的连续性和数据的一致性。这个"MySQL ...
MySQL 8.0.x 版本升级和MGR(Group Replication)恢复是数据库管理员在维护高可用性集群时常见的任务。以下是对标题和描述中涉及的知识点的详细说明: ### MySQL 8.0.x 升级过程 1. **数据备份**:在升级前,确保对...
### 深入理解MySQL Group Replication #### 背景与定义 MySQL Group Replication是一种高可用性和可扩展性的解决方案,它通过在多个MySQL服务器之间自动同步数据来确保数据的一致性和可用性。该技术自MySQL 5.7.17...