`
xiaoyao8903
  • 浏览: 22038 次
  • 性别: Icon_minigender_1
  • 来自: 深圳
文章分类
社区版块
存档分类
最新评论

实现MySql延迟复制,高逼格的数据库操作(二)

 
阅读更多

昨天我讲了mysql的主从单双向复制,有人提出说讲一下主从单双向复制的优缺点,还有关于双向复制中唯一主键冲突问题。今天我就稍微的在最后补充一下,我可能补充的不是很好,更多的我希望各位去自己手动实践一下,然后在实践中发现归纳这些优缺点,在实践中掌握这一个技能。如果单纯的是我说,我明白了,你明白吗?

今天主要还是讲一下关于实现双向主从复制之后,我们一般都会进一步实现的延迟复制,为什么要延迟复制,我在我的25讲最后有提到,大家有疑问的可以翻一翻。另外补充一下如何实现一主多从和多个互为主的原理。mysql的读写分离我应该会放到明天讲。

《第27天》实现MySql延迟复制,高逼格的数据库操作(二)

《第27天》实现MySql延迟复制,高逼格的数据库操作(二)

开班第二十七天:

今天的课程大纲:

  1. 补充一主多从和多个互为主的实现原理

  2. 实现延迟复制的工具:percona。

  3. 编写脚本实现自动化延迟复制服务

  4. 补充网友提问和意见

详细讲解:

  • 补充一主多从和多个互为主的实现原理

昨天如果你自己实现了mysql的主从复制,那么我想一主多从你应该也会做,因为无非就是多一个slave,多一个id。关于多个互为主的实现,我们可以这样实现,A-->B-->C-->A,这样就会避免应该会出现的问题,防止重复插入,同时在配置文件中写入这样一条代码:log-slave-updates。原理不难,主要靠自己实践,千万不要做伸手党,因为那样一点点用都没有,哪怕一点点。如果有朋友遇到问题的,可以先自己尝试解决一下,如果解决不了就进群,大家一起讨论一下。

  • 实现延迟复制的工具:percona。

延迟复制,我们想要实现的功能大概是这样的,假如我slave延迟一小时更新数据,那么master在12点插入数据,slave在13点更新,master在12:59分插入数据,slave在13:59分插入数据。那么我们如何实现呢,首先我们关闭slave的SQL进程,我们之前介绍了二进制文件,我们读取二进制文件主要通过postion来定位,我们可以通过读取postion以及读取postion的时间来确定我们什么时候执行postion对应的sql命令。percona就实现了这样的功能,它其实也是个脚本,我们也可以用shell或者python写一个这样的脚本,原理都一样。

这里需要注意的是,在mysql5.6以后,我们执行change master的同时可以指定延迟时间,它本身就实现了延迟复制的功能,那么在mysql5.6之前呢,我们还是通过percona来实现。我现在mysql的版本是5.1.73,所以我使用percona,如果大家没有找到工具的rpm包,在我的微信公众号中回复:percona,获取这个工具。

1.安装percona

因为这个rpm有依赖,我们用yum进行安装,yum install percona-toolkit-2.2.7-1.noarch.rpm.

2.安装好之后,可以通过man手册查看这个工具提供了那些命令,这里我主要就讲pt-slave-delay,这个命令就实现了设置从服务器延迟复制,设置它,那么就应该需要连接到从服务器中,所以需要在从服务器中为这个工具创建一个用户来连接。

我们通过阅读man手册可以知道创建这个用户需要的权限有三个,分别是super。process。replication,后面的ip特别说明一下,你在那个主机上运行这个脚本,就写那个主机的ip,不一定要是master上运行。

《第27天》实现MySql延迟复制,高逼格的数据库操作(二)3现在运行这个脚本,同时介绍一下必要的参数,--delay表示我延迟1m在slave更新master的数据,--interval表示我每5秒看看是否要启动SQL进程,--daemonize表示后台运行,--log,因为我每5秒检查一次,它就会每5秒输出一次,输出到终端中不妨便,我直接输出到日志文件中,我通过查看日志文件就行了。

《第27天》实现MySql延迟复制,高逼格的数据库操作(二)4.查看日志文件。tail -f /var/log/delay.log。查看slave的状态,可以看到SQL进程默认是关闭的。

《第27天》实现MySql延迟复制,高逼格的数据库操作(二)

5.测试,我在master中插入一条数据(insert into toutiao values(NULL,"toutiao4")),通过观察日志,看是否在一分钟后,slave会更新数据。

通过观察日志文件,我们发现在21:57:43的时候,开启了SQL进程,更新之后,然后就关闭了SQL进程,查看从服务器数据表信息,的确插入了这条记录。《第27天》实现MySql延迟复制,高逼格的数据库操作(二)

《第27天》实现MySql延迟复制,高逼格的数据库操作(二)

  • 编写脚本实现自动化延迟复制服务

1.前面我们已经实现了如何设置slave延迟复制,但是大家有没有感觉每次都要输这么一长串命令,不觉的很烦吗,所以我们可以通过编写一个脚本来自动化的实验mysql延迟复制的功能。先讲一下这个脚本应该有的功能,Usage:{start|stop|restart|showlog|status}。脚本我就用shell写了,基本的case语句,这个脚本贴出来很麻烦,加群或者公众号,回复autoslavedelay,获取。

《第27天》实现MySql延迟复制,高逼格的数据库操作(二)2.怎么用着这个脚本呢,如果哪个朋友使用这个脚本,首先要改一下脚本的内容,host,user,password,log都需要改。改成什么,应该不用我再说了。

《第27天》实现MySql延迟复制,高逼格的数据库操作(二)3.现在把脚本添加到/etc/init.d/中,同时chmod a+x一下,之后就可以使用service 脚本名 start|restart|stop了。

《第27天》实现MySql延迟复制,高逼格的数据库操作(二)4.后面的功能就不演示了,都一样的。

  • 补充网友提问和意见

mysql主从复制的单向复制,优点很明显,master实现业务,slave实现存储,这样我们的master就能够更多去实现业务,在master宕机之后,slave还能继续的技工服务,不过缺点也有,slave单单只作复制,是不是很浪费,后面会讲如何高效的使用slave。同时单向复制有一个很大的问题就是master的误操作,也会更新到slave中,但是这个问题今天已经用延迟复制解决了。

双向复制优缺点,不讲了,感觉你都配置好了,再问优缺点是不是有点晚了。双向复制是基于单向复制的,单向复制的缺点可能就是双向复制所要解决的。

解决双向复制唯一主键冲突,我们可以设置master和slave从不同的基数开始,然后设置增长步数,这样我们可以实现在master中是13579,slave中2468,当然方法有其他的,我需要再想想,因为我又不是特别厉害,我也需要一直学才行。

总结:

今天主要讲了关于延迟复制的原理和实现方法,希望大家能够明白为什么要使用延迟复制,以及延迟复制能给我们带来什么好处。最后,我今天在地铁上看了一篇文章,程序员面试官写的,他说程序员无论你面试的职位高低,还是你原来的职位高低,一张笔试题试卷,就能告诉你需要什么人,最技术不要太虚,很多内容,我认为这个还是非常重要的,所以跟大家分享一下。

分享到:
评论

相关推荐

    智能车竞赛介绍(竞赛目标和赛程安排).zip

    全国大学生智能汽车竞赛自2006年起,由教育部高等教育司委托高等学校自动化类教学指导委员会举办,旨在加强学生实践、创新能力和培养团队精神的一项创意性科技竞赛。该竞赛至今已成功举办多届,吸引了众多高校学生的积极参与,此文件为智能车竞赛介绍

    集字卡v4.3.4微信公众号原版三种UI+关键字卡控制+支持强制关注.zip

    字卡v4.3.4 原版 三种UI+关键字卡控制+支持获取用户信息+支持强制关注 集卡模块从一开始的版本到助力版本再到现在的新规则版本。 集卡模块难度主要在于 如何控制各种不同的字卡组合 被粉丝集齐的数量。 如果不控制那么一定会出现超过数量的粉丝集到指定的字卡组合,造成奖品不够的混乱,如果大奖价值高的话,超过数量的粉丝集到大奖后,就造成商家的活动费用超支了。我们冥思苦想如何才能限制集到指定字卡组合的粉丝数,后我们想到了和支付宝一样的选一张关键字卡来进行规则设置的方式来进行限制,根据奖品所需的关键字卡数,设定规则就可以控制每种奖品所需字卡组合被粉丝集到的数量,规则可以在活动进行中根据需要进行修改,活动规则灵活度高。新版的集卡规则,在此次政府发布号的活动中经受了考验,集到指定字卡组合的粉丝没有超出规则限制。有了这个规则限制后,您无需盯着活动,建好活动后就无人值守让活动进行就行了,您只需要时不时来看下蹭蹭上涨的活动数据即可。 被封? 无需担心,模块内置有防封功能,支持隐藏主域名,显示炮灰域名,保护活动安全进行。 活动准备? 只需要您有一个认证服务号即可,支持订阅号借用认证服务号来做活动。如果您

    出口设备线体程序详解:PLC通讯下的V90控制与开源FB284工艺对象实战指南,出口设备线体程序详解:PLC通讯与V90控制集成,工艺对象与FB284协同工作,开源学习V90控制技能,出口设备1200

    出口设备线体程序详解:PLC通讯下的V90控制与开源FB284工艺对象实战指南,出口设备线体程序详解:PLC通讯与V90控制集成,工艺对象与FB284协同工作,开源学习V90控制技能,出口设备1200线体程序,多个plc走通讯,内部有多个v90,采用工艺对象与fb284 共同控制,功能快全部开源,能快速学会v90的控制 ,出口设备; 1200线体程序; PLC通讯; 多个V90; 工艺对象; FB284; 功能开源; V90控制。,V90工艺控制:开源功能快,快速掌握1200线体程序与PLC通讯

    基于Arduino与DAC8031的心电信号模拟器资料:心电信号与正弦波的双重输出应用方案,Arduino与DAC8031心电信号模拟器:生成心电信号与正弦波输出功能详解,基于arduino +DAC

    基于Arduino与DAC8031的心电信号模拟器资料:心电信号与正弦波的双重输出应用方案,Arduino与DAC8031心电信号模拟器:生成心电信号与正弦波输出功能详解,基于arduino +DAC8031的心电信号模拟器资料,可输出心电信号,和正弦波 ,基于Arduino;DAC8031;心电信号模拟器;输出心电信号;正弦波输出;模拟器资料,基于Arduino与DAC8031的心电信号模拟器:输出心电与正弦波

    (参考项目)MATLAB口罩识别检测.zip

    MATLAB口罩检测的基本流程 图像采集:通过摄像头或其他图像采集设备获取包含面部的图像。 图像预处理:对采集到的图像进行灰度化、去噪、直方图均衡化等预处理操作,以提高图像质量,便于后续的人脸检测和口罩检测。 人脸检测:利用Haar特征、LBP特征等经典方法或深度学习模型(如MTCNN、FaceBoxes等)在预处理后的图像中定位人脸区域。 口罩检测:在检测到的人脸区域内,进一步分析是否佩戴口罩。这可以通过检测口罩的边缘、纹理等特征,或使用已经训练好的口罩检测模型来实现。 结果输出:将检测结果以可视化方式展示,如在图像上标注人脸和口罩区域,或输出文字提示是否佩戴口罩。

    kernel-debug-devel-3.10.0-1160.119.1.el7.x64-86.rpm.tar.gz

    1、文件内容:kernel-debug-devel-3.10.0-1160.119.1.el7.rpm以及相关依赖 2、文件形式:tar.gz压缩包 3、安装指令: #Step1、解压 tar -zxvf /mnt/data/output/kernel-debug-devel-3.10.0-1160.119.1.el7.tar.gz #Step2、进入解压后的目录,执行安装 sudo rpm -ivh *.rpm 4、更多资源/技术支持:公众号禅静编程坊

    day02供应链管理系统-补充.zip

    该文档提供了一个关于供应链管理系统开发的详细指南,重点介绍了项目安排、技术实现和框架搭建的相关内容。 文档分为以下几个关键部分: 项目安排:主要步骤包括搭建框架(1天),基础数据模块和权限管理(4天),以及应收应付和销售管理(5天)。 供应链概念:供应链系统的核心流程是通过采购商品放入仓库,并在销售时从仓库提取商品,涉及三个主要订单:采购订单、销售订单和调拨订单。 大数据的应用:介绍了数据挖掘、ETL(数据抽取)和BI(商业智能)在供应链管理中的应用。 技术实现:讲述了DAO(数据访问对象)的重用、服务层的重用、以及前端JS的继承机制、jQuery插件开发等技术细节。 系统框架搭建:包括Maven环境的配置、Web工程的创建、持久化类和映射文件的编写,以及Spring配置文件的实现。 DAO的需求和功能:供应链管理系统的各个模块都涉及分页查询、条件查询、删除、增加、修改操作等需求。 泛型的应用:通过示例说明了在Java语言中如何使用泛型来实现模块化和可扩展性。 文档非常技术导向,适合开发人员参考,用于构建供应链管理系统的架构和功能模块。

    基于四旋翼无人机的PD控制研究 附Matlab代码.rar

    1.版本:matlab2014/2019a/2024a 2.附赠案例数据可直接运行matlab程序。 3.代码特点:参数化编程、参数可方便更改、代码编程思路清晰、注释明细。 4.适用对象:计算机,电子信息工程、数学等专业的大学生课程设计、期末大作业和毕业设计。

    C#与VB实现欧姆龙PLC的Fins TCP通信案例源码:调用动态链接库进行数据读写,定时器与计数器数据区的简洁读写操作示例,C#与VB实现欧姆龙PLC的Fins TCP通信案例源码:调用动态链接库进

    C#与VB实现欧姆龙PLC的Fins TCP通信案例源码:调用动态链接库进行数据读写,定时器与计数器数据区的简洁读写操作示例,C#与VB实现欧姆龙PLC的Fins TCP通信案例源码:调用动态链接库进行读写操作,涵盖定时器计数器数据区学习案例,C#欧姆龙plc Fins Tcp通信案例上位机源码,有c#和VB的Demo,c#上位机和欧姆龙plc通讯案例源码,调用动态链接库,可以实现上位机的数据连接,可以简单实现D区W区定时器计数器等数据区的读写,是一个非常好的学习案例 ,C#; 欧姆龙PLC; Fins Tcp通信; 上位机源码; 动态链接库; 数据连接; D区W区读写; 定时器计数器; 学习案例,C#实现欧姆龙PLC Fins Tcp通信上位机源码,读写数据区高效学习案例

    可调谐石墨烯超材料吸收体的FDTD仿真模拟研究报告:吸收光谱的化学势调节策略与仿真源文件解析,可调谐石墨烯超材料吸收体:化学势调节光谱的FDTD仿真模拟研究,可调谐石墨烯超材料吸收体FDTD仿真模拟

    可调谐石墨烯超材料吸收体的FDTD仿真模拟研究报告:吸收光谱的化学势调节策略与仿真源文件解析,可调谐石墨烯超材料吸收体:化学势调节光谱的FDTD仿真模拟研究,可调谐石墨烯超材料吸收体FDTD仿真模拟 【案例内容】该案例提供了一种可调谐石墨烯超材料吸收体,其吸收光谱可以通过改变施加于石墨烯的化学势来进行调节。 【案例文件】仿真源文件 ,可调谐石墨烯超材料吸收体; FDTD仿真模拟; 化学势调节; 仿真源文件,石墨烯超材料吸收体:FDTD仿真调节吸收光谱案例解析

    RBF神经网络控制仿真-第二版

    RBF神经网络控制仿真-第二版

    松下PLC与威纶通触摸屏转盘设备控制:FPWINPRO7与EBPRO智能编程与宏指令应用,松下PLC与威纶通触摸屏转盘设备控制解决方案:FPWINPRO7与EBPRO协同工作,实现多工位转盘加工与IE

    松下PLC与威纶通触摸屏转盘设备控制:FPWINPRO7与EBPRO智能编程与宏指令应用,松下PLC与威纶通触摸屏转盘设备控制解决方案:FPWINPRO7与EBPRO协同工作,实现多工位转盘加工与IEC编程模式控制,松下PLC+威纶通触摸屏的转盘设备 松下PLC工程使用程序版本为FPWINPRO7 7.6.0.0版本 威纶通HMI工程使用程序版本为EBPRO 6.07.02.410S 1.多工位转盘加工控制。 2.国际标准IEC编程模式。 3.触摸屏宏指令应用控制。 ,松下PLC; 威纶通触摸屏; 转盘设备控制; 多工位加工控制; IEC编程模式; 触摸屏宏指令应用,松下PLC与威纶通HMI联控的转盘设备控制程序解析

    基于循环神经网络(RNN)的多输入单输出预测模型(适用于时间序列预测与回归分析,需Matlab 2021及以上版本),基于循环神经网络(RNN)的多输入单输出预测模型(matlab版本2021+),真

    基于循环神经网络(RNN)的多输入单输出预测模型(适用于时间序列预测与回归分析,需Matlab 2021及以上版本),基于循环神经网络(RNN)的多输入单输出预测模型(matlab版本2021+),真实值与预测值对比,多种评价指标与线性拟合展示。,RNN预测模型做多输入单输出预测模型,直接替数据就可以用。 程序语言是matlab,需求最低版本为2021及以上。 程序可以出真实值和预测值对比图,线性拟合图,可打印多种评价指标。 PS:以下效果图为测试数据的效果图,主要目的是为了显示程序运行可以出的结果图,具体预测效果以个人的具体数据为准。 2.由于每个人的数据都是独一无二的,因此无法做到可以任何人的数据直接替就可以得到自己满意的效果。 这段程序主要是一个基于循环神经网络(RNN)的预测模型。它的应用领域可以是时间序列预测、回归分析等。下面我将对程序的运行过程进行详细解释和分析。 首先,程序开始时清空环境变量、关闭图窗、清空变量和命令行。然后,通过xlsread函数导入数据,其中'数据的输入'和'数据的输出'是两个Excel文件的文件名。 接下来,程序对数据进行归一化处理。首先使用ma

    【图像识别】手写文字识别研究 附Matlab代码+运行结果.rar

    1.版本:matlab2014/2019a/2024a 2.附赠案例数据可直接运行matlab程序。 3.代码特点:参数化编程、参数可方便更改、代码编程思路清晰、注释明细。 4.适用对象:计算机,电子信息工程、数学等专业的大学生课程设计、期末大作业和毕业设计。

    旅游管理系统(基于springboot,mysql,java).zip

    旅游管理系统中的功能模块主要是实现管理员;首页、个人中心、用户管理、旅游方案管理、旅游购买管理、系统管理,用户;首页、个人中心、旅游方案管理、旅游购买管理、我的收藏管理。前台首页;首页、旅游方案、旅游资讯、个人中心、后台管理等功能。经过认真细致的研究,精心准备和规划,最后测试成功,系统可以正常使用。分析功能调整与旅游管理系统实现的实际需求相结合,讨论了Java开发旅游管理系统的使用。 从上面的描述中可以基本可以实现软件的功能: 1、开发实现旅游管理系统的整个系统程序;  2、管理员;首页、个人中心、用户管理、旅游方案管理、旅游购买管理、系统管理等。 3、用户:首页、个人中心、旅游方案管理、旅游购买管理、我的收藏管理。 4、前台首页:首页、旅游方案、旅游资讯、个人中心、后台管理等相应操作; 5、基础数据管理:实现系统基本信息的添加、修改及删除等操作,并且根据需求进行交流查看及回复相应操作。

    Boost二级升压光伏并网结构的Simulink建模与MPPT最大功率点追踪:基于功率反馈的扰动观察法调整电压方向研究,Boost二级升压光伏并网结构的Simulink建模与MPPT最大功率点追踪:基

    Boost二级升压光伏并网结构的Simulink建模与MPPT最大功率点追踪:基于功率反馈的扰动观察法调整电压方向研究,Boost二级升压光伏并网结构的Simulink建模与MPPT最大功率点追踪:基于功率反馈的扰动观察法调整电压方向研究,Boost二级升压光伏并网结构,Simulink建模,MPPT最大功率点追踪,扰动观察法采用功率反馈方式,若ΔP>0,说明电压调整的方向正确,可以继续按原方向进行“干扰”;若ΔP<0,说明电压调整的方向错误,需要对“干扰”的方向进行改变。 ,Boost升压;光伏并网结构;Simulink建模;MPPT最大功率点追踪;扰动观察法;功率反馈;电压调整方向。,光伏并网结构中Boost升压MPPT控制策略的Simulink建模与功率反馈扰动观察法

    基于matlab平台的图像去雾设计.zip

    运行GUI版本,可二开

    Deepseek相关参考资源文档

    Deepseek相关主题资源及行业影响

    WP Smush Pro3.16.12 一款专为 WordPress 网站设计的图像优化插件开心版.zip

    WP Smush Pro 是一款专为 WordPress 网站设计的图像优化插件。 一、主要作用 图像压缩 它能够在不影响图像质量的前提下,大幅度减小图像文件的大小。例如,对于一些高分辨率的产品图片或者风景照片,它可以通过先进的压缩算法,去除图像中多余的数据。通常 JPEG 格式的图像经过压缩后,文件大小可以减少 40% – 70% 左右。这对于网站性能优化非常关键,因为较小的图像文件可以加快网站的加载速度。 该插件支持多种图像格式的压缩,包括 JPEG、PNG 和 GIF。对于 PNG 图像,它可以在保留透明度等关键特性的同时,有效地减小文件尺寸。对于 GIF 图像,也能在一定程度上优化文件大小,减少动画 GIF 的加载时间。 懒加载 WP Smush Pro 实现了图像懒加载功能。懒加载是一种延迟加载图像的技术,当用户滚动页面到包含图像的位置时,图像才会加载。这样可以避免一次性加载大量图像,尤其是在页面内容较多且包含许多图像的情况下。例如,在一个新闻网站的长文章页面,带有大量配图,懒加载可以让用户在浏览文章开头部分时,不需要等待所有图片加载,从而提高页面的初始加载速度,同时也能

    1. Download this file: https://cdn-media.huggingface.co/frpc-gradio-0.3/frpc-windows-amd64.exe

    Could not create share link. Missing file: C:\Users\xx\.conda\envs\omni\Lib\site-packages\gradio\frpc_windows_amd64_v0.3 1. Download this file: https://cdn-media.huggingface.co/frpc-gradio-0.3/frpc_windows_amd64.exe 2. Rename the downloaded file to: frpc_windows_amd64_v0.3 3. Move the file to this location: C:\Users\xx\.conda\envs\omni\Lib\site-packages\gradio

Global site tag (gtag.js) - Google Analytics