摘要: 主要介绍HBase 在读可用性这块做的read replica 功能的大概介绍,包括:基本使用,读写流程的大概链路,设计的折中等等。
HBase read replicas
1.概述
对于这个模块打算有几篇文章组成一个系列,详细的介绍这个功能,大概分read replicas综述(本文)、正常情况下的读写流程分析、异常情况下的读写流程分析;
本文主要介绍的有:概述、读流程链路、写流程链路、如何使用read replicas,example。我们知道HBase是一个强一致的系统,最初是因为一个regionserver下负责的多个region的读写都是经历这个regionserver去做处理,这样的话,该regionserver是单点的做读写,不会存在数据不一致的问题。但是相应的该regionserver如果挂掉了,会造成该regionserver负责的region都不能提供服务。这个降低了整个流程的服务可用性。那么为了解决该问题,HBase引入了 Read Replicas的功能,也就是对于一个region在多个节点上都有对应的副本,HBase可以通过balance保证各个region的各个副本在不同的机器,机架上。我们给主region 一个数字为0的replica_id,其余的副本都可以叫做secondary regions,他们的对应replica_id 是1、2、…,所有的写请求都是replica_id为0的节点(regionserver)做处理,然后异步的发送到1、2、…等节点。有了这个功能HBase的读流程的可用性就由原来的3个9变成了4个9。当然有利也有弊,我们做设计就是在做tradeoff,引入这个功能的话,对系统读取数据的一致性有一点影响。不过这个主要看业务方可否接受,为了提高服务可用性,牺牲一点点数据一致性是否可以考虑。
2.读流程链路
在HBase进行Get的时候,构造的Get对象里面有一个Consistency的子项,默认是Consistency.STRONG,除此之外还有一个Consistency.TIMELINE的选项。我们文章涉及到的replicas主要和这个东西有关系。如果你希望让你的读操作具有更高的可用性,你就需要在Get对象进行一个设置,设置它的Consistency属性为TIMELINE。那么通过这个设置的话,读请求就先会去replica_id为0的主replica上面去读数据,如果在一定时间内,HBase client没有等到主的响应,那么就会并发的发送请求到备份的replicas,这个时间默认是10ms,可以通过在client端的配置文件里面设置hbase.client.primaryCallTimeout.get来配置。那么你可能就会问了,这个数据可能不是主上面的数据,可能是replica_id为1、2、等上面的数据,那么这个数据不就存在老数据的可能么?对!HBase 提供了一个接口用于判别数据是不是最新的,叫做isStale()。
但是如果用户使用的是Consistency.STRONG这种的话,就不会存在读到老数据的可能性。世上很难有完美的方案,那么怎么去做选择,就是需要业务基于自己的需求做一定的选择了。这个方案的有点是:提高了读服务的可用性,同样的会引入一些弊端,造成一定的内存开销以及网络开销,因为数据需要在replicas上进行存储,也存在请求到replicas上的可能性,那么就会增加网络开销;
3.写流程链路
上面概述里面提到我们需要把HBase的写的数据先经replica_id为0 的节点,然后异步分发到replicas上面去,那么分发的过程是异步的,不然存在影响整个写流程的体验。既然设计的是异步的,在HBase 里面存在2阶段不同的实现方案,分别是在HBase1.0+和HBase1.1+这2个大版本上面实现的;在HBase的官方分别叫做: StoreFile Refresher 和 Asnyc WAL replication。
3.1.StoreFile Refresher
这种机制就是一个regionserver上一个特定的线程,阶段性的将主replica上的store file 刷新到secondary replicas上面。开启这个功能的配置是在HBase的里面把hbase.regionserver.storefile.refresh.period进行一个配置,单位是毫秒级别的。通过设置这个,定时刷新线程会看到主上的memstore 的flush,以及compaction,bulck load 操作。那么对于内存里面的数据,可能就会在备份上面读不到。
3.2.Asnyc WAL replication
在HBase1.1+的版本里面新的一种数据被复制到secondary replicas的方式是:类似HBase replication,但是是单集群内部replicas之间的数据复制,由于主和secondary replicas之间的数据共享一份持久化数据,那么数据备份到replicas的时候是需要保证内存之间的数据是相同的。主在做写,compaction,bulkload等操作的时候会写数据到wal log,然后通过这个机制secondary replicas会观察到变化,然后讲数据在本地内存回放。
这个功能默认情况下是被关闭的,通过设置“hbase.region.replica.replication.enabled” 为true即可开启这个功能。
4.使用配置和使用步骤
如果要使用功能的话,分服务端和客户端,下面这份配置是服务端的:
客户端上面的配置更新:
新建一张具有region replica 的表:shell命令:
java的api操作:
读取数据:shell命令:
java的api操作:
后续
后面的话会继续从源码级别进行该模块的分析,敬请期待!
相关推荐
19考试真题最近的t44.txt
清华大学第三弹:普通人如何抓住DeepSeek红利
Python环境下的滚动轴承故障诊断优化算法:基于改进WDCNN的一维卷积神经网络与LSTM融合的时序信号处理研究,Python环境中基于改进WDCNN与LSTM融合的滚动轴承故障诊断方法研究——优化卷积核大小,提升诊断准确率并加速收敛速度的应用,Python环境下一种基于WDCNN的滚动轴承故障诊断方法 算法采用pytorch深度学习模块,对WDCNN进行改进,搭建了卷积核大小逐层递减的一维卷积神经网络,并减少了卷积层数量,达到了98%以上的诊断准确率,同时有着较快的收敛速度。 另外,针对时序信号的特点,将长短时记忆网络(LSTM)与搭建的一维卷积神经网络结合,提高分类准确率至99%以上,但收敛速度较单一的卷积神经网络较慢。 算法可迁移至金融时间序列,地震信号,语音信号,声信号,生理信号(ECG,EEG,EMG)等一维时间序列信号。 ,基于WDCNN的故障诊断方法; 卷积神经网络; 算法改进; 高诊断准确率; 收敛速度快; LSTM结合; 一维时间序列信号; 金融、地震、语音、生理信号诊断,Python下改进WDCNN的滚动轴承故障诊断法:深度学习提升诊断准确率与收敛速度
基于遗传算法优化的机器学习模型分类预测与回归分析技术概览:SVM、LSTM等算法应用,遗传算法优化机器学习模型在分类、回归与时序预测中的应用(支持SVM、RF等)matlab代码实践,遗传算法优化用于分类 回归 时序预测 遗传算法优化支持向量机SVM,最小二乘支持向量机LSSVM,随机森林RF,极限学习机ELM,核极限学习机KELM,深度极限学习机DELM,BP神经网络,长短时记忆网络 LSTM,Bilstm,GRU,深度置信网络 DBN,概率神经网络PNN,广义神经网络GRNN..... 以上有分类预测回归预测时序预测 matlab代码,可直接替数据使用,简单操作易上手。 ,遗传算法优化; 分类预测; 回归预测; 时序预测; 支持向量机SVM; 最小二乘支持向量机LSSVM; 随机森林RF; 极限学习机ELM; 深度极限学习机DELM; 神经网络操作; Matlab代码,遗传算法优化多种机器学习模型在分类、回归与时序预测中的应用
《多元系列污水处理及石油化工设备三维模型库:可编辑装配体与零部件模型集》,优质专业设备模型集萃:90套管道设备、石油化工与污水处理设备三维模型,可编辑修改尺寸,装配体模型与零部件一应俱全,共90套左右各类污水处理设备三维模型,管道设备三维模型,石油化工设备三维模型。 sw打开,大部分是可以编辑修改尺寸的。 有装配体模型,有零部件模型。 ,污水处理设备模型; 管道设备模型; 石油化工设备模型; 可编辑修改尺寸; 装配体模型; 零部件模型。,90套污水处理与石油化工设备三维模型库:可编辑装配体与零部件模型大全
2023-04-06-项目笔记-第四百一十八阶段-课前小分享_小分享1.坚持提交gitee 小分享2.作业中提交代码 小分享3.写代码注意代码风格 4.3.1变量的使用 4.4变量的作用域与生命周期 4.4.1局部变量的作用域 4.4.2全局变量的作用域 4.4.2.1全局变量的作用域_1 4.4.2.416局变量的作用域_416- 2025-02-23
**基于主从博弈算法的电热综合能源系统动态定价与能量管理:深度创新与高效求解的MATLAB代码实现**,MATLAB代码:基于主从博弈算法的电热综合能源系统智能动态定价与高效能量管理策略研究,MATLAB代码:基于主从博弈的电热综合能源系统动态定价与能量管理 关键词:主从博弈 电热综合能源 动态定价 能量管理 参考文档:自编文档,完全复现 仿真平台:MATLAB 平台 优势:代码具有一定的深度和创新性,注释清晰,非烂大街的代码,非常精品 主要内容:代码主要做的是电热综合能源系统的动态定价问题,采用是主从博弈方法,上领导者问题上,以综合能源系统整体的收益作为目标函数,考虑电价以及热价等相关约束,在下层跟随者模型上,以用户用能满意度最高为目标函数,构建了领导者-跟随者Stackelberg博弈模型,同时还考虑了系统的功率平衡条件以及热能平衡条件等约束,模型的上层求解采用粒子群算法,下层求解采用CPLEX求解器,考虑该代码具有一定的创新性,适合新手学习以及在此基础上进行拓展,代码质量非常高 ,主从博弈; 电热综合能源; 动态定价; 能量管理; Stackelberg博弈模型; 粒子群算
修复 "保存'/opt/rr'的修改" 后 主菜单锁死问题. 修复 trivial 插件的语法错误. 修复 open-vm-tools 套件 缺失的 SOCKETS 驱动. 添加 vmtools 插件, 包含 qemu-ga & open-vm-tools. 4.1. 该插件会自动判断环境并启用对应的功能, 物理机也不用刻意删除该插件. 4.2. 新安装用户会默认选中, 升级用户如需要请手动添加该插件. 4.3. 如启用该插件, 请不要再在系统中安装套件. 修复 wireless 插件. 5.1. 修复 RR 下无线网络 IP 显示和刷新问题. 5.2. 修复 RR 下设置 SSID&PSK 后 DSM 下不驱动的问题. 5.3. 同步 RR 下的 SSID&PSK 到 DSM 下. 5.4. 修复 junior 模式下无线网络的支持, 已支持 无线网卡的 DSM 系统安装. (暂时不支持 intel 无线网卡) 5.5. wpa_supplicant.conf 文件位于引导盘第一个分区根目录, 纯无线环境可手动放置该文件后其启动引导.
培训课件 -我是如何教创新创业及职涯设计课.pptx
流量专网售前5G解决方案模板.docx
Simulink仿真模型下的混合储能控制器设计:实现功率分配、SOC均衡与高精度电流控制及母线电压补偿策略,Simulink仿真模型下的混合储能控制器设计:实现功率分配、SOC均衡与高精度电流控制及母线电压补偿,储能控制器,simulink仿真模型。 采用下垂控制实现蓄电池超级电容构成的混合储能功率分配、SOC均衡控制、考虑线路阻抗情况下提高电流分配精度控制、母线电压补控制。 ,核心关键词: 1. 储能控制器 2. 下垂控制 3. 混合储能功率分配 4. SOC均衡控制 5. 线路阻抗 6. 电流分配精度控制 7. 母线电压补控制 用分号分隔的关键词结果为: 储能控制器;下垂控制;混合储能功率分配;SOC均衡控制;线路阻抗;电流分配精度控制;母线电压补控制,基于Simulink仿真的混合储能系统:下垂控制与SOC均衡策略研究
19考试真题最近的t38.txt
基于V2G技术的电动汽车实时调度策略:降低充电与网损成本,IEEE配电网验证,基于V2G技术的电动汽车实时调度策略:降低充电成本与网损的调度模型及算法实现,MATLAB代码:基于V2G技术的电动汽车实时调度策略 关键词:电动汽车 实时调度 V2G 网损 仿真平台:MATLAB YALMIP+CVX 主要内容:代码主要做的是基于V2G技术的电动汽车实时调度策略,请注意是实时调度策略而非日前调度策略,首先以降低充电成本和网损成本为目标,建立电动汽车调度模型。 然后通过构建网损灵敏度指标分析电网节点性能,基于电网负荷制定分时电价,通过潮流计算和凸优化算法实时求解得到电动汽车充放电策略。 最后以 IEEE 33 节点配电网为例验证了所提策略可以有效降低充电成本与网损成本。 基本实现文档中的算法,复现效果良好可靠 ,V2G技术; 实时调度策略; 网损; 充电成本; 优化算法; 潮流计算; 凸优化算法; IEEE 33节点配电网。,基于V2G技术的实时电动汽车调度策略:降低充电成本与网损的MATLAB仿真研究
三菱PLC焊接机智能控制参考方案:含触摸屏程序、PLC程序、伺服定位与通信控制等全套解决方案,专为精准内外径圆环物料处理设计。,三菱PLC焊接机智能控制参考方案:集成触摸屏程序、PLC编程、伺服控制与通讯技术,实现精准焊接与数据闭环管理。,三菱PLC焊接机控制参考程序。 包含触摸屏程序,PLC程序,IO表,伺服参数,通讯协议参数。 该设备由24个伺服电机、1套焊接机、2套CCD、4套扫码枪、6套位移传感器组成,plc程序有注释里面fb块也没加密,电气控制采用三菱Q系列Q06UDV型CPU,内置以太网通过TCP IP形式与上位机CCD及扫码枪通讯,两套QD77MS16定位模块控制伺服,外加QJ71C24N用于与位移传感器通过ModBus RTU协议进行串口通讯获取数据,另外运用三菱MX Conpnonet软件与上位机通讯完成与客户MES系统闭环控制,OEE数据采集并上传至客户工厂云服务器系统。 该设备组装物料小件尺寸小,为内外径相差0.79mm(圆环宽度)的小圆环,料盘为8X10的矩阵料盘,吸取较难,因此PLC自写了一套算法,采用三点设定自动运算出80个点的XY坐标,吸取成功率达99%以
一个使用node、MySql、react、reactNative、antDesign完成的一套大型订票系统,其中服务端、数据库,网页订票端、手机订票端和网页管理台.zip项目工程资源经过严格测试运行并且功能上ok,可实现复现复刻,拿到资料包后可实现复现出一样的项目,本人系统开发经验充足(全栈全领域),有任何使用问题欢迎随时与我联系,我会抽时间努力为您解惑,提供帮助 【资源内容】:包含源码+工程文件+说明等。答辩评审平均分达到96分,放心下载使用!可实现复现;设计报告也可借鉴此项目;该资源内项目代码都经过测试运行,功能ok 【项目价值】:可用在相关项目设计中,皆可应用在项目、毕业设计、课程设计、期末/期中/大作业、工程实训、大创等学科竞赛比赛、初期项目立项、学习/练手等方面,可借鉴此优质项目实现复刻,设计报告也可借鉴此项目,也可基于此项目来扩展开发出更多功能 【提供帮助】:有任何使用上的问题欢迎随时与我联系,抽时间努力解答解惑,提供帮助 【附带帮助】:若还需要相关开发工具、学习资料等,我会提供帮助,提供资料,鼓励学习进步 下载后请首先打开说明文件(如有);整理时不同项目所包含资源内容不同;项目工程可实现复现复刻,如果基础还行,也可在此程序基础上进行修改,以实现其它功能。供开源学习/技术交流/学习参考,勿用于商业用途。质量优质,放心下载使用,资源为网络商品(电子资料类)基于网络商品和电子资料商品的性质和特征不支持退款
RexVision 1.6.1机器视觉框架源码发布:基于C#与Halcon混合编程,适用于视觉检测与机械手定位等应用,插件式开发省时高效,RexVision 1.6.1机器视觉框架源码发布:基于C#与Halcon混合编程,支持多种视觉应用与手眼标定,VS2019可直接编译使用,RexVision 1.6.1,C#+Halcon机器视觉框架源码, 到手vs2019可以直接编译、 视觉检测、AOI视觉检测、机械手定位、点胶机、插件机、激光切割机、视觉螺丝机、视觉贴合机、激光焊接机、视觉裁板机……, C#联合Halcon混合编程源码,插件式开发 ,带手眼标定,相机静止和运动,支持C#脚本…能让你站在巨人的肩膀上,节省重复造轮子的时间。 ,关键词:RexVision 1.6.1; Halcon机器视觉框架; C#联合Halcon混合编程; 视觉检测; AOI视觉检测; 机械手定位; 点胶机; 插件机; 激光切割机; 视觉螺丝机; 视觉贴合机; 激光焊接机; 视觉裁板机; 手眼标定; 相机静止和运动支持; C#脚本。,基于Halcon的C#机器视觉源码,插件式开发助力自动化设备升级
ATL .NET 是一个完全原生的、易于使用的 C# 库,用于 .NET 和 Mono,可以从各种数字音频格式、播放列表和 CUE 表中读取数据。.zip
项目工程资源经过严格测试运行并且功能上ok,可实现复现复刻,拿到资料包后可实现复现出一样的项目,本人系统开发经验充足(全栈全领域),有任何使用问题欢迎随时与我联系,我会抽时间努力为您解惑,提供帮助 【资源内容】:包含源码+工程文件+说明等。答辩评审平均分达到96分,放心下载使用!可实现复现;设计报告也可借鉴此项目;该资源内项目代码都经过测试运行,功能ok 【项目价值】:可用在相关项目设计中,皆可应用在项目、毕业设计、课程设计、期末/期中/大作业、工程实训、大创等学科竞赛比赛、初期项目立项、学习/练手等方面,可借鉴此优质项目实现复刻,设计报告也可借鉴此项目,也可基于此项目来扩展开发出更多功能 【提供帮助】:有任何使用上的问题欢迎随时与我联系,抽时间努力解答解惑,提供帮助 【附带帮助】:若还需要相关开发工具、学习资料等,我会提供帮助,提供资料,鼓励学习进步 下载后请首先打开说明文件(如有);整理时不同项目所包含资源内容不同;项目工程可实现复现复刻,如果基础还行,也可在此程序基础上进行修改,以实现其它功能。供开源学习/技术交流/学习参考,勿用于商业用途。质量优质,放心下载使用,资源为网络商品(电子资料类)基于网络商品和电子资料商品的性质和特征不支持退款,质量优质,放心下载使用
MATLAB代码:电转气P2G与碳捕集设备在热电联供综合能源系统中的优化调度模型研究:融入碳交易机制的非线性模型高效求解。,MATLAB环境下结合P2G技术与碳捕集设备的综合能源系统优化调度模型,包括热电联产与低碳调度,借鉴碳交易机制实现高效求解。,MATLAB代码:考虑P2G和碳捕集设备的热电联供综合能源系统优化调度模型 注意:店铺内有大量考虑碳交易代码,欢迎咨询 关键词:碳捕集 综合能源系统 电转气P2G 热电联产 低碳调度 参考文档:《Modeling and Optimization of Combined Heat and Power with Power-to-Gas and Carbon Capture System in Integrated Energy System》完美复现 仿真平台:MATLAB yalmip+gurobi 主要内容:代码主要做的是一个考虑电转气P2G和碳捕集设备的热电联供综合能源系统优化调度模型,模型耦合CHP热电联产单元、电转气单元以及碳捕集单元,并重点考虑了碳交易机制,建立了综合能源系统运行优化模型,模型为非线性模型,采用yalmip
风光储直流微电网Simulink仿真模型研究:扰动观察法与叶尖速比实现MPPT控制参考论文分享,储能控制器在风光储直流微电网Simulink仿真模型中的实现与应用:光伏发电、风力发电与储能系统集成研究,储能控制器,风光储、风光储并网直流微电网simulink仿真模型。 系统有光伏发电系统、风力发电系统、储能系统、负载、逆变器?lcl?大电网构成。 附参考文献。 同时可附逆变器控制参数,lcl参数计算m文件(另议)。 光伏系统采用扰动观察法实现mppt控制,经过boost电路并入母线; 风机采用最佳叶尖速比实现mppt控制,风力发电系统中pmsg采用零d轴控制实现功率输出,通过三相电压型pwm变器整流并入母线; 储能系统由蓄电池构成,通过双向DCDC变器并入母线。 并网逆变器VSR采用基于电网电压定向矢量控制?双闭环,经过lcl滤波器并入大电网。 负载单元为直流负载 附参考文献。 ,核心关键词:储能控制器;风光储;并网直流微电网;simulink仿真模型;光伏发电系统;风力发电系统;储能系统;负载;逆变器;MPPT控