`
丁林.tb
  • 浏览: 792492 次
  • 性别: Icon_minigender_1
  • 来自: 杭州
社区版块
存档分类
最新评论

MySQL异构数据同步--tair为例

阅读更多

在实现levelDB挂载成MySQL引擎时,发现在实际存储是key-value格式时候,MySQL的异构数据同步,可以更简单和更通用。

tair为例,简要描述一下以MySQL为基础的一种方案。

所谓异构数据同步,是指应用只更新MySQL,而由后端的某些机制将这些更新应用到其他数据存储服务上。

1、MySQL-Tair 引擎

a)       使用

b)       说明

这不是一个“存储引擎”,实际上数据存储在tair服务器上。执行insert/update/delete时,只是将对应的动作put /removetair服务器。当然这个过程对用户是透明的。


 

2、MySQL-Tair 引擎怎么用于更新tair数据

首先,数据更新有两种方式,同步更新和异步更新。

a)       异步更新

先说异步更新。这个类似“读binlog来更新数据”的方案。如果使用MySQL-Tair引擎,结构可以如下:

 

说明:tair表只存在Slave上,与主库上要更新的表同名。

完备性:以现在主库都是row格式的binglog结构为背景,这里Slave上收到的都会是这个更新的完整行信息,从中取出需要的keyvalue即可。

 

b)       同步更新

同步更新的意思,是应用端更新MySQL MySQLtair同时更新完成后,MySQL才返回用户更新成功。

这种模式更像将tair作为MySQL的网络级别缓存服务。当然应用在读取的时候可以绕过MySQL直接访问tair,则只是作为一种更新方案。

这种模式能够让更新后的下一次访问直接命中tair中的缓存数据。异步则无法保证。


 

结构如下:

 

说明:这里实体数据表与tair表在同一个数据库,表结构相同,引擎不同。应用还是更新数据表,用触发器触发相同的语句更新tair表。

完备性:同样的,触发器会得到这个更新的新行全值。

 

3、MySQL同步的优点

这种有以下优势,即使只考虑异步更新模式:

a)       不需要自己模拟一个MySQL的从库、不需要维护连接(MySQL自带)

b)       不需要解析binlog(什么时候binlog切换都要关心,要做的事情太多)

c)        更方便的监控。MySQL现有的监控接口,直接得到tps、延迟时间,同步点。

d)       更方便的管理。如果主库挂了,一个Change master命令即可;想暂时停更新,stop slavestart slave

e)       更方便的扩展。 直接利用MySQL的级联主从。

当然还有读binlog方案无法实现的同步选择。


 

4、其他

不限于tair,只是举例。

如果后端是一个可靠存储,如TFS,则可以当作一个存储表来使用,读写都是SQL接口。与直接更新TFS有什么区别?简单说一个,可以直接跟MySQL里的实体表做join

 

  • 大小: 67.8 KB
  • 大小: 12.9 KB
  • 大小: 15.8 KB
1
1
分享到:
评论
1 楼 endual 2012-02-26  
这些都是书上没有的,学校学的很浅的,哎。。。

相关推荐

    轻松入门淘宝开源NoSQL框架Tair视频教程

    在Tair出现之前的很长一段时间里,像redis、memcache这些知名NoSql数据库是不支持分布式的,在这样的背景下,由淘宝网自主开发并在2010.6开源的一个高性能、高扩展、高可靠分布式缓存,类似map的key/value结构,在...

    Ehcache-Redis-Tair缓存性能对比

    常用缓存的对比。 主要分析ehcache radis tair间的对比。

    美团技术沙龙04-Kv Tair best practise .72d12e50-4fe7-11e6-ae32-999541cb

    - 数据传输和同步:包括databus、Redis-transfer、mysql、redis等组件,确保数据在集群间的高效流转。 - 测试工具:如Gtest、gcover、valgrind等,用于测试和代码覆盖率分析。 - 性能基准测试:Bench mark和...

    tair.zip, tair源码

    同时,为防止数据丢失,tair提供了持久化机制,如RocksDB等持久化引擎,保证了数据的安全性。 3. 数据一致性:tair支持多种一致性模型,如弱一致、序列一致等,以满足不同业务场景的需求。在分布式事务处理上,tair...

    分布式键值系统-Tair1

    Tair的存储引擎抽象层使得可以方便地更换底层存储引擎,如bdb、tc、redis、leveldb或MySQL。 目前Tair主要有以下三种存储引擎: - **mdb**:定位为缓存,支持k/v和prefix操作,类似于memcache。 - **rdb**:同样...

    tair-2.3分布式key-value存储引擎

    tair 是淘宝自己开发的一个... 为了解决磁盘损坏导致数据丢失, tair 可以配置数据的备份数目, tair 自动将一份数据的不同备份放到不同的主机上, 当有主机发生异常, 无法正常提供服务的时候, 其于的备份会继续提供服务.

    tair3-client-3.0.1.13.jar

    maven 淘宝下的jar包啊

    tair 服务端源码包

    总结,Tair服务端源码不仅为我们揭示了分布式Key/Value存储系统的设计原理,还提供了学习高并发、高可用、数据一致性等核心问题的实践案例。深入研究Tair源码,不仅可以提升我们的技术能力,还能为设计和实现自己的...

    分布式缓存tair介绍

    tair 是淘宝自己开发的一个... 为了解决磁盘损坏导致数据丢失, tair 可以配置数据的备份数目, tair 自动将一份数据的不同备份放到不同的主机上, 当有主机发生异常, 无法正常提供服务的时候, 其于的备份会继续提供服务.

    tair缓存开发指南

    1. 对照表:对照表是一个固定值,需要和每个使用 Tair 的客户端同步的,对照表简介包含两列,第一列为 hash 值,第二列为负责该 hash 值对应数据的 dataserver 节点信息。 2. 客户端交互:客户端在初始化时,从 ...

    阿里中间件性能挑战赛初赛-RocketMQ+JStorm+Tair实时统计双11交易金额源码+学习说明.zip

    阿里中间件性能挑战赛初赛-RocketMQ+JStorm+Tair实时统计双11交易金额源码+学习说明.zip阿里中间件性能挑战赛初赛-RocketMQ+JStorm+Tair实时统计双11交易金额源码+学习说明.zip阿里中间件性能挑战赛初赛-RocketMQ+...

    tair与redis比较

    ConfigServer负责维护集群中的数据分布信息,DataServer负责数据的存储和复制,Client提供了访问Tair集群的接口,InvalidServer负责对等集群的删除和隐藏操作。 ConfigServer ConfigServer是Tair集群的中心节点,...

    com.taobao.tair

    通过模块化设计,Tair可以方便地添加新功能或进行定制,例如支持Tair的插件系统可以扩展出如Tair-Graph(图数据库)、Tair-Search(搜索引擎)等子系统。 ### 9. 监控与运维 Tair提供了丰富的监控指标和运维工具,...

    分布式缓存tair的内部结构介绍

    其中config_server是做为元数据管理的服务器,代码主要在config_server目录中,主要管理数据的分布和复制,以及迁移;data_server是数据存储的节点,代码在data_server目录,主要和不同存储引擎交互,管理数据的操作...

    tair-2.3.tar.tar

    淘宝tair源代码包,tair 是淘宝自己开发的一个分布式 key/value 存储引擎。

    tair开发指南

    Tair 是一个分布式的 key/value 存储系统,数据往往存储在多个数据节点上。客户端需要决定数据存储的具体节点,然后才能完成具体的操作。Tair 的客户端通过和 configserver 交互获取这部分信息。configserver 会维护...

    tair使用测试

    5. **数据删除**:设置键的生存时间为0,或直接删除键: ```java client.expire("testKey", 0); client.delete("testKey"); ``` 6. **监控与管理**:通过TAIR提供的监控工具或API,我们可以查看集群状态、节点...

    node-tair:淘宝Tair Client for Node.js

    $ npm install tair 强烈建议您使用节点> = 0.8.0来使用此库,以提高其在io和缓冲区上的性能。 一个例子 var cli = require ( 'tair' ) ; var configServer = [ { host : '10.20.30.40' , port : 5189 } ] ; /* ...

    Redis企业版Tair性能增强系列产品概述.pdf

    阿里云Redis企业版Tair是一款高性能的NoSQL数据库系统,旨在为企业提供更加强大和灵活的数据存储解决方案。Tair最初是阿里巴巴自研的数据库系统,用于应对双11等大型活动的高流量挑战。随着云计算的发展,Tair逐渐...

    第二届数据库大赛-Tair性能挑战复赛参赛源码+项目说明.zip

    【资源说明】 1、该资源包括项目的全部源码,下载可以直接使用! 2、本项目适合作为计算机、数学、电子信息等专业的课程设计、期末大作业和毕设项目,作为...第二届数据库大赛-Tair性能挑战复赛参赛源码+项目说明.zip

Global site tag (gtag.js) - Google Analytics