`
BucketLi
  • 浏览: 194257 次
  • 性别: Icon_minigender_1
  • 来自: 杭州
博客专栏
5a76a659-f8e6-3bf3-b39a-8ae8f7a0f9d9
Percolator与分布...
浏览量:5649
社区版块
存档分类
最新评论

Percolator与分布式事务思考(三)

 
阅读更多
Percolator的事务实现依赖一个全局的时间戳服务来生成严格递增的时间戳,因为每个事务需要连接时间戳服务2次,这个服务必需能够很好的扩展. 这个预报服务通过写一个最高可分配的时间戳到持久存储中周期性的分派一个范围的时间戳段;给一个已分配时间戳段,那么预报服务能够在内存中严格按增量给请求分配时间戳(译者:现在看来,这个时间戳服务是单机的。).如果预报服务重启,时间戳将会跳到最大的已分配时间戳(我们不会让时间戳往后退).为了减少RPC请求(在事务延迟时间不断增长下)每个Percolator worker在跨事务的场景下通过维持一个预先准备的预报服务的RPC请求批量提交时间戳请求.随着预报服务压力越来越大,批量请求能够自然地弥补这种压力.批量请求时间戳让预报服务的扩展性得到了很好的提升,并且并不影响预报服务对分配的时间戳的保证(严格递增).我们的预报服务单台机器每秒提供大约2百万个的时间戳.

事务协议使用严格递增的时间戳来保证Get()操作返回该事务开始时间之前所有的已提交的写.让我们来看看它是如何提供这种保证的, 假如一个事务R在Tr时间戳进行读并且事务W 在Tw(<Tr)时间戳提交了(写);我们将会知道R会看到W的写.因为Tw<Tr,我们知道时间戳预报服务肯定先给出了Tw或者和Tr在同一批时间戳中;因此,W请求Tw先与R收到Tr.我们知道R不可能在收到它的开始时间戳Tr之前进行读操作并且W在请求他的提交时间戳Tw之前写入了锁.因此,上述特性保证W必需在R进行任何读操作前至少写入了所有的锁;R的Get()将会看到完整已提交的写记录或者是锁,也就是说W将会阻塞直到锁释放.无论哪种方式,W的写对R的Get()操作是可见的.

Percolator有一个通知机制,作用是最原始的数据发生变化后自动通知用户代码执行后续的操作,包括事务,所有用户写的观察者代码会被打成一个二进制包,然后让其在系统中的每一个tablet服务器上单独运行.每一个观察者注册了一个方法和几个column在Percolator中,Percolator会在任何行的这些列(任意一个)写入数据后触发这些方法.

Percolator的应用被组织成了一系列观察者;每个观察者完成一个任务并且通过向表写数据的方式创建更多的工作给接下去的观察者.在我们的索引系统中,一个MapReduce任务通过运行装载器的事务(loader transactions)装载爬取过来的文档到Percolator中,而这个行为触发了后续对文档进行索引的一系列文档处理事务(解析,分解连接,等等).而文档处理事务又会触发经一步的集群事务.集群事务,后续又会触发导出变化了的文档到服务系统中的事务.

通知和数据库的触发器相似.但是与数据库触发器不同的是,他们不能用来维护数据库的数据完整性.因为触发的观察者是从一个触发的写操作中运行一个独立的事务,所以触发的写操作和被触发的观察者写操作不是原子的.通知旨在帮助构建一个增量的计算而不是用来维护数据的完整性.

相对于复杂语义的重叠触发.这种语义和意图的不同使观察者行为更加容易被理解.Percolator应用由少量观察者组成----google的索引系统大约有10个观察者.每个观察者明确地在worker的main()函数的中构建.所以worker是知道哪些观察者是活跃的.几个观察者一起观察同一个column是可行的,但是我们避免了这个特性,所以我们很清除哪个观察者会在一个特殊的column被写入后运行.用户需要担心一下通知的无限循环,Percolator不会阻止这种事情;用户会通过构建一系列观察者的典型结构来避免无限循环.



分享到:
评论

相关推荐

    Percolator分布式事务

    《Percolator分布式事务详解——基于BigTable的高效实现》 Percolator是Google为解决大规模数据处理中的增量计算及一致性问题,所设计的一种分布式事务处理系统,它基于BigTable构建,提供了Snapshot Isolation隔离...

    HBase分布式事务与SQL实现

    在深入了解HBase分布式事务与SQL实现前,我们首先需要明确几个核心概念和组件,这些包括HBase基础架构、Google Percolator模型、TiDB分布式数据库,以及它们之间的关系。 HBase是一款分布式的、开源的NoSQL数据库,...

    分布式系统的事务处理.pdf

    在进行分布式事务处理时,我们还需要考虑容灾、性能和数据一致性三个关键问题。容灾要求系统能够应对节点故障,保证数据不丢失,并且能够进行故障恢复。数据一致性要求事务处理机制能够保证数据在多个节点间的一致性...

    google的大规模增量处理

    #### Percolator系统:分布式事务与通知机制 为了解决现有基础设施无法满足大规模数据处理需求的问题,Google设计并实现了Percolator系统。Percolator是一种用于增量处理大数据集的系统,它能够在不影响数据完整性...

    Percolator--谷歌如何实现大数据的事务.pdf

    Percolator 的设计和实现对于理解大规模分布式系统中的事务处理机制具有很高的价值。 2.1. Percolator 的业务背景 在谷歌这样的互联网巨头中,每天都会产生海量的数据,这些数据需要实时或近实时地进行处理和更新。...

    percolator-client-5.5.1-API文档-中文版.zip

    赠送jar包:percolator-client-5.5.1.jar; 赠送原API文档:percolator-client-5.5.1-javadoc.jar; 赠送源代码:percolator-client-5.5.1-sources.jar; 赠送Maven依赖信息文件:percolator-client-5.5.1.pom; ...

    percolator-client-6.3.0-API文档-中英对照版.zip

    赠送jar包:percolator-client-6.3.0.jar; 赠送原API文档:percolator-client-6.3.0-javadoc.jar; 赠送源代码:percolator-client-6.3.0-sources.jar; 赠送Maven依赖信息文件:percolator-client-6.3.0.pom; ...

    美团分布式数据库实践.pdf

    3. **分布式事务**:典型的分布式事务如两阶段提交,但在高并发环境下,Percolator模型被广泛采用,它允许在单行事务存储上实现多行事务。Blade面临的问题是Percolator的乐观锁模型在发券、秒杀等冲突严重场景下的...

    分布式数据库实践字节跳动分布式数据库实践V2.pdf

    2. **ByteSQL与Percolator模式**:ByteSQL可能是字节跳动自研的SQL处理引擎,而Percolator是一种在BigTable(Google的分布式存储系统)上实现的弱一致性的分布式事务模型。Percolator模式允许在大规模分布式系统中...

    tikv:分布式事务键值数据库,最初是为补充TiDB而创建的

    TiKV(“ Ti”代表钛)的设计灵感来自Google的一些出色的分布式系统,例如BigTable,Spanner和Percolator,以及近年来学术界的一些最新成就,例如Raft共识算法。 如果您有兴趣为TiKV做出贡献,或者想从源代码构建...

    JSONAPI生成框架Percolator.zip

    Percolator 是使用 Node.js 快速且简单的创建高质量的 HTTP APIs,用最有趣的方式生成高级的 JSON APIs 的框架。它适用于生成:公共 API;单页应用;移动端应用。 标签:Percolator

    分布式事务键值数据库,最初是为了补充 TiDB 而创建的

    TiKV('Ti'代表钛)的设计灵感来自谷歌的一些伟大的分布式系统,如BigTable、Spanner和Percolator,以及近年来学术界的一些最新成果,如Raft共识算法。如果你有兴趣为 TiKV 做贡献,或者想从源代码构建它,请参阅...

    字节跳动分布式数据库实践.pptx

    此外,事务版本号的分配也是一项关键技术,例如Percolator和TrueTime API等方案被用来确保事务的顺序性和一致性。 在处理分布式事务时,还需要解决读写冲突和事务可见性问题。例如,Follower Reads策略允许在不需要...

    刘奇-TiDB为HBase插上分布式SQL的翅膀

    2. 使用Google Percolator模型,它包含BigTable、事务和时间戳三个组件。 3. Percolator worker、BigTable tablet server和GFS chunk server三个部分组成Percolator模型。 4. 提供ACID语义的事务处理。 5. 实现快照...

    percolator-client-6.2.3-API文档-中文版.zip

    赠送jar包:percolator-client-6.2.3.jar; 赠送原API文档:percolator-client-6.2.3-javadoc.jar; 赠送源代码:percolator-client-6.2.3-sources.jar; 赠送Maven依赖信息文件:percolator-client-6.2.3.pom; ...

    percolator-client-6.3.0-API文档-中文版.zip

    赠送jar包:percolator-client-6.3.0.jar; 赠送原API文档:percolator-client-6.3.0-javadoc.jar; 赠送源代码:percolator-client-6.3.0-sources.jar; 赠送Maven依赖信息文件:percolator-client-6.3.0.pom; ...

    percolator-client-6.2.3-API文档-中英对照版.zip

    赠送jar包:percolator-client-6.2.3.jar; 赠送原API文档:percolator-client-6.2.3-javadoc.jar; 赠送源代码:percolator-client-6.2.3-sources.jar; 赠送Maven依赖信息文件:percolator-client-6.2.3.pom; ...

    percolator-client-5.5.1-API文档-中英对照版.zip

    赠送jar包:percolator-client-5.5.1.jar; 赠送原API文档:percolator-client-5.5.1-javadoc.jar; 赠送源代码:percolator-client-5.5.1-sources.jar; 赠送Maven依赖信息文件:percolator-client-5.5.1.pom; ...

Global site tag (gtag.js) - Google Analytics