`
hzbook
  • 浏览: 258499 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论
阅读更多
多核应用架构关键技术—软件管道与SOA(预订中,估价)

本文节选自《多核应用架构关键技术--软件管道与SOA》 第2章“管道定律”第2.6~2.9节

 

2.6  软件管道规则

让我们来看看软件管道的规则:

  • 规则1:输入等于输出。
  • 规则2:下游组件或处理过程的能力(处理事务速率)要等于或超过上游组件或过程的输入速率。如果不是这种情况,你就必须优化下游的组件或过程,或者使用管道分配器来支持并发处理与控制负载。
  • 规则3:管道分配器的处理速率必须远远超过下游处理速率。

在接下来的章节中,我们会看到每个规则的细节之处,你会了解到一些用来分析软件管道系统的简单公式。

2.7  规则1

输入等于输出。

当然,上面是对管道定律自身的描述,你也可以将你从管道定律学来的所有知识设计软件管道系统。为了在你的设计中使用规则1,需要进行如下的操作:

  • 确定输入事务的供应是充足的。这是使用软件管道之前首先需要调整的。
  • 识别系统中哪个组件或过程的处理速率最慢,那么该组件/过程控制了这个系统的吞吐率与性能,所以你必须对它进行优化。
  • 识别不能承担负载的外部系统或应用程序。这些系统/应用程序会成为瓶颈,正如你处理最慢的组件/过程那样,你需要对它们进行优化处理。
  • 预测并去除系统中的任何瓶颈点。为了达到目标你需要做如下工作:找到你系统中的所有组件,分析它们的特点,一旦需要,就对它们进行优化。

规则1的公式是:

输入率()= 输出率()

不管你处理多少事务,输入率与输出率总是相同的。换句话说,软件管道系统或任何软件系统,不能接受超过它所能处理()的事务(潜在的输出率),这可表达为:

可获得的输入率()=潜在的输出率()

例如,如果可获得的输入率是每秒10个事务(transactions per second,TPS),不管下游的处理速率有多快,它的处理能力不会超过10 TPS。

让我们来看看输出端。如果可获得的输入率是1 000 TPS或者更多,你可能很容易断定潜在的输出率也是1 000 TPS。然而,如果下游的处理能力仅仅为500 TPS怎么办?你是让它们排队等待,还是丢掉这500 TPS的处理能力,当然这种举措不理想。

下一节,我们将会展示如何使用软件管道规则2来解决由下游较慢的处理过程带来的潜在系统瓶颈问题。

2.8  规则2

任何下游组件或过程的能力(事务处理速率)必须大于或等于任何上游组件或过程的输入速率。如果不是这种情况,你必须优化下游组件或过程,或者使用软件管道分配器来支持并发处理并控制负载。

如果你要最大化系统性能或者不得不满足服务等级协议(service-level agreements,SLA)与商业需求,那么这个规则是你成功的关键。你可以使用它分析软件管道系统的每一点,来识别存在的或者潜在的系统瓶颈。你也可以使用它来决定你是否需要更多的处理能力,如果你确实需要,你也可以通过使用管道分配器来增加并发处理能力。

规则2的公式是:

输入率()必须"输出率()

换句话说,下游的任何组件或过程的处理速率必须能够适应任何上游组件或过程所提供事务的输入率。如果不是这种情况,你必须使用多个管道或其他的优化方法来增加处理速率。

考虑如图2.5所示的组件处理流程。

在这个示例中,步骤B是系统的瓶颈。当事务离开步骤A到达步骤B时,事务会发生排队与积压的情况。这会减少进入步骤C的事务流,导致步骤C并没有被充分利用。此外,如果到达步骤B,没有缓存保存排队等候的事务,你可能会失去这些事务——对于像银行业务这样关键的任务应用来说这是不可接受的。

为了均衡事务流,你必须增加步骤B的吞吐性能。你可以使用管道分配器或者其他优化方法。如果你不能解决上述问题,整个系统只能具有步骤B的处理能力——500 TPS。


图2.5  下游组件带来系统瓶颈

如果将步骤B进行分配是安全的,你可以简单地为它创建两个管道,使它的性能加倍,如图2.6所示,这将解决上述问题并可均衡事务流。


图2.6  使用管道来增加处理能力

如果你没有充足的硬件资源来处理增加的事务量,创建两个管道不会使得步骤B的处理能力加倍。为了实际解决这个问题,你可能不得不添加硬件。拥有两个管道与充足的硬件资源,你可以利用并发的处理能力来加倍步骤B的处理能力。

然而如果你想要一个真正有效的解决方案,这里缺少了关键的一个环节:管道分配器。在多个管道实施并发处理需要一种分配事务的方法。在软件管道架构中,管道分配器就是完成这个工作的组件,将事务分配到多个硬件系统中或分配到一个系统的多个处理器上。

如图2.7所示,管道分配器分配事务,对步骤B的负载进行均衡处理。图2.7也展示了增添的硬件资源。


图2.7  使用管道分配器与附加的硬件资源增加系统处理能力

你可以从第1章回忆起管道分配器分配输入的消息到各个管道的过程。为了确定将每个消息向何处发送,它将会检验消息的内容,然后向匹配的、可处理该事务的管道发送。这种方法分配了负载,使你更多地控制了事物流。此外,分配器支持一些如同FIFO次序或优先级等关键业务需求。

另一个使用管道分配器的优点是能够可伸缩性。你可以赋予每个管道一个指定的硬件资源;分配器分配事务到每个管道中,每个管道独立且并发地执行各自的事务。如果硬件不足,这个管道就会成为系统瓶颈,你可以为这个管道添加资源。因为管道之间完全独立,添加更多的硬件资源也给管道带来了线性或近线性的扩展能力。

再进一步考虑,若分配器负担过多的管道,最终管道分配器自身会成为系统瓶颈。下一节,我们将展示如何使用规则3来避免这个问题。

2.9  规则3

管道分配器的处理速率要远远超过下游处理速率。

为了有效地实现管道分配器,你必须关注规则3。分配工作总是给系统带来一定的负担,因此管道分配器执行工作要比实际处理情况快很多才行。

规则3的公式是:

分配速率()>>处理速率()

换句话说,分配速率一定要比下游的处理速率快很多。如果不是,管道分配器自身将成为系统瓶颈,它会让整个软件管道架构失去意义。

在图2.8中,管道分配器为了避免成为系统瓶颈,必须拥有至少2000 TPS的吞吐能力。如果它能处理2000 TPS并且供给四个500TPS的管道,这样系统会工作的很不错。

图2.8  负载均衡良好的系统不存在瓶颈

然而,如果分配器含有复杂的路由事务逻辑,仅仅能处理1000 TPS那将会发生什么?如图2.9所示,管道分配器成了系统瓶颈。如果这样的情况发生,实现管道没有任何的好处,管道分配器浪费了宝贵的资源。

图2.9  拥有负载逻辑的管道分配器会成为系统的瓶颈

如果你分配了太多的管道可能导致相反的问题。假设分配器可以处理2000 TPS,然而将步骤B的四个管道扩展为八个管道,如图2.10所示。
这种情况下,每个管道只能处理250 TPS,但是每个管道的处理能力是500 TPS。所以,这也是浪费了资源而且你没能对系统进行优化。
为了避免上述两种问题,使用下面的公式来决定对于系统中给定部分管道的最优化个数。

管道数量()=分配器TPS/处理TPS()


图2.10  过多的管道会浪费系统资源

是理论下游执行管道的最大数目。你也可以认为这是对特定的处理过程做进一步的划分。是分配速率(管道分配器的处理速率),是下游处理速率(分配器供给的下游管道和组件的TPS总和)。对于系统某部,的比率是有效管道的理想数值。

当然,真实系统可能会出现一定的错误,因此你应做出一定冗余量,将管道数量提高10%到20%,确保系统有容错能力和足够流量。采用这种方式管道数量公式对于你的系统采用合适的管道数量和如何进行优化有着指导意义。

让我们看一个具体的例子。如果一个管道分配器的处理速率是1000 TPS,下游管道的处理速率为100 TPS,那么最大的管道数量是10。

这个系统将会比没有软件管道的系统快10倍。特别的是,在给定的时间内,这个系统将处理10倍于原来的事务数量。

管道数量公式向你展示重要的一点:系统必须以下游管道处理事务的速率向下游管道提供事务。否则,管道就会成为一个简单等待的没有任何收益的资源。

因此,最坏的场景是如果分配器评估和分配一个事务的时间比管道执行该事务的时间还长,你就不能从并发处理过程得到一点点的好处。事实上,分配器为处理过程带来一定不必要的消耗。当设计一个软件管道应用时,你的目的是最小化分配器带来的延迟(增加分配速率)并且尽可能多地为下游管道分派工作。

附加的一点是:第1章中提到你可以创建多层分配器与管道,任何管道都可以向分配器发送事务,为了从软件管道架构获得更多的益处,应用规则3与管道数量公式对于你的整个系统来说都很重要。

 

本书作者:

Cory Isaacson是Prelude Innovations公司(一个特别关注先进软件技术产品孵化和推荐的公司)的CEO。他积极参与领导信息技术工作20多年。Cory担任WebSphere Advisor杂志的技术编辑与专栏作家,在数百场的公众活动和研讨会上发表演说,并撰写关于架构和实用性技术的大量文章。Cory为数百个顶级架构师和专业开发人员(他们负责商业服务、娱乐、电信与软件行业的强大商业应用的开发与实现)提供指导。

最近Cory担任Rogue Wave Software公司的总裁,3年来担任公司管理,建立新产品战略,并在2007年中期被一家私人控股公司成功收购。Cory关注的重点是有效地解决诸如SOA、可视化和支持实际业务应用的商品化资源的新技术开发和部署的挑战性问题。Cory具有高性能的事务处理应用的专业知识,帮助先进IT企业对数据与业务数量上的急剧增长做出响应,同时还解除了经营成本的压力。最近,Cory一直是在多核架构上为了改善应用程序性能而使用并行处理和可伸缩的数据库技术的积极倡导者。

Cory在美国加州圣巴巴拉大学获得学士学位。

内容简介:

《多核应用架构关键技术--软件管道与SOA》 介绍软件管道如何工作,它们能完成什么样的任务,如何使用软件管道优化周期来应用它们。通过并行处理方法,扩展保证关键任务处理有序的应用程序。解决现存应用程序的性能问题,并且解决现存处理过程中的瓶颈问题。一个完整的、容易采用的管道参考框架。详细的代码示例反映了经过验证的管道模式。 本书适用于开发多核环境下软件的人员。

分享到:
评论
2 楼 hzbook 2012-07-03  
Devin.Chenzx 写道
书中的源代码 和网址现在不能访问!你们那里有备份么?

抱歉,华章官网上也没有,给您的阅读带来了不便,请见谅
1 楼 Devin.Chenzx 2012-04-07  
书中的源代码 和网址现在不能访问!你们那里有备份么?

相关推荐

    管道过滤器(软件体系结构)

    ### 管道过滤器(软件体系结构) #### 概述 随着软件系统规模和复杂性的不断增长,软件体系结构的设计变得尤为重要。良好的体系结构能够确保软件系统的成功部署与维护,而管道过滤器模式作为软件体系结构的一种...

    Linux系统管道和有名管道的通信机制

    - **读写规则**:管道由两个文件描述符表示,fd[0]代表读端,只能读;fd[1]代表写端,只能写。尝试反向操作会导致错误。 2. **API应用** - **创建管道**:使用`pipe(int fd[2])`函数创建管道,返回两个文件描述符...

    通风管道阻力计算

    2. 局部阻力:当空气流经管道中的弯头、阀门、分支、变径等不规则部分时,因流态改变产生的阻力。局部阻力比摩擦阻力更具不确定性,需根据特定部件的几何形状和空气流动条件来计算。 二、计算方法 1. 哈格比-林德...

    管道建模基础

    管道等级的命名通常遵循一套规则,包含压力等级、材料类型和管道介质(考虑腐蚀裕量)的信息。 在实践中,管道等级如A1A-TRA、A3B-TRA、F1C-TRA分别代表了不同压力等级、材质的管道,其中A1A-TRA适用于150磅的普通...

    长输管道CAD软件V4.0的开发与应用.pdf

    长输管道CAD软件V4.0在这方面进行了有益的探索,它不仅提供了知识定义、规则定义、材料定义等功能,还通过这些定义实现了设计思想的驱动,使得软件在设计工作中更加灵活和智能化。 在设计思想上,软件强调了知识与...

    PDMS插件_维图管道自动连接

    1. **智能识别**:插件能够识别出拷贝的管道段,并根据预设规则或用户配置,判断应该与哪些管道相连接。 2. **自动化连接**:在识别出合适的连接点后,插件会自动创建必要的连接关系,无需设计师逐个确认和操作。 ...

    SolidWorks管道与布线教程 2012版.pdf

    根据提供的信息,我们可以推断出该文档主要关注的是SolidWorks软件中的管道与布线功能,尤其是针对2012版本的教程。SolidWorks是一款广泛应用于机械设计、产品开发等领域的三维CAD软件,它提供了强大的设计工具,...

    设计智能化与设计信息化思想——在长输管道CAD软件中的探索与实现.pdf

    在长输管道CAD软件中,设计智能化的思想主要通过软件实现规则和知识的分离,通过信息化的方式定义规则和知识,并建立规则驱动机。这样可以实现规则定义、模式识别、规则驱动的设计功能,以及规则的管理、衍生和自主...

    pdms管道建模

    9.具体案例练习:通过实例练习,如生成一个具体的管道实例(例如80-B-7),学习管道命名规则、设计参数设置、保温措施、模型检查以及生成ISO图等操作。 通过上述知识点的介绍,可以看出PDMS管道建模不仅涉及了复杂...

    基于Android平台的压力容器管道安全状况等级评定软件开发.pdf

    【压力容器与管道安全状况等级评定】根据国家规定,如TSG21-2016《固定式压力容器安全技术监察规程》和TSG D7005-2018《压力管道定期检验规则-工业管道》,定期检验中必须对压力容器进行安全状况等级评定。...

    计算机软件-商业源码-简单数据管道技术.zip

    在这个“计算机软件-商业源码-简单数据管道技术.zip”压缩包中,包含的源代码可能是实现这一功能的基础工具或框架。 1. **数据管道概念**: 数据管道的核心是将数据流从源头抽取、转换并加载到目标系统。这个过程...

    新建排水管道CCTV检测报告模板[新版].pdf

    5. **管道评估**:评估依据了一套规则,如缺陷权重求和、最小评估单位为管段,并推荐使用计算机软件辅助评估。检测项目以代码标识,缺陷等级根据预设标准分类。 6. **总体评估与建议**:这部分给出了基于CCTV检测...

    PVEliteDemo

    此外,软件还包含了自动布管功能,能根据预设规则快速生成管道路径,大大节省了设计师的时间。 在压力损失计算方面,PVEliteDemo内置了多种流体性质模型和流动状态方程,可以精确计算由于摩擦、局部阻力等因素导致...

    5S及目视化-管道标识标准[定义].pdf

    对于开发者来说,这意味着建立一个系统化的代码存储结构,如版本控制系统(如Git),并设定文件命名规则,使代码易于查找。 3. Seiso(清扫):清扫不仅涉及物理清洁,还包括保持工作环境和过程的清洁。在软件开发...

    软件开发编程规则.pdf

    【软件开发编程规则】 在软件开发中,编程规则起着至关重要的作用,它们旨在规范编码实践,提升程序质量,确保代码的可读性和可维护性。以下是一些关键的编程规则,适用于各种软件开发项目: 1. **用户界面设计**...

    CAD工程制图规则

    规则通常建议按对象类型(如墙体、家具、管道等)设置图层,并保持图层命名的一致性。开启或关闭图层可以控制其在图纸中的可见性。 3. 线型与颜色配置:线型定义了线条的样式,如实线、虚线、点划线等,以区分不同...

    软件体系结构(ppt版)

    软件体系结构(Software Architecture)是指一个软件系统的高级构造和组织,包括其主要组件、组件之间的交互方式、指导系统构建的原则以及这些组件和交互模式的规则和约束。 软件体系结构的概念起源于对软件危机的...

    基于管道过滤器风格的单词排序程序

    在软件工程中,这种模式通常用于处理大量数据,例如文本处理、音频视频编码或网络数据传输。每个过滤器负责特定的任务,如读取输入、解析数据、处理数据或生成输出。通过连接这些过滤器,我们可以构建复杂的数据处理...

    pdms管道结构建模

    - **管道建模**:管道建模是PDMS软件中的核心功能之一,主要用于在三维空间中进行管道的设计与布置。这一过程不仅可以提高设计效率和质量,还能有效避免设计过程中可能出现的各种问题。 #### 二、数据库层次 - **...

    AutoCAD绘制化工工艺图纸第章管道布置图绘制完美版资料.ppt

    第二:了解管道布置图的基本规则和标准,了解绘制图纸的要点。 第三:掌握绘制图纸的技巧,了解如何绘制美观易读的图纸。 第四:了解如何使用AutoCAD快速绘制图纸,提高设计效率。 绘制管道布置图的应用 ...

Global site tag (gtag.js) - Google Analytics