`

大型分布式系统组成元素

阅读更多
#1,分布式跟踪系统
     监控平台,如淘宝的鹰眼。用于跟踪请求处理调用链关系,并将各环节请求处理时间,处理结果等信息通过日志系统存入数据库。便于排查错误和分析性能瓶颈等作用。分布式跟踪系统要做到低损耗,低侵入性(最好能做到对应用层代码透明)等特性。
       
#2,消息中间件
     作用:异步,解耦,并行,流量削峰(activeMq,rabbiteMq,kafka,zeroMq等),对于秒杀类场景,可以使用mq进行流量削峰,将客户端抢购请求封装成消息,投入mq。由后台系统异步去处理抢购请求,从而可以避免大量请求直接打到应用服务器,数据库服务器,造成系统瘫痪。后台处理系统可以采用按批次处理抢购请求,比如1次处理100个请求。从而可以很好的控制对数据库系统造成的压力。

#3,分布式缓存系统
     作用:缓存热点数据,减轻数据库系统压力,提升服务响应性能(redis,memcached等),要做到缓存系统的高可用,一般采用主从模式,redis自带数据复制功能,但memcached不支持数据复制,必须采用第三方插件repcached,完成主从之间的复制,memcached sdk支持failuremode,当主库宕机后,能够自动将请求转到从库。或者使用keepalived插件实现双机浮动的高可用方案。

#4,分布式文件系统(fastDFS)

#5,分布式日志收集系统
     作用:收集应用系统日志,用于系统分析
     flume(日志采集器) -> kafka(日志缓冲队列) -> storm(实时分析框架) -> mongodb或hdfs或关系型数据库(分析结果入库)

#6,分布式数据库集群
      mysql数据库,当单表数据量达到千万级别时,就要考虑数据的水平切分了,mysql单表数据量一亿时,select count(1) from t_table_a,耗时24秒左右,性能慢的是让人难以忍受的。所以对于数据按时间,Id,hash等规则水平切分到不同分库里(mycat中间件代理),按业务进行垂直拆分,将不同业务表,分到不同的业务库里。以此提升数据库服务器响应性能。
      
#7,集群配置管理系统
     作用:管理应用系统配置及服务降级开关等配置,可以采用netty自己实现配置变更推送功能。
     
#8,SOA服务化治理
     作用:服务动态发现,服务治理,服务监控等功能。例如:阿里的dubbo , 当当网的dubbox。

#9,负载均衡,反向代理
     作用:流量分发,失效转发 failover,反向代理等功能。例如:nginx , haproxy , lvs。
 
分享到:
评论

相关推荐

    基于WCF的分布式系统模型研究与实现.pdf

    分布式系统的出现和发展,主要是为了解决大型系统在面对不断变化的应用需求时所遇到的种种问题,比如系统的可维护性、可扩展性以及性能优化等。 WCF(Windows Communication Foundation)是微软推出的用于构建...

    大型分布式系统的近似可靠性评估

    为了评估具有有限计算资源的大型分布式系统的复杂结构功能,通常的做法是截断BDD。 使用截短的BDD(比精确的BDD小得多),可以计算出近似的可靠性。 本文提出了一种高效的BDD截断算法,该算法采用惰性机制和写回...

    分布式计算课件(PPT)

    首先,分布式对象是分布式系统中的基本元素。它们是封装了数据和行为的独立实体,可以在网络中的不同节点上创建、复制和操作。理解分布式对象的关键在于掌握其透明性,即无论对象位于何处,用户都可以像操作本地对象...

    构建高性能的大型分布式java应用

    ### 构建高性能的大型分布式Java应用 #### 第一章:分布式Java应用 **1.1 基于消息方式实现系统间通讯** 在分布式Java应用中,基于消息方式进行系统间通讯是一种常见的策略。这种方式的核心在于系统之间的交互是...

    基于分布式发电的微网系统建模研究.pdf

    “建模”则是指对微网系统或其组成元素进行抽象化和数学化的描述过程,建模的目的是为了分析、优化和预测系统的运行特性。 在微网系统建模中,需要考虑的关键因素包括:各种分布式发电资源(如光伏发电、风力发电、...

    深入浅出分布式技术原理 教程 下载 下载2.zip

    1. **分布式系统的概念与架构**:首先,我们会介绍分布式系统的定义,包括它的组成元素如节点、网络通信、数据存储等,并讨论不同类型的分布式架构,如客户端-服务器(C/S)架构、对等网络(P2P)架构等。...

    论文《分布式系统上大事件日志和流程模型之间的最佳对齐:基于Petri网的方法》翻译

    它由位置(圆圈)和变迁(方框)组成,箭头连接这些元素,用来表示系统的状态转换。 - **流程模型**:用于描述业务流程的一种抽象形式,可以通过Petri网来建模。这些模型用于理解流程的工作方式,识别潜在的改进点...

    基于CBF的分布式元组空间叉积算法.pdf

    分布式系统是一种计算系统,它由多个自主的计算机组成,这些计算机通过网络连接协同工作,共同完成计算任务。在分布式系统中,数据和处理能力分散在不同的物理位置,为用户提供透明性和可伸缩性等优势。然而,分布式...

    distributed_source_分布式阵列_阵列信号处理_分布式空间谱_

    分布式阵列指的是由多个小规模子阵列组成的大型阵列系统,这些子阵列可以是物理上分散的,而非集中在一个固定的位置。这种分布式的结构使得系统具有更广的覆盖范围、更高的分辨率和更强的抗干扰能力。 阵列信号处理...

    大规模电力系统中分布式求解线性方程组的算法设计.pdf

    在这种背景下,分布式求解线性方程组成为了一个热门的研究方向。分布式方法利用了多智能体(multi-agent)的系统结构,通过多个计算节点协同工作,有效地分解和分配计算任务,从而解决集中式计算方法的瓶颈。 首先...

    使用VERSANT分布式面向对象云数据库的大型多人在线游戏性能

    ### 使用VERSANT分布式面向对象云数据库的大型多人在线游戏性能 #### 概述 随着互联网技术的飞速发展,大型多人在线游戏(MMOGs)已经成为全球范围内最受欢迎的娱乐方式之一。这类游戏通常具有复杂的交互机制、丰富...

    基于负载均衡的分布式IMS体系架构的优化.pdf

    通过这种优化,分布式IMS体系的负载均衡有助于进一步完善分布式系统的具体实施,从而提供更加稳定和高效的通信服务。 关键词“移动服务平台”、“IP多媒体子系统构架”、“分布式”、“负载均衡”揭示了文章的研究...

    pb11+webservice开发分布式三层应用

    在分布式系统中,数据访问层可能通过Web服务进行远程调用。 **二、PB11与Web服务** 1. **Web服务**:是一种基于标准的,能够跨平台、跨语言的通信方式。在PB11中,我们可以调用Web服务,也可以发布自己的Web服务。...

    流水行云:支持可扩展的并行分布式流处理系统.pdf

    例如,一个电商网站在双11等大型促销活动期间,访问量可能会突然增加数倍,一个可扩展的并行分布式流处理系统能够在这种情况下保持稳定运行,而不会出现响应延迟或系统崩溃的情况。 “流水行云”系统已经在由60个...

    大型网站技术架构:核心原理与案例分析

    大型网站架构通常涉及分布式系统、负载均衡、数据库优化、缓存策略、微服务、CDN内容分发网络等多个层面。这些元素共同构成了支持大规模用户访问、处理海量数据的基础架构。本书将深入探讨这些关键组成部分,解析其...

    分布式计算机控制系统PPT学习教案.pptx

    分布式计算机控制系统(DCS,Distributed Control System)是一种先进的自动化控制系统,主要用于大型复杂的工业生产过程控制。DCS的核心思想是将系统的功能分散到多个独立的处理单元,通过网络进行通信和协调,实现...

    大型网站技术架构

    在高并发环境下,CAP理论和BASE原则是设计分布式系统的基础。CAP强调一致性、可用性和分区容忍性之间的权衡,而BASE则提出了基本可用、软状态和最终一致性的理念。 监控和日志管理也是大型网站架构不可或缺的部分,...

    s4:分布式流计算平台

    这种设计使得S4能够在由廉价硬件组成的大型集群上运行,并展现出惊人的灵活性。 #### 三、核心功能 - **键控事件路由**:S4采用基于键的数据事件路由策略,确保数据事件能够被具有相同键值的PEs处理,这有助于优化...

Global site tag (gtag.js) - Google Analytics