- 浏览: 1019775 次
- 性别:
- 来自: 北京
文章分类
- 全部博客 (529)
- 服务器 (8)
- jsp (1)
- java (6)
- AIX (1)
- solaris (3)
- linux学习 (53)
- javaScript (2)
- hibernate (1)
- 数据库 (74)
- sql语句 (8)
- oracle 学习 (75)
- oracle 案例 (42)
- oracle 管理 (42)
- Oracle RAC (27)
- oracle data guard (12)
- oracle 参数讲解 (14)
- Oracle 字符集 (8)
- oracle性能调优 (24)
- oracle备份与恢复 (12)
- oracle Tablespace (9)
- oracle性能诊断艺术 (1)
- oracle 11g学习 (5)
- oracle streams (1)
- oracle upgrade and downgrade (4)
- db2学习 (13)
- db2命令学习 (2)
- mysql (28)
- sql server (30)
- sql server 2008 (0)
- 工具 (10)
- 操作系统 (3)
- c++ (1)
- stock (1)
- 生活 (5)
- HADOOP (2)
最新评论
-
massjcy:
...
如何将ubuntu文件夹中文名改为英文 -
skypiea:
谢谢。。。
终于解决了。。。
Oracle 10.2.0.4(5)EM不能启动的解决方案(Patch 8350262) -
qwe_rt:
引用vi /etc/sysconfig/network 请问 ...
Linux操作系统下配置静态IP上网 -
liuqiang:
sudo killall -9 apache2
ps 和 kill 命令详解 -
dazuiba:
引用*绝杀 kill -9 PID 当使用此命令时,一定要通过 ...
ps 和 kill 命令详解
随着信息量飞涨,信息的存储成为了这个时代至关重要的一项技术。如何来保证数据存储技术能够适应信息量的增长速度和我们对信息的高度依赖,成为一个非常重要的课题。本文将从数据库架构的层面,通过以开源的数据存储软件来构建分布式数据层的思路,期望实现一个低成本的高可用可扩展的数据层架构。
传统数据库架构
纵观各传统商业数据库软件,多以集中式架构为主,鲜有以分布式为设计理念的架构。这些传统数据库软件的最大特点就是将所有的数据都集中在一个数据库中,依靠大型高端设备来提供高处理能力和扩展性。
集中式数据库架构在扩展性方面主要依赖于主机和存放数据的存储设备的扩展能力,也就是说依赖硬件本身的纵向扩展能力,很难做到较好的横向扩展。而其可靠性也同样是以硬件设备为依托,主要通过Share Storage的方式来实现。如大家所熟知的传统商业数据库代表厂商Oracle的RAC,就是一个非常典型的Share Everything 的集中式架构。
我们可以通过图1来简单地描绘一下传统数据库的典型架构:传统架构在主机端大多通过两台主机共享存储设备,平时其中一台主机使用存储通过数据库软件来管理。这样的架构只能有一台主机(RAC除外)上的数据库能够提供服务,另一台主机只能是作为热备冗余,不能启动数据库实例提供服务。所以,其处理能力就完全取决于这台主机的最大扩展能力,很难通过增加主机数量来增加处理能力。而单台主机的扩展能力毕竟是有限的,即使是某些厂商的大型机,同样也有其扩展限制。此外,传统架构对高端设备的依赖,无疑将直接导致系统成本的大幅度增加,甚至可能会导致系统被主机和硬件厂商所“绑架”,不得不持续增加投入成本。
图1 传统数据库的典型架构
基于MySQL的可扩展和高可靠
MySQL 作为开源数据库的佼佼者,无论是软件本身的设计思想,还是推崇给广大使用者们常用的架构思路都和传统的商业数据库软件大相径庭。MySQL弃用了传统的 Share-Everything的思想,而采用了Share-Nothing的思想。MySQL的Replication实现机制,以及 MySQL Cluster的架构设计,都体现了这一思想。也正因如此,给MySQL在可扩展性和高可靠性方面带来了非常灵活的架构设计思路,也让我们的数据库可以摆脱对高端设备的依赖,使用上性价比高很多的PC Server。
可扩展性
在提升扩展性方面,最为常用的是通过MySQL自身的Replication功能,将同一份MySQL的数据以异步的方式同时复制到另外的一台或多台 MySQL主机上,并让这些MySQL主机同时对外提供查询服务。每增加一个复制的节点,查询处理能力也得到相应的增加,新增节点的处理能力就是整个系统增加的处理能力。由于MySQL Replication主要是逻辑方式,同一个集群中可有多家厂商的硬件,也可以使用不同的OS,所以可以做到完全不受任何软/硬件平台限制,摆脱对单一平台的依赖。
人们可能会对MySQL Replication的功能特性不满意,进而通过第三方开源软件,甚至是通过解析其开源的通信协议自行开发出来的复制软件来进行数据实时(或者异步)复制来达到 Replication完全相同甚至更好的效果。传统数据库可能也具有某项功能实现数据的复制,但与MySQL相比,由于只依靠数据库本身特性来完成,在架构的灵活性和可控性方面存在一些不足。
最后,在提升扩展性方面不得不说的数据切分(横向/纵向)的思想,同样可以在MySQL数据库上得到灵活的发挥,无论是以功能模块的方式进行纵向的切分,还是以某个特定键(字段)的类HASH分段的方式进行横向的切分,抑或是通过数据库本身的Partition功能进行切分,都可以在MySQL上得到很好的实现。当然,无论是切分前的数据分散,还是切分后的数据路由和合并都离不开应用层的协作与配合,除非通过MySQL Cluster来实现。对于提升扩展性的架构,通过图2会有一个更为直观的展现。
图2 能够提升扩展性的架构
图中以“Master”为核心,通过不同的方式以三条“路线”将数据复制到相应的 MySQL 集群中对外提供服务。实际的架构中,Master就是一个数据写入点,复制出去的集群则可以对外提供相应的查询请求。常见的Web应用系统中,查询请求远远大于写入请求,所以非常适合通过MySQL 数据库使用类似的架构思想来解决实际的扩展性问题。
高可靠性
在保证高可靠性方面,同样可以通过MySQL的 Replication 为基础,加以应用层架构的简单配合或一些开源的第三方HA管理软件来设计出多种非常灵活的高可靠架构。
对于数据写入点,可以通过MySQL的Replication功能,将两台MySQL主机设置成双A的状态,并通过HA管理软件,对MySQL的状态检测,来判定MySQL的状态,并对外提供供单一的服务 IP 地址,以确保在任何时候有一台MySQL崩溃后马上切换到另外一台MySQL上提供服务。这样自动的方式非常方便地让我们的写入点拥有高可靠性。如果我们的应用程序也可以自动判断当一个点失效后马上自动切换到另外一个点就更好,基本上可以做到对外部完全透明的切换,对可用性的影响之小,比现在一些知名厂商的专业HA管理都要好很多。
对于数据查询点,高可靠性的实现就更容易了,可从双A的两台Master端中的任意一台上通过数据复制搭建多个具有完全相同数据拷贝的MySQL节点,来保证任何时刻都可以有多台MySQL对外提供数据查询服务。当一台MySQL崩溃,系统马上将该节点从可以服务的节点中剔除出去。通过应用架构的帮助这是非常容易做到的事情。
图 3是高可靠性实例图。1描绘了基本架构,2、3和4分别描绘了当读节点失效以及写节点中的任何一个失效后的高可靠性实现。在高可靠性方面,除了自行控制将数据复制到多个MySQL主机上的方式之外,MySQL还提供了更为高级的方案——MySQL Cluster,一个完全的分布式数据库集群,而且是一个非常典型的Share-Nothing的分布式数据库架构。数据层和SQL层分离,每份数据都以两份或更多份拷贝存放在不同的数据节点上,整个数据层的所有节点以分布式计算的思想共同处理整个数据库的数据,在保证高并发的处理能力的同时,以数据冗余的方式保证了高可靠性。
图3 高可靠性实例图
构建基于MySQL、Cache 和Search的数据层
随着Web应用系统负载的增速越来越快,常让系统不堪重压,数据库系统尤甚。而随着对用户体验关注度的提高,响应速度和使用的便利性则成为不可避免的话题。无论如何优化都不可能避免磁盘物理I/O的响应速度与内存中的I/O速度不匹配的问题,所以很自然地想到了通过内存Cache的方式来提高响应速度。
在使用的便利性方面最为典型的就是数据搜索。关系型数据库的特性,决定了它很难提供类似于Google那样的可以全文检索的搜索系统。我们再次以借助“外力”的方式来完善服务,将数据库中的数据通过利用Lucene或者Egothor等类似的搜索引擎系统,或者是利用Sphinx之类的软件和数据库集成,为数据库增加全文检索的能力。
可以设计出一个以数据库(My-SQL)来完成持久化和常规的数据访问功能,以分布式内存Cache系统来提供对响应速度和并发能力极高的数据的访问,以第三方或者自行研发的分布式全文搜索系统来提供全文检索服务的全方位的分布式数据服务层,中间则通过应用架构的帮助实现一个统一的数据访问层,来控制数据的读取写入检索等操作,如图4所示:让MySQL中的数据同步(或异步)写入到Cache和Search系统的实现方式很多,如对实时性要求不是很高,也不希望Data Proxy Layer中有太多的控制逻辑,完全可以通过队列的方式以异步的方式实现;如对实时性要求较高,也可以通过 Data Proxy Layer这一层应用来控制Cache和Search中的数据更新;甚至还可以通过MySQL的用户自定义函数,以 Trigger的方式将数据实时地更新到Cache集群。类似的方式可以想出很多,关键是要根据应用场景,来选择最合适、最简单的方式来实现。
图4 数据写入Cache和Search系统的实现方式
架构无所谓最好的,只有最合适的。任何架构都有其适用的场景,也有其相应的生命周期。应用场景或业务量的变化,都可能导致架构不足以应对的现象。引用一句电影台词:“出来混,迟早要还的!”
发表评论
-
MySQL全连接(Full Join)实现
2012-07-09 18:18 4214MYSQL 可以用 union 实现全连接 mysql> ... -
Mysql Query Cache学习篇
2012-03-19 14:32 962基础介绍篇: QueryCache是用来缓存select语句 ... -
MySQL Query Cache 小结
2012-03-19 14:31 679本文转自:http://isky000.com/databas ... -
max_length_for_sort_data
2012-03-08 11:11 1394这段时间mysql 数据库的性能明显降低,iowait达到了 ... -
BlackHole :黑洞引擎
2012-02-03 14:42 1151BlackHole :黑洞引擎,写入的任何数据都会消失,用于记 ... -
正确重置MySQL密码
2012-02-03 00:51 744谁都不想弄丢家门钥匙,但不管多么小心,时间长了,这样的事情总会 ... -
MYSQL--my.cnf配置中文详解
2012-02-02 22:55 924mysqld程序--目录和文件 ... -
MYSQL EXPLAIN
2012-02-01 20:24 897对于经常使用mysql的兄弟们,对explain一定不会 ... -
MySQL性能优化的参数简介
2011-03-24 23:18 697公司网站访问量越来越 ... -
mysql replication原理介绍
2011-03-24 23:04 1031要想用好一个系统,理解其实现原理是非常重要的事情,只有理解了其 ... -
如何为用户设置密码
2011-03-24 22:27 753当初次在机器上安装完Mysql时,你可以匿名进行访问数据库或者 ... -
MySQL数据的导出和导入工具:mysql
2011-03-24 22:24 750导出要用到MySQL的mysqldum ... -
How to Backup a MyISAM / InnoDB MySQL Database
2011-03-24 22:19 939Whichever MySQL storage engine ... -
加大mysql的最大连接数
2011-03-24 22:10 824mysql的最大连接数默认是100, 这个数值对于并发连接很多 ... -
MySQL服务器安装完之后如何调节性能
2011-03-24 22:04 695My favorite question during Int ... -
MySQL 性能优化的简单办法
2011-03-24 21:50 1477优化数据库最核心的实际上就是配置参数的调整。本文通过一个简单的 ... -
Mysql 占用cpu资源高
2011-03-24 21:44 1157朋友主机(Windows 2003 + IIS ... -
MySQL慢查询分析mysqldumpslow
2011-03-24 21:40 1046MySQL优化的第一步应该做的就是排查问题,找出瓶颈,而通常情 ... -
打开MySQL的慢查询记录
2011-03-24 21:38 916打开MySQL慢查询MySQL慢查询记录日志对于跟踪PHP+M ... -
MySQL Back to Basics:Analyze,Check,Optimize, and Repair
2011-03-24 01:33 874It felt like the right time for ...
相关推荐
【MySQL的高可用可扩展架构】 MySQL作为一个开源数据库,其在高可用性和可扩展性方面的设计与传统商业数据库有着显著的区别。传统数据库通常采用集中式架构,依赖于大型高端设备来提供处理能力和扩展性,例如Oracle...
【标题】:“高可用可扩展数据层架构探讨1” 【描述】:在信息化时代,随着数据量的急剧增长,高效、稳定的数据存储技术变得尤为重要。本文将探讨如何构建基于 MySQL 的分布式低成本高可用可扩展数据层,以应对信息...
《Sina架构师:基于MySQL可扩展架构设计》是一本深入探讨如何利用MySQL构建高可用、高性能、可扩展的数据库架构的专业书籍。该书主要针对的是互联网行业中的大型网站和应用,尤其是那些需要处理海量数据并确保服务...
本文将从数据库架构的层面,通过以开源的数据存储软件来构建分布式数据层的思路,期望实现一个低成本的高可用可扩展的数据层架构。传统数据库架构纵观各传统商业数据库软件,多以集中式架构为主,鲜有以分布式为设计...
【标题】:“基于MySQL的实用可扩展架构设计”是由新浪高级DBA杨海朝分享的一份关于如何在大型互联网环境中构建高效、可扩展的MySQL数据库架构的教程。这份资料深入探讨了在处理海量数据和高并发场景下,如何优化和...
在讨论基于MySQL的可扩展架构设计时,企业实际应用案例显得尤为重要。新浪作为一家大型互联网公司,其数据库的架构设计和运维工作对业界具有示范效应。本文将围绕杨海朝先生的个人简介,探讨在新浪背景下,MySQL...
本篇将深入探讨一种基于LVS(Linux Virtual Server)+Keepalived+MySQL的单点写入主主同步高可用方案,以及其读负载均衡的扩展方案。 2.1 方案简介 该方案主要通过LVS实现负载均衡,Keepalived确保服务的高可用,而...
本文档将探讨多种MySQL高可用性策略,旨在帮助企业在满足业务连续性、数据安全性和成本效益之间找到平衡。 **一、前言** 随着信息化的深入发展,系统高可用性成为设计系统架构的核心考虑因素。高可用架构旨在确保...
《高可用MySQL群集构建健壮的数据中心》是一本深入探讨如何通过MySQL技术构建稳定、高效、可扩展数据中心的专业书籍。这本书共566页,全面涵盖了MySQL在高可用性环境下的应用实践。 首先,MySQL作为全球最广泛使用...
架构设计部分,书会探讨如何构建高可用和可扩展的MySQL集群,如主从复制、分片和分布式架构。主从复制可以实现数据备份和负载均衡,提高系统的容错能力。分片策略则可以将大数据量分散到多个服务器上,降低单点压力...
基于MySQL的博客系统数据库架构设计,通过数据分拆和适当的扩展策略,可以实现高性能、高可用性的博客服务。这种架构不仅适用于博客系统,还对其他需要处理大量数据和高并发访问的Web应用具有重要的参考价值。
在处理大数据量的场景下,MySQL架构的优化、管理和可扩展性就显得尤为重要。Jeremy Cole分享了MySQL生态系统的演变历史,从1994年的发展开始,到各个主要版本的更新,包括InnoDB存储引擎、复制、分区、行级复制等...
13. 集群与负载均衡:介绍MySQL集群(如MMM、Galera Cluster)和负载均衡器(如HAProxy、Nginx),以及如何实现高可用性和读写分离。 14. 数据库设计模式:探讨数据库架构设计中的微服务、读写分离、CQRS(命令查询...
本篇文章将基于“高并发高可用MySQL优化”这一主题,深入探讨MySQL的索引优化、查询优化、架构设计以及高可用性策略。 首先,我们来关注MySQL的索引优化。索引是提升查询速度的关键,合理的索引设计能够大幅减少...
5. 异步架构:采用异步处理模型,如使用消息队列,可以解耦服务,提高系统响应速度,并提供更好的可扩展性。 6. 集群与云数据库:MySQL集群(如Galera Cluster)提供高可用性和故障切换,云数据库服务(如AWS RDS)...
《MySQL高可用性》这本书是数据库管理员和开发者的宝贵资源,深入探讨了如何构建和维护高度可用和可扩展的MySQL环境。这本书的核心内容围绕着如何确保MySQL服务的不间断运行,即使在面临硬件故障、网络问题或者高...
综上所述,《基于Terracotta和Continuent的可扩展集群架构》不仅提供了解决关键业务系统高可用性问题的技术路线图,同时也展示了如何利用开源技术和工具构建高性能、低成本的集群架构。这对于现代企业的IT基础设施...