Poppen.de是德国的一个社交网站,相对Facebook、Flickr来说是一个很小的网站,但它有一个很好的架构,融合了很多技术,如 Nigix、MySql、CouchDB、Erlang、Memcached、RabbitMQ、PHP、Graphite、Red5以及Tsung。
统 计信息
- 200万注册用户数;
- 2万并发用户数;
- 每天20万条私有消息;
- 每 天25万登录次数;
- 项目团队有11个开发人员,两个设计,两个系统管理员;
商业模式
该 网站采用免费增值模式,用户可以免费使用下面任何服务:
- 搜索其他用户;
- 给好友发送消息;
- 上 载图片和视频;
- 寻找好友;
- 视频聊天;
- 更多…
但如果用户想享受不受限制发送消 息和上载图片,那么就得根据需要支付不同类型的会员服务,视频聊天及网站其他服务也采用同样的策略。
工具箱
Nginx
Poppen.de 所有的服务都是基于Nginx服务上的。前端有两台Nginx服务器在高峰期提供每分钟15万次请求的负载,每个机器已经有四年寿命,并且只有一个CPU 和3GB RAM。Poppen.de拥有三台独立的图像服务器,由三台Nginx服务器为*.bilder.poppen.de提供每分钟8万次请求服务。
Nginx 架构中一个很酷的设计就是有很多请求是由Memcached处理的,因此请求从缓存中获取内容而不需要直接访问PHP机器。比如,用户信息页(user profile)是网站需要密集处理的内容,如果把用户信息页全部缓存到Memcached上,那么请求直接从Memcached上获取内容。 Poppen.de的Memcached每分钟可以处理8000次请求。
架构中有三个Nginx图像服务器提供本地图像缓存,用户上载图 像到一个中央文件服务器。当向这三个Nginx之一中请求图像时,如果服务器本地中没有存在该图像,则从中央文件服务器下载到该服务器上作缓存并提供服 务。这种负载均衡的分布式图像服务器架构设计可以减轻主要存储设备的负载。
PHP-FPM
该网站运行在PHP- FPM上。共有28台双CPU、6GB内存的PHP机器,每个机器上运行100个PHP-FPM的工作线程。使用启用了APC的PHP5.3.x。 PHP5.3可以降低CPU和内存使用率的30%以上。
程序代码是基于Symfony1.2框架之上开发的。一是可以使用外部资源,二是 能够提高项目开发进度,同时在一个著名的框架上可以让新开发人员更容易加入到团队中来。虽然没有任何事情都是十全十美的,但可以从Symfony框架中得 到很多好处,让团队可以更多的精力放在Poppen.de的业务开发上去。
网站性能优化使用XHProf,这是Facebook开源出来 的一个类库。这个框架非常容易个性化和配置,能够可以缓存大部分高代价的服务器计算。
MySQL
MySQL是网站 主要的RDBMS。网站又几个MySql服务器:一台4CPU、32GB的服务器存储用户相关信息,如基本信息、照片描述信息等。这台机器已经使用了4 年,下一步计划会使用共享集群来替换它。目前仍基于这个系统上进行设计,以简化数据访问代码。根据用户ID进行数据分区,因为网站中大部分信息都是以用户 为中心的,如照片、视频、消息等。
有三台服务器按主-从-从配置架构提供用户论坛服务。一台从服务器负责网站自定义消息存储,到现在有 2.5亿条消息。另外四台机器为主-从配置关系。
另外由4台机器配置成NDB族群专门服务于密集型写操作数据,如用户访问统计信息。
数 据表设计尽量避免关联操作,尽可能缓存最多的数据。当然,数据库的结构化规范已经完全被破坏掉了。因此,为了更容易搜索,数据库设计创建了数据挖掘表。
大 部分表是MyISAM型表,可以提供快速查找。现在的问题是越来越多的表已经全表锁住了。Poppen.de正考虑往XtraDB存储引擎上迁移。
Memcached
网 站架构中Memcached应用相当多,超过45GB的高速缓存和51个节点。缓存了Session会话、视图缓存以及函数执行缓存等。架构中有一个系统 当记录被修改时可以自动地把数据更新到缓存中去。未来改善缓存更新的可能方案是使用新的Redis Hash API或者MongoDB。
RabbitMQ
在 2009年中开始在架构中使用RabbitMQ。这是一个很好的消息解决方案,便于部署和集中到这个架构中去,在LVS后运行了两台RabbitMQ服务 器。在上个月,已经把更多的东西集成到该队列中,意味着同一时刻有28台PHP服务器每天要处理50万次请求。发送日志、邮件通知、系统消息、图像上载等 更多的东西到这个队列中。
应用PHP-FPM中的fastcgi_finish_request()函数集成队列消息,可以把消息异步发 送到队列中。当系统需要给用户发送HTML或JSON格式响应时,就调用这个函数,这样用户就没有必要等到PHP脚本清理。
这个系统可以 改善架构资源管理。例如,在高峰期服务每分钟可以处理1000次登录请求。这表示有1000并发更新用户表保存用户的登录时间。由于使用了队列机制,可以 按相反的顺序来运行这些查询。如果需要提高处理速度,只需要增加更多的队列处理者即可,甚至可以增加更多的服务器到这集群中去,而不需要修改任何配置和部 署新节点。
CouchDB
日志存储CouchDB运行在一台机器上。在这台机器上可以根据模块/行为进行日志查询 /分组,或者根据错误类型等等。这对定位问题非常有用。在使用日志聚合服务CouchDB之前,不得不逐台登录到PHP服务器上设法日志分析定位问题,这 是非常麻烦的。而现在把所有的日志集中到队列中保存到CouchDB中,可以集中进行问题检查和分析。
Graphite
网 站使用Graphite采集网站实时信息并统计。从请求每个模块/行为到Memcached的命中和未命中、RabbitMQ状态监控以及Unix负载等 等。Graphite服务平均每分钟有4800次更新操作。实践已经证实要监测网站发发生什么是非常有用的,它的简单文本协议和绘图功能可以方便地即插即 用的方式用于任何需要监控的系统上。
一件很酷的事情是使用Graphite同时监控了网站的两个版本。一月份部署了Symfony框架新 版本,以前代码作为一个备份部署。这就意味着网站可能会面临性能问题。因此可以使用Graphite来对两个版本在线进行对比。
发现新版 本上的Unix负载表较高,于是使用XHProf对两个版本进行性能分析,找出问题所在。
Red5
网站为用户也提 供了两种类型的视频服务,一种是用户自己上载的视频,另外一种是视频聊天,用户视频互动和分享。到2009年年中,每月为用户提供17TB的流量服务。
Tsung
Tsung 是一个Erlang编写的分布式基准分析工具。在Poppen.de网站中主要用于HTTP基准分析、MySQL与其他存储系统(XtraDB)的对比分 析。用一个系统记录了主要的MySQL服务器的流量,再转换成Tsung的基准会话。然后对该流量进行回放,由Tsung产生数以千计的并发用户访问实验 室的服务器。这样就可以在实验环境中与真实场景非常接近。
memcache mysql Nginx 公司的项目一直有在用。别的就没接触过了。现在的项目压测时并发到1000多就会出现各种各样的问题了。不知道什么时候能有机会接触到这样宠大的系统架构。
PHP和配套的一系列东西现在承载了很多牛B的网站。facebook这样的架构也能用php实现。大有可为。大有可为
分享到:
相关推荐
本书讲了从小型网站发展为大型网站的架构成长。对近几年常用的架构做出了一个大致的整理分析。
大型网站架构-高性能网站架构 在大型网站架构设计中,选择合适的操作系统、Web 服务器、数据库和脚本语言是至关重要的。以下是对大型网站架构的详细分析: 选择高性能 OS 在选择操作系统时,我们需要考虑多个因素...
### 从运维角度看中大型网站架构演变之路 随着互联网的发展,中大型网站面临的挑战日益增多,这不仅体现在用户数量的增长上,还体现在对系统稳定性和性能的要求上。本文旨在通过一个具体的案例,来探讨中大型网站...
《大型网站技术架构:核心原理与案例分析》是李智慧所著的一本深入探讨大型网站技术架构的专业书籍,旨在解析互联网行业中大型网站背后的复杂技术体系和优化策略。这本书结合高清PDF格式,为读者提供了清晰易读的...
找到的一个比较好的东西,主要介绍了在大型网站开发过程中应该开率和注意的一些东西等
### 大型网站技术路线架构演化 随着互联网的飞速发展,大型网站面临的挑战日益增多,这不仅体现在用户数量的增长上,还包括业务复杂度的提升和技术需求的变化。因此,为了应对这些挑战,大型网站的技术架构也随之...
随着互联网技术的飞速发展,中大型网站面临着日益增长的用户访问量、数据处理需求以及复杂的业务场景,传统的网站架构已无法满足这些需求。因此,网站架构必须经历一系列的演变来应对挑战,以提高性能、可靠性和可...
《大型网站技术架构:核心原理与案例分析》这本书深入探讨了构建和维护大规模网站所需的关键技术和策略。在当今数字化时代,大型网站面临诸多挑战,包括高并发访问、数据存储、性能优化、安全性以及可扩展性等。这...
在IT行业中,PHP技术架构是构建大型互联网应用的重要组成部分,尤其在百度、新浪、腾讯、淘宝等知名互联网公司中有着广泛的应用。这些公司的技术架构因其业务规模庞大、用户流量巨大而具有高度复杂性和先进性。下面...
【大型网站系统架构全面资料汇总】 大型网站系统架构设计是一个复杂而关键的过程,涉及到多个子系统,以确保网站能够在高并发、大流量的环境中稳定运行。以下是对标题和描述中涉及的知识点的详细阐述: 1. **动态...
### 大型网站架构知识点详解 #### 一、大型网站架构概述 大型网站架构是指针对高并发、大流量场景下的网站系统所设计的基础架构。这类架构通常具备高度可靠性、安全性、可扩展性和易于维护等特点,旨在确保网站在...
大型互动网站架构是构建在海量用户基础之上的复杂系统,其设计主要针对高并发访问、海量数据处理和实时响应的需求。这些网站如Friendster、Myspace、Facebook、Flickr、LiveJournal、猫扑大杂烩以及校内网,都是社区...
综上所述,面对高并发和高负载的挑战,大型网站需要采取一系列综合性的措施和技术来优化其系统架构。这不仅包括硬件方面的优化,如使用高性能服务器和数据库集群,还包括软件层面的改进,如采用高效的编程语言、缓存...
前面有一篇文章中提到过开源软件,不过主要是在系统运维的角度去讲的,主要分析一些系统级的开源软件(例如 bind,memcached),这里我们讨论的是用于搭建初创网站应用的开源软件(例如 phpbb,phparticle),运行在 Linux...
以163(网易)、新浪为代表的大型网站成功地使用PHP进行了开发,具体实践包括: 1. **高性能框架**:如Laravel、Symfony等现代PHP框架提供了强大的功能支持,帮助开发者快速构建高性能应用。 2. **模块化设计**:...
《大型网站技术架构—核心原理与案例分析》这本书深入探讨了构建和优化大型网站所需的关键技术和架构模式。作为一本专注于网站架构的专业读物,它涵盖了从早期的单一服务器架构到现代分布式系统的演变过程,旨在帮助...
### 2018大型互联网架构演变历程:以淘宝为例 #### 一、背景与重要性 随着互联网行业的快速发展,大型互联网企业的系统架构也在不断进化和完善。这些变化不仅仅是技术层面的进步,更是对整个互联网产业发展方向的...