`
wangshu3000
  • 浏览: 135054 次
  • 性别: Icon_minigender_1
  • 来自: 大连
社区版块
存档分类
最新评论
阅读更多

eBay是目前世界上最大的电子商务网站(Am I right?),目前已有2亿多注册用户,每天PV超过10亿,执行260多亿次SQL操作,在这么高的负载下仍然能提供非常稳定的服务(可用性达 99.94%),其架构设计一定有很多过人之外。Bay的技术人员Dan Pritchett和Randy Shoup前段时间在SD Forum上介绍了eBay的架构设计,现简述如下。

除最基本的Web服务器和数据库服务器之外,eBay的网站完全使用自主开发的软件,开发人员达几百人。从1995年eBay成立以来, eBay网站的架构经历了多次演变。最初的V1.0版本开发只用了一个周末,使用Perl,应用各层都部署在一台机器上,数据存储采用文件系统+GDBM (动态哈希表)相结合的方式。1.0用了两年,到了1997年系统中的条件达到5万时就顶不住了,于是开发的2.0,在逻辑上是三层架构,物理上是二层,应用层使用C++编写的内嵌于ISS的dll实现,数据库也独立出来使用Oracle。各系统都只使用一台服务器(Web服务器是有多台,但是不同的 Web服务器提供不同的服务)。再过了两年,99年升级到2.1,其中部分前台服务器使用集群,并将搜索功能独立出来,同时升级了数据库服务器的硬件。好景不长,一年还没用下来又不行了,于是升级到2.3,所有前台服务器都使用了集群,数据库加了个Standby。结果发现还是不行,二个月之后立马升级到 2.4,数据库按业务划分了一下,使用多台服务器了(终于跨出了关键性的一步啊)。接下来的V2.5按数据库划分得更细了。02年之后又升级到3.0,使用Java技术重写整个应用。

eBay在架构设计上主要关心三个可伸缩性:数据库存储可伸缩性、应用层可伸缩性和搜索服务可伸缩性,现一一道来。

数据库存储的可伸缩性实现的第一招是根据功能将数据库服务器加以分组,分为用户、条目、账号、反馈、事务等70多个类别。组内可伸缩性实现则有两种方式:master/slave或数据分区,数据分区有使用取模实现,也有使用映射数据库实现。为减少数据库的负载,数据库层不包含业务逻辑,没有存储过程,参照完全性检查、联接、排序等占CPU的工作移到应用中去作。同时很少使用事务,绝大部分操作都用auto commit模式。为减少对事务的依赖,应用程序需要非常仔细的安排数据库操作的顺序,对于部分不可避免的数据不一致则使用异步的故障处理脚本来处理。要求不使用事务增加了开发的难度,但也避免了数据库死锁和提高的数据库的并发度。

应用层主要涉及负载的分布和依赖关系最小化两个方面。eBay不使用大部分的J2EE特性,只使用servlet和一个定制的连接池,应用层完全不维护状态信息(session使用cookie或scratch数据库维护),并尽可能的对常用的metadata等信息做了缓存。应用程序严格的分为呈现层、业务层和集成层。其中集成层即数据访问层(Data Access Layer),实际上是eBay自己实现的一个Java ORM组件,负责所有CRUD操作,并支持动态数据路由服务(即逻辑数据库服务器->物理数据库服务器动态映射关系管理)。

为减少应用之间的依赖关系,应用代码按功能区划分为买出、购买等多个独立模块,共享的模块如用户认证、个性化等组织成Domain,应用只依赖于Domain,不依赖于其它应用,Domain中各模块之间也无相关依赖关系。应用服务器和数据库服务器也根据业务类型划分为多个集群,不同集群的开发、部署可并行进行。

eBay的全文检索系统原来使用的是第三方开发的一个系统,但到2002年就遇到了性能瓶颈,当时更新一次索引需要9个小时,使用了最高档的设备也满足不了需求。eBay对全文检索的要求很高,产品列表、竞标等信息要求实时更新、很多查询要求返回所有结果、存储有按关键字、分类和结构化属性组织等多种形式。由于没有现成产品能满足所有需求,eBay开发了自己的全文检索系统,其中有很多创新性的功能。实时供给器平台负责将更新从主数据库可靠广播到多个检索节点,索引支持实时更新,支持内存索引。索引系统是高度分布式的,索引机有多组副本,一组又包含多台机器。缓存技术也被应用于搜索系统中,主要是缓存常用搜索或非常耗资源的搜索的结果。

由此可见即使强大如eBay,最初的系统都是很菜的,后来一步步走向分布式才解决了一个又一个瓶颈,可见分布式是大势所趋。也可以看到功能分解或面向对象中的CRC原则在网站架构设计中的重要性,若是功能划分不清晰,业务单元之间的依赖关系过于复杂,要设计一个好的架构是难上加难。

分享到:
评论

相关推荐

    ebay 在线拍卖数据分析-内含源码以及设计说明书(可以自己运行复现).zip

    在本项目中,我们将深入探讨如何利用Python的scikit-learn库进行eBay在线拍卖数据的分析。这个压缩包文件提供了完整的源代码和设计说明书,使用户能够自行运行和复现整个分析过程,这对于学习数据分析和机器学习技术...

    数据探索和分析-eBay汽车销售

    在数据探索和分析领域,对eBay汽车销售的数据进行研究是一项常见的任务,它能帮助我们了解市场趋势、消费者行为以及不同车型的销售表现。在这个项目中,我们将深入挖掘"数据-exploration-and-analysis--eBay-car-...

    大学英语六级阅读题型冲刺训练6.docx

    【大学英语六级阅读题型冲刺训练6】的文档主要涉及了eBay这一全球知名的在线拍卖及购物网站的相关知识,适合准备大学英语六级考试的学生进行阅读理解练习。以下是相关知识点的详细说明: 1. **eBay概述**:eBay是...

    eBayPrediction:价格预测Apple笔记本电脑eBay

    在eBay上预测产品的价格 ##问题描述 [eBay]( )是一个在线拍卖网站,也是Internet上最受欢迎的网站之一。 有成千上万的报价和数百万的用户竞争并确定(确定)产品价格。 eBay还具有免费的基于XML的[API]( ),可...

    云南省昆明市2014高考英语一轮 阅读理解训练题(8)

    felt confident about eBay's future C. missed the time when he was in college D. regretted charging a fee to members 16. How does eBay make money from its website? A. By charging for each successful ...

    2013高考英语二轮 阅读理解金品训练(03)

    【部分内容】提到了一篇关于eBay的文章,eBay是一个全球性的电子商务平台,任何人都可以买卖各种物品。这个想法源于Pierre Omidyar,他高中时对计算机编程感兴趣,后来创建了eBay作为个人爱好,起初是通过口碑免费...

    《计算机专业英语》[郭文琦,范佩芳,马桂英][电子课件]

    本书内容针对计算机行业实际工作过程需要...与实际应用紧密结合,如主板BIOS设置、Windows操作系统安装、交换机配置、防火墙安装与设置、如何在Ebay上实现全球买卖等内容,旨在拓展学生的计算机专业英语实际应用能力。

    blue-waffle:用于训练模型并在ebayfb上出售的x型图像的源集

    x类型图像的源集,用于训练模型,然后在ebay / fb上找到待售的图像 如果我们要列出“测量统治者”而不是“君主统治者”。 我们可以在ebay / fb中搜索“统治者”,然后使用经过训练的模型来区分并仅显示测量标尺。 ...

    tsv-utils:eBay的TSV实用程序:用于大型表格数据文件的命令行工具。 过滤,统计,抽样,联接等

    **tsv-utils** 是一套由eBay开发的命令行工具,专门用于处理大规模的TSV(Tab Separated Values)格式的表格数据文件。TSV是一种常见的数据存储格式,类似于CSV(逗号分隔值),但使用制表符作为字段分隔符,常用于...

    电子商务实训计划清单.pdf

    例如,eBay是著名的在线拍卖平台,TCL和Cisco是电子产品的生产商,zhuluvera可能指的是某种商品或服务,cuteFTP用于文件传输,QQ和WINRAR分别用于即时通讯和文件压缩。 4. 通信和网络协议 实训计划中提到了IP地址、...

    2019年高考英语一轮精选练Unit1Friendship试题新人教版必修120180828562

    Musk将公司的重点转向全球支付转移,2002年eBay以15亿美元收购了PayPal。 5. **Space Exploration Technologies (SpaceX)**:2002年,Musk创立了SpaceX,目标是探索火星并建立一个火星温室。该公司致力于火箭技术的...

    检索图像和搜索,相似性学习,比较深度度量和深度散列在图像检索 中的应用_Jupyter_python_代码_下载

    nohup python train_mx_ebay_margin.py --gpus=1 --batch-k=5 --use_viz --epochs=30 --use_pretrained --steps=12,16,20,24 --name=CUB_200_2011 --save-model-prefix=cub200 > mycub200.out 2>&1 & 运行火车 ...

    马云:倒立是阿里巴巴的文化精髓(1).docx

    这一举动后来演变成公司的一项基本要求,每位新入职的员工都需要在3个月内学会靠墙倒立,男性需要维持30秒以上,女性则是10秒。这一规定并非追求技巧的完美,而是强调勇气和决心,正如马云所说,关键在于“要有这个...

    人工智能技术及应用习题答案第4-6章.pdf

    自然语言处理技术可以为 eBay 提供搜索和机器翻译等支持。 智能家居 智能家居是以住宅为平台,利用综合布线技术、网络通信技术、安全防范技术、自动控制技术、音视频技术将家居生活有关的设施集成,构建高效的住宅...

    论跨境电商专员英语能力的培养.zip

    同时,熟悉电子商务平台的操作语言,例如Amazon、eBay、Alibaba等,也是必备的技能。 商务信函的撰写则要求专员具备一定的英语写作功底,能准确、得体地表达意思,无论是处理询价、报价、合同条款,还是解决售后...

    跨境电子商务英语-Unit-11-教案-教学设计.docx

    3. 学习在eBay等平台上为买家留评价的恰当时机。 【教学重点与难点】 重点在于理解交易评价的概念及其相关词汇和表达,以及生成五星评价和应对负面评价的方法。难点在于实践这些方法,尤其是听力练习中的句子理解和...

    2013高考英语二轮 阅读理解金品训练(10)

    4. 药品销售途径:Zantrex-3不仅在各大维生素连锁店如G.N.C销售,还在CVS、Rite Aid、Wal-Mart等零售药店以及网上有售,甚至在eBay上有大量个人卖家,这展示了现代药品销售的多元化渠道。 5. 网络营销策略:通过...

    集体智慧编程中文版

    对“热度”评价进行建模 什么时候使用决策树 练习 第8章 构建价格模型 构造一个样本数据集 k-最近邻算法 为近邻分配权重 交叉验证 不同类型的变量 对缩放结果进行优化 不对称分布 使用真实数据——eBay API 何时...

    tensorflow

    已经有许多知名公司和项目采用了TensorFlow,如Google、OpenAI、DeepMind、Snapchat、Uber、Airbus、eBay、Dropbox以及中国的BAT等。 TensorFlow的灵活性还体现在它能够部署到各种操作系统和设备上,如Android、...

    sentiment-spanish

    该模型是使用网页eltenedor,迪卡侬,到到网,filmaffinity和eBay的用户超过80万的评论培训。 这项评论是使用网络抓取与项目一起提取的使用用户评论中的评分,我们训练了模型以从其中的语言中学习。 我们达到了90%...

Global site tag (gtag.js) - Google Analytics