`
jd2bs
  • 浏览: 13580 次
文章分类
社区版块
存档分类
最新评论

enterprise site 10 years

 
阅读更多
准备花点时间,简单回顾一下我们企业站点的10年演化,主要从技术的角度。其实从业务的角度也有很多可以谈的,这个暂时不做太多展开,涉及到技术要点时会简述业务特征。

在我加入公司时,公司业务已经上了轨道,并且还在爆炸式增长中,公司本身已经在nasdaq上市。整个系统的架构分server,client,enterprise site三部分。server集群由c++开发而成,管理各种资源(包括文件共享,语音,视频,白板,远程控制,讨论组,投票,Chat等等)的协作. Client是上述资源的展示,它是一个单独或嵌在浏览器的应用程序。而客户是通过web site入口启动client的。

看起来,web site貌似没啥技术含量, 只是一个入口而已嘛。可是10几年过去了,web的发展出乎大多数人的意料,随着web2.0,3.0的迅猛发展,而今构架在J2EE平台上的web site完全可以扩展和取代client甚至是server。


目录:
一 php时代


php是CGI进程模型的,意味着每个请求要新建一个CGI进程,这个对server的消耗实在有点大。当用户越来越多,请求越来越密集时,PHP已经无法抗住。

另外一个方面,由于历史的原因,php代码抽象的程度不够高,当时相当多的代码是php和html混合,可维护性比较差,无法应对潮水般涌来的新需求。当一个新员工接手面对数千行逻辑和显示都高度混杂的页面时,真是令人发狂的场面。

技术团队决定整体平台向java迁移。这其实是一个困难的决定,当时团队中java方面的高手并不多,90%都是只听过,没用过或者写过几行helloworld。就是在这种情况下,大家毅然决定边维护php版本,一边学习java开发。

二 java时代(传统架构)



经过艰苦的努力,java版上线了,得力于开源社区的给力,我们用上了Struts和ibatis,
整个系统是参考j2ee blue print范例写的。总体上封装了很多公用功能到common组件包,比如DB访问接口,Email发送组件包,文件操作组件包等,比起上一个版本,很多基础功能已经做了一定程度的封装。

mvc框架和velocity模板的使用,使得复杂页面展现和维护不再变得艰难痛苦无比。性能上,也有了不小提高,web server crash的次数大大减少。当然,由于引入了weblogic,成本也高了一大块;不过相比于蓬勃发展的业务,似乎算不了什么。
上线那一刻,我们很欣慰,这一年多的辛苦是值得的。我们似乎一下轻松了很多。

不过这样的轻松,没有维持太久。仅仅一年之后,我们重新陷入到新的困境中。
主要有三个问题:
1)随着数据量大增,oracle也终于步履蹒跚,查询慢,页面响应慢
2)频繁的jvm outofmemory,weblogic restart,严重时客户无法使用站点服务。
3)Service层,Struts actionForm越来越臃肿,各种随手写的XXXActionForm,XXXXVO,XXXServiceImpl满天飞,搞到最后原作者也记不清是干嘛用的了。经常不同的业务团队,在埋头写功能有交叉的模块代码......

DB团队开始大规模优化SQL语句;架构师团队开始定期开会研究jvm参数调整,error log分析来消除潜在代码隐患;同时对Service进行清理,分派任务到各小组和个人。

这些都起到了一定的作用,解决了一些问题(比如通过jvm参数调整,log分析Fix了很多潜在的bugs,很多废弃的Service代码被移除),但是总觉得是疲于奔命穷于应付。
像sql优化,是有限度的;当频繁进行亿级数据查询,怎么优化也快不到哪里去了。

三 java时代(引入前沿架构)


1)对某些并发特别高的业务,前面使用Nginx做负载均衡
2)对密集读的业务,引入cache center
3)使用Spring框架管理各业务bean对象,spring mvc也取代了Struts
4)引入分布式数据访问层,透明地进行分库分表,解决数据访问慢的问题

这里实际使用中,涉及太多的问题。比如
a)当单台Nginx也成为瓶颈,怎么办?[前端使用lvs转发到多台nginx]
b)cache与db的一致性问题,使用什么策略?
[
1 写db成功才继续写入cache
2 如写入cache失败,第一次读只能命中DB,在读时写回cache
3 分布式cache的一致性:
    a. 共享cache法. 禁止local cache. 这是memcached,redis的做法.采用集中式cache。这是目前使用最广泛的分布式cache策略。集中式易于管理,容易扩容.
    b. 写无效法(write-invalidate). 这个是指local cache更新局部cache时,除了用写直达法更新后端存储,还需要作废其他处理机的本地cache中的相关内容. swarmcache和oscache在集群环境下采用的就是这个办法。
    c. 播写法(write-update). 如名字所说.有更新时广播,同步复制(更新)到各个机器的local cache. JBossCache可以做到这一点。但是节点太多,广播的代价就过大。
    d. 目录表法.  简单的说就是有一张目录表表示某一项内容在各个节点缓存中是否存在和存在状态. 写的时候用这些信息来避免写操作. 可以采用多级缓存体系,第一级用oscache,第二级用memcached.

]
c)Spring内部怎么划分业务的边界,实则是service ben的查找和互相通讯的问题
d)DDAL 怎么控制扩容时数据迁移? 全量数据和增量数据分别怎么处理?跨区处理怎么解决?(读取结果进行排序,分组问题)
e)关键字搜索使用什么技术? 搜索结果怎么排序,聚合?

每一个问题几乎都可以写一篇论文。有时间慢慢补上来。

四 java时代(服务平台架构)
分享到:
评论

相关推荐

    apache-wicket

    During these years it has proved to be a solid and valuable solution for building enterprise web applications. Wicket core developers have done a wonderful job with this framework and they continue ...

    基于ssm+mysql的喀什古城旅游网源码数据库论文.doc

    4. **MySQL**: As the chosen database management system, MySQL provides efficient storage and retrieval of data, ensuring the site can handle large volumes of user information and queries. 5. **Web ...

    计算机网络第六版答案

    Acknowledgments: Over the years, several students and colleagues have helped us prepare this solutions manual. Special thanks goes to HongGang Zhang, Rakesh Kumar, Prithula Dhungel, and Vijay ...

    基于Matlab的三相逆变器SPWM调制仿真及波形分析

    内容概要:本文详细介绍了利用Matlab进行三相逆变器SPWM调制仿真的全过程。首先明确了将110V直流电转换为220V/50Hz交流电的需求,接着阐述了SPWM调制的基本原理及其MATLAB代码实现方法,包括载波频率、调制比的选择以及三相调制信号的生成。文中还展示了逆变桥的Simulink模型搭建步骤,强调了关键参数如死区时间和LC滤波器的设计要点。通过对输出电压、电流波形的分析,验证了模型的有效性和稳定性,并提供了调参技巧和常见问题解决方案。 适合人群:从事电力电子、新能源系统研究的技术人员及高校相关专业师生。 使用场景及目标:适用于希望深入了解SPWM调制机制、掌握三相逆变器设计与优化方法的研究者;可用于教学实验、项目开发和技术培训等场合。 其他说明:文中提供的完整代码和详细的注释有助于初学者快速入门,而丰富的波形分析则为进阶用户提供宝贵的参考资料。此外,作者还分享了一些实用的小贴士,如如何避免常见的错误配置,确保仿真的顺利进行。

    Android5.3 Android 组件-基础控件-例子-broadcast图片

    Android5.3 Android 组件-基础控件-例子-broadcast图片

    基于MATLAB的风光场景生成与削减:概率距离快速削减法的应用

    内容概要:本文详细介绍了如何使用MATLAB实现风光场景生成与削减,特别是在处理风电和光伏发电的不确定性方面。文章首先解释了风光场景生成的概念,即通过蒙特卡洛方法模拟各种可能的风电和光伏出力情况。接着,针对生成的大量场景可能导致计算复杂的问题,提出了基于概率距离的快速削减法,通过计算场景间的概率距离,将大量场景削减至少数关键场景,从而简化后续计算。文中还展示了具体的MATLAB代码实现,包括场景生成、距离计算、场景削减等关键步骤,并讨论了一些优化技巧如并行计算、数据标准化等。此外,文章强调了该方法在电力系统调度中的重要性和实用性,能够有效提高计算效率和准确性。 适合人群:从事电力系统研究的科研人员、工程师及相关领域的学生。 使用场景及目标:适用于需要处理风电、光伏等可再生能源出力不确定性的电力系统调度和优化项目。主要目标是通过减少计算复杂度,提高调度模型的计算效率和准确性。 其他说明:文中提供的MATLAB代码具有良好的可移植性和复用性,可以根据具体应用场景进行适当修改和扩展。

    毕业设计(论文) 直动式液压往复泵设计说明书.doc.doc

    毕业设计(论文) 直动式液压往复泵设计说明书.doc.doc

    电动剃须刀的结构设计说明书.docx.docx

    电动剃须刀的结构设计说明书.docx.docx

    【深度学习应用】DeepSeek智能模型的万能提问模板设计:提升问题解决效率与准确性

    内容概要:本文介绍了DeepSeek这一开源深度学习模型的使用方法和提问技巧。DeepSeek不仅能够执行指令,还能进行思考和推理。文章提出了几种提问模板,帮助用户更有效地利用DeepSeek解决问题。其中包括“背景+需求+约束条件”、“身份+任务+要求+例子”、“我要做什么→要做什么用→希望达到什么效果→但担心什么问题”、“需求+担忧+反向验证”、“问题+追问预期+调整方向”以及“目标+条件+验证方式”。每种模板都配有详细的解释和示例,以指导用户如何构建问题,从而获得更有针对性的答案。 适合人群:适合对深度学习感兴趣的开发者、研究人员以及希望通过DeepSeek解决实际问题的用户。 使用场景及目标:①帮助用户更好地理解和使用DeepSeek,提高问题解决效率;②通过具体的提问模板,让用户能够更精准地获取所需信息;③适用于各种场景,包括但不限于技术问题解答、学习计划制定、课程推广方案设计等。 其他说明:为了充分利用DeepSeek的功能,用户在提问时应尽量提供详尽的背景信息,明确需求,并根据实际情况设置合理的约束条件。此外,用户还可以通过设定角色和任务,让DeepSeek从特定角度进行思考,从而得到更具创意和实用性的解决方案。

    时间序列预测中SVM、BP神经网络与LSTM的应用及MATLAB实现

    内容概要:本文详细介绍了支持向量机(SVM)、BP神经网络和LSTM网络在时间序列预测中的应用及其MATLAB实现。首先,针对SVM部分,文章讲解了如何将时间序列数据转化为特征矩阵并通过滑动窗口进行预测,强调了交叉验证的重要性。对于BP神经网络,则着重于数据归一化以及网络结构的选择,并指出BP网络容易陷入局部最优的问题。最后,在LSTM部分,文章展示了如何利用MATLAB的深度学习工具箱实现LSTM网络,解决了输入数据格式转换的问题,并实现了滚动预测。文中提供了具体的代码示例,确保读者能够轻松替换数据源并运行程序。 适用人群:适用于有一定MATLAB基础的时间序列预测初学者和技术爱好者。 使用场景及目标:帮助读者掌握三种不同类型的机器学习模型在时间序列预测任务中的具体应用,理解各自的特点和优缺点,从而选择合适的模型应用于实际项目中。 其他说明:文章不仅提供了详细的理论解释,还给出了完整的代码实现,使得读者可以直接上手实践。同时,作者提醒了一些常见的错误和注意事项,如数据格式、归一化等问题,有助于提高预测准确性。

    (精品)热转印制作人物主题个性杯子毕业论文设计说明书.doc

    (精品)热转印制作人物主题个性杯子毕业论文设计说明书.doc

    5000吨年氧化羰化制碳酸二甲酯合成工艺设计说明书.doc

    5000吨年氧化羰化制碳酸二甲酯合成工艺设计说明书.doc

    3D文件可爱小鹿3D建模,可爱小鹿建模仿真,小鹿仿真设计,3D打印文件,免费下载

    【3D文件】可爱小鹿3D建模,3D打印文件,免费下载 资源图片查看链接:https://blog.csdn.net/weixin_60324241/article/details/147233616?spm=1011.2415.3001.5331 欢迎查看下载

    基于Simulink的BUCK变换器与BLDCM控制系统设计及优化

    内容概要:本文详细介绍了如何利用Simulink进行BUCK变换器的电压电流双闭环控制以及多相控制的设计方法,并探讨了无刷直流电机(BLDCM)控制系统的构建。文中不仅涵盖了基本的控制理论,还提供了具体的MATLAB/Simulink代码示例,帮助读者理解和实现复杂的电力电子控制系统。对于常见的调试问题,如代数环错误、谐波失真、电流不平衡等,作者分享了许多实践经验和技术技巧。 适合人群:从事电力电子、自动化控制领域的工程师和技术人员,尤其适用于有一定Simulink基础并希望深入掌握BUCK变换器和BLDCM控制设计的专业人士。 使用场景及目标:① 学习如何在Simulink中搭建和优化BUCK变换器的电压电流双闭环控制系统;② 掌握多相BUCK变换器的均流控制策略;③ 实现BLDCM的高效换相逻辑和速度环参数整定;④ 解决仿真过程中可能出现的各种问题。 其他说明:文章强调了实际应用中的注意事项,如参数选择、模块配置、信号处理等方面的经验,有助于提高仿真的准确性和效率。同时提醒读者关注硬件保护措施,避免实验过程中损坏设备。

    基于粒子群算法的电力系统经济调度模型研究 - IEEE30节点六机系统的优化实现

    内容概要:本文详细介绍了如何利用粒子群优化(PSO)算法解决电力系统经济调度问题,特别是在IEEE30节点六机系统中的应用。文章首先解释了关键参数的选择及其意义,如最大迭代次数、惯性权重、学习因子等。接着深入探讨了适应度函数的设计,包括火电成本计算、失负荷惩罚以及弃风弃光惩罚。此外,还讨论了重要的约束处理方法,如爬坡速率限制和出力上下限截断。通过这些措施,实现了对六个发电机组的智能调度,使得总发电成本最小化,同时保证了系统的稳定性和可靠性。实验结果显示,相比传统调度方案,新方法使总成本降低了12.7%,弃风弃光量控制在5%以内。 适合人群:从事电力系统调度、优化算法研究的专业人士,尤其是对智能算法应用于能源管理感兴趣的工程师和技术研究人员。 使用场景及目标:适用于希望提高电力系统经济效益和环境效益的企业和个人。主要目标是在满足电力需求的前提下,减少化石燃料消耗,增加可再生能源利用率,从而达到节能减排的目的。 其他说明:文中提供的代码片段仅为示意,具体实现时还需考虑更多实际情况,如不同类型的发电机组特性、精确的气象预测数据等。此外,尽管PSO算法表现良好,但在某些极端情况下仍可能存在局限性,因此建议结合其他优化手段共同使用。

    基于MATLAB的楼宇负荷需求响应研究:模型预测控制与完全复现

    内容概要:本文详细介绍了如何使用MATLAB和CVX工具箱,通过模型预测控制(MPC)优化楼宇空调系统的能耗管理。首先,作者通过对建筑热力学特性的建模,建立了状态空间模型来描述楼宇的温度变化规律。接着,设计了一个24小时预测时域的MPC控制器,结合动态电价信号,实现了在电价低谷期预冷建筑并在电价高峰期减少制冷功率的目标。文中展示了具体的MATLAB代码片段,解释了关键参数的选择及其物理意义,并讨论了如何通过引入舒适度约束和反馈校正机制提高控制精度。最终,仿真实验表明该方法不仅能够显著降低电费支出,还能保持室内温度在舒适的范围内。 适合人群:从事楼宇自动化、能源管理和控制系统设计的研究人员和技术人员。 使用场景及目标:适用于商业建筑和工业园区的空调系统节能改造项目,旨在通过智能化控制手段实现节能减排和成本优化。 其他说明:文章强调了模型简化与计算效率之间的权衡,以及在实际应用中需要根据不同建筑物的具体情况进行参数调整。同时指出,良好的用户体验是衡量控制算法成功与否的重要标准之一。

    基于CANoe的Bootloader上位机软件开发:飞思卡尔MC9S12G128MLL的应用与优化

    内容概要:本文详细介绍了基于CANoe的Bootloader上位机软件开发流程及其应用,重点在于飞思卡尔MC9S12G128MLL这款16位单片机。首先解释了选择CANoe的原因,因其强大的CAN总线仿真能力和灵活的数据格式定义,非常适合Bootloader开发。接着深入探讨了下位机MC9S12G128MLL的基本配置,包括系统时钟、端口初始化以及CAN模块的设置。随后展示了具体的CAN报文收发实现方法,如通过CAPL语言编写上位机发送命令,下位机接收并处理这些命令,从而实现进入Bootloader模式的功能。此外还讨论了进一步的功能扩展,如程序下载、校验等复杂操作的设计思路和技术细节。最后强调了实际开发过程中遇到的问题及解决方案,例如Flash擦写、通信协议设计、CRC校验等方面的经验教训。 适合人群:从事嵌入式系统开发的技术人员,尤其是专注于汽车电子领域CAN总线相关项目的工程师。 使用场景及目标:适用于需要开发或优化基于CANoe的Bootloader上位机软件的项目,旨在提高嵌入式系统的升级效率和可靠性,确保在复杂环境下能够顺利完成固件更新任务。 其他说明:文中不仅提供了详细的理论讲解,还包括大量实用的代码示例,帮助读者更好地理解和掌握具体实施步骤。同时,作者分享了许多宝贵的实践经验,有助于避免常见错误,提升开发成功率。

    dwaDWADWAWADWAWDADWADWA

    dwaDWADWAWADWAWDADWADWA

    基于S7-300 PLC与组态王的散装水泥生产线在线称重控制系统设计与实现

    内容概要:本文详细介绍了利用西门子S7-300 PLC和组态王软件构建散装水泥生产线在线称重控制系统的全过程。首先阐述了硬件配置,包括CPU315-2DP作为主站、ET200M分布式从站以及SM331模拟量模块用于接收称重传感器信号。接着深入解析了梯形图程序的关键部分,如OB35中断组织块用于每100ms采集一次重量数据,并采用浮点数比较器实时判断重量变化趋势。此外,还讨论了组态王的画面设计,包括实时重量显示、趋势图控件的应用以及报警机制的设置。文中特别强调了针对动态称重过程中信号跳变的问题采取了移动平均滤波算法进行优化,并分享了一些实际工程中的经验和教训,如正确的接线方式、抗干扰措施等。 适合人群:从事工业自动化领域的工程师和技术人员,尤其是那些对PLC编程、组态软件应用有一定基础的人群。 使用场景及目标:适用于新建或改造散装水泥生产线的称重控制系统项目。主要目标是提高称重精度,确保生产效率的同时保障产品质量。通过学习本文可以掌握完整的系统设计方案,包括硬件选型、软件编程及人机界面设计等方面的知识。 其他说明:文中提供了大量具体的代码片段和配置细节,有助于读者更好地理解和实施相关技术。同时,作者结合自身经验给出了许多宝贵的建议,对于初学者来说非常有价值。

    基于三菱FX3U PLC与MCGS触摸屏的四路抢答器控制系统设计与实现

    内容概要:本文详细介绍了使用三菱FX3U PLC和MCGS触摸屏构建四路抢答器控制系统的全过程。首先明确了系统的硬件组成,包括PLC、触摸屏以及四个抢答台的按钮和指示灯。接着阐述了IO分配的具体细节,如输入输出端口的功能定义。然后深入讲解了梯形图程序的设计思路,特别是抢答锁存和互锁逻辑的实现方法。此外,还讨论了接线图原理图的关键要点,如限流电阻的选择和公共端的处理。最后介绍了MCGS组态画面的设计技巧,包括状态指示灯的颜色变化、得分统计等功能。文中还提到了一些常见的调试问题及其解决方案,如按钮触点抖动引起的误触发和指示灯闪烁问题。 适合人群:对PLC编程和工业自动化感兴趣的初学者,尤其是希望深入了解三菱PLC应用的技术人员。 使用场景及目标:适用于需要设计和实现简单但完整的PLC控制系统的场合,帮助读者掌握PLC编程的基本技能,提高实际动手能力。 其他说明:文章提供了详细的梯形图代码和接线图示例,便于读者理解和实践。同时强调了一些实用的小技巧,如防作弊机制和硬件消抖措施,有助于提升系统的可靠性和稳定性。

Global site tag (gtag.js) - Google Analytics