一步一步理解 Java 企业级应用的可扩展性

1顶
0踩

2016-01-14 15:25 by 副主编 mengyidan1988 评论(3) 有8467人浏览

java 应用服务器互联网

原文：https://dzone.com/articles/the-basics-of-scaling-java-ee-applications

译文来自：OneAPM

摘要：本文主要介绍如何理解 Java 应用的扩展方式以及不同类型的扩展技术和具体技巧，介绍一些有关 Java 企业级应用的一般扩展策略。

老实说，“可扩展性”是个全面且详尽的话题，而且往往得不到充分理解。人们通常认为可扩展性等同于高可用性，笔者见过编程新手和架构师“老手”都建议将集群作为可扩展性和高可用性的解决方案。建议确实没错，但问题是，人们通常是通过互联网搜索，而非实际理解应用本身的情况来实现集群。

笔者并未自称“专家”，只想通过这篇文章介绍一些有关 Java 企业级应用的一般扩展策略。

问题
可扩展性并非 Java 企业级平台规范内的标准组件。相关技术通常因供应商（应用服务器）而异，并且往往需要使用不止一款产品（应用服务器本身除外）。正因如此，设计可扩展的 Java 企业级应用才会有些棘手，要完成任务，往往不仅没有可以参照的实例，而且要求我们必须彻彻底底地理解应用。

扩展类型
笔者确信你们不是第一次看到这些内容。扩展一般分为两大类：纵向扩展，和横向扩展。

扩展的第一个自然阶段是纵向扩展。

纵向扩展：包括给服务器增加更多资源，例如内存 (RAM)、磁盘空间、处理器等。这在某些方案中具备实用价值，但经过特定时间点后就会发现，这种扩展费用高昂，不如借助横向扩展。
横向扩展：在这个过程中会增加更多机器或额外的服务器实例/节点，这也叫做集群（Clustering），因为所有服务器是作为一个集体或集群一起运行的。

高可用性不等于可扩展性
系统高度可用（拥有多个服务器节点以方便故障转移），并不表示系统可扩展。高可用性只是意味着，如果当前处理节点崩溃，请求会传递或转移到集群中的另一个节点，以便从开始处继续。可扩展性则是通过增加可用资源（内存、处理器等）而提升系统特定性能（例如用户数量、吞吐量、响应时间）的能力，即使将失败请求传递到另一个节点，也无法保证应用会在这种场景中正确运行（原因我们会在下面揭晓）。

下面我们来了解一些关于可扩展性的观点和相关讨论。

让横向扩展的集群达到负载均衡
假设您已经纵向扩展至最大容量，现在又用多个节点形成集群，将系统进行了横向扩展。接下来您要做的可能是在集群基础架构前放置一台负载均衡器，让负载分散在集群各部分之间（如果要详细了解负载均衡，大家可以参考其他方面的资料，在这里我们重点还是说扩展问题）。

应用有状态还是无状态？
现在你已经横向扩展了，这就够了吗？如果你的应用无状态，即应用逻辑在处理请求时不依靠现有服务器状态，则横向扩展已经足够。

但如果应用具有 HTTP 会话对象、有状态 EJB、会话域 bean (CDI、JSF) 等组件时，又会怎样？这取决于具体客户（具体来说，即调用线程），存储特定状态并依靠当前显示的状态来执行请求（例如，HTTP 会话对象可能会存储用户的身份验证状态、购物车信息等）。

在横向扩展或集群式应用中，节点的任何集群都可能为后续请求提供服务。如果首个请求的 JVM 实例处的状态数据没有被接收，其他节点会如何处理请求？

会话保持
会话保持配置可在负载均衡器层面上完成，确保来自特定客户/终端用户的请求始终被转发到同一个实例/应用服务器节点，即维持服务器亲和力。这样，我们就缓解了所需状态无法显示的问题。但这里有个陷阱 – 如果节点崩溃怎么办？状态会被破坏，用户会被转至服务器请求处理所依赖的、但不具备现有状态的实例。

集群复制
为解决上述问题，您可对应用服务器集群机制进行配置，以支持有状态组件的复制，借此可确保 HTTP 会话数据（和其他有状态对象）显示在所有服务器实例上。如此一来，终端用户请求便可转至任何服务器节点，即使某个服务器实例崩溃或不可用，集群中的其他任何节点都能够处理请求。现在您的集群就不是一般集群了，而是复制集群。

集群复制特定于 Java 企业级容器/应用服务器，最好查阅相关文档，了解如何复制集群。一般而言，大多数应用服务都支持 Java 企业级组件（如有状态和无状态的 EJB、HTTP 会话、JMS 队列等）集群。

然而这造成了另一个问题 – 应用服务器中的每一个节点都处理会话数据，导致 JVM 堆内存越来越多，因此垃圾回收也越来越频繁，另外，复制集群时还会消耗一定的处理能力。

有状态组件的外部存储
在另一层存储会话数据和有状态的对象，这可以借助 RDBMS 实现，大多数应用服务器本身就支持这一功能。

你可能已经注意到了，我们已经将存储从内存层转移到持久层 - 一天工作结束时，你可能会遇到由数据库导致的扩展问题。不是说这一定会发生，但数据库确实可能因为应用而过载，而后逐渐延时（例如在故障转移时）。设想一下，从数据库中再现整个用户会话状态以便用在另一个集群实例中，不仅耗费大量时间，还会影响峰值负载下的终端用户体验。

最后的边界：分布式内存中缓存
这是最后的边界，至少在我看来如此，因为它把我们带回了内存方法。没有比这更好的办法了！Oracle Coherence、Hazelcast 这类产品或其他任何分布式缓存/内存网格产品可用于清理有状态的状态存储和复制/分布 - 这就是缓存层。好的一面是这些产品大多默认支持 HTTP 会话存储。

这种结构设置意味着，应用服务器的重启不会影响现有用户会话 - 给系统打补丁而不造成宕机和终端用户断电（虽然并不像听上去那么容易，但显然是个办法！），这始终是好事。总的来说，其理念是：应用层和 web 会话缓存层可独立运行和扩展，彼此不受干扰。

分布式不等于重复式
这两个词之间存在巨大差异，就缓存层而言，理解其中的差异是极为关键的。两者各有长短：