分布式系统后台如何防止重复提交
分布式系统网络拓扑结构
场景描述
秒杀系统提交订单时,由于用户连续快速点击,并且前端没有针对性处理,导致连续发送两次请求,一次命中服务器A,另一次命中服务器B, 那么就生成了两个内容完全相同的订单,只是订单号不同而已.
重复提交的后果
- 用户在界面看到两个一模一样的订单,不知道应该支付哪个;
- 系统出现异常数据,影响正常的校验.
解决方法
解决思路:相同的请求在同一时间只能被处理一次.
如果是单体服务器,我们可以通过多线程并发的方式解决,但是目前大部分系统,采用了多机负载均衡.
分布式锁
- 服务器A接收到请求之后,获取锁,获取成功 ,
- 服务器A进行业务处理,订单提交成功;
- 服务器B接收到相同的请求,获取锁,失败,
因为锁被服务器A获取了,并且未释放 - 服务器A处理完成,释放锁 实现采用redis ,
参考:http://www.importnew.com/27477.html
利用数据库唯一性约束
实现思路: 对请求信息进行hash运算,得到一个hash值,
相同的请求信息得到相同的hash值(换成md5也可以) 步骤:
- 接口A接收到请求之后,对请求信息hash运算,得到hash值hashCodeA;
- 保存hashCodeA 到数据库,并且对应的数据库的列(column)满足unique约束;
- 保存成功之后,才进行正常业务逻辑处理,比如提交订单;
- 服务器B接收到相同的请求后,也得到相同的hash值,hashCodeA,
- 服务器B 保存hashCodeA 到数据库,肯定失败,因为相同的hash值已经存在;
- 因为保存失败,所以后面的业务逻辑不会执行.
示例代码: 控制器中:
// 使用数据库约束条件,防止重复提交 try { Integer userId = getCurrentId(); String hashSource = WebServletUtil.buildHashSource(request, userId); reqOrderLock(hashSource, houseInfo.getId()); } catch (IOException e) { e.printStackTrace(); }
Service中:
/*** * 利用数据库的唯一性约束<br /> * 防止重复提交 * @param queryString */ public void reqOrderLock(String queryString, Integer houseInfoId) { long crc32Long = EncryptionUtil.getHash(queryString); this.orderReqLockDao.addUnique(String.valueOf(crc32Long), houseInfoId, Constant2.Order_type_Label_VISIT_ORDER); }
dao 中:
public OrderReqLock addUnique(String crc32, Integer houseInfoId, String orderTypeLabel) { OrderReqLock orderReqLock = new OrderReqLock(); orderReqLock.setCrc32(crc32); if (null != houseInfoId) { orderReqLock.setHouseInfoId(houseInfoId); } orderReqLock.setOrderTypeLabel(orderTypeLabel); CreateTimeDto createTimeDto = TimeHWUtil.getCreateTimeDao(); orderReqLock.setCreateTime(createTimeDto.getCreateTime()); orderReqLock.setUpdateTime(createTimeDto.getUpdateTime()); try { add(orderReqLock); } catch (org.hibernate.exception.ConstraintViolationException e) { e.printStackTrace(); LogicExc.throwEx(Constant2.ERROR_CODE_Repeat_Operation, "您重复提交了订单,订单类型" ); } return orderReqLock; }
当然有个隐患: 在增加完锁,即执行addUnique 方法之后,程序挂了,不管是网络原因还是数据库崩溃, 当服务恢复之后,相同的请求无法提交了,因为数据库已经保存了请求的hash(但是实际上,后面的业务逻辑还没有来得及执行). 原因:锁操作addUnique 和业务逻辑肯定不在同一个数据库事务中
前端的解决方法
思路: 进入添加页面时,获取服务器端的token,
提交时把token提交过去,判断token是否存在,
若存在,则进行后续正常业务逻辑,
如不存在,则报错重复提交.
流程图
添加页面接口 使用注解:@RepeatToken(save = true) 提交接口 使用注解 :@RepeatToken(remove = true) token 拦截器代码
package com.girltest.web.controller.intercept; import com.common.util.WebServletUtil; import org.apache.log4j.Logger; import org.springframework.web.method.HandlerMethod; import org.springframework.web.servlet.handler.HandlerInterceptorAdapter; import javax.servlet.http.HttpServletRequest; import javax.servlet.http.HttpServletResponse; import java.lang.reflect.Method; import java.util.UUID; /** * Created by 黄威 on 9/14/16.<br > */ public class TokenInterceptor extends HandlerInterceptorAdapter { private static final Logger LOG = Logger.getLogger(TokenInterceptor.class); @Override public boolean preHandle(HttpServletRequest request, HttpServletResponse response, Object handler) throws Exception { if (handler instanceof HandlerMethod) { HandlerMethod handlerMethod = (HandlerMethod) handler; Method method = handlerMethod.getMethod(); RepeatToken annotation = method.getAnnotation(RepeatToken.class); if (annotation != null) { boolean needSaveSession = annotation.save(); if (needSaveSession) { request.getSession(true).setAttribute("token", UUID.randomUUID().toString()); } boolean needRemoveSession = annotation.remove(); if (needRemoveSession) { if (isRepeatSubmit(request)) { LOG.warn("please don't repeat submit,url:" + request.getServletPath()); //如果重复提交,则重定向到列表页面 response.sendRedirect(WebServletUtil.getBasePath(request) + "test/list"); return false; } request.getSession(true).removeAttribute("token"); } } return true; } else { return super.preHandle(request, response, handler); } } /*** * * @param request * @return : true:报错需要重定向 <br /> * false: 处理后续的正常业务逻辑 */ private boolean isRepeatSubmit(HttpServletRequest request) { String serverToken = (String) request.getSession(true).getAttribute("token"); if (serverToken == null) { return true; } String clinetToken = request.getParameter("token"); if (clinetToken == null) { return true; } if (!serverToken.equals(clinetToken)) { return true; } return false; } }
总结
- 第二种方法(利用数据库完整性约束)最简便,但是会访问(读写)数据库,给数据库造成一定的压力;
但也有个隐患,程序执行中途故障了(网络垮了,服务宕了...),后面重复提交,就无法成功了.也有解决方法:定时器清理这个hash数据库表 - 第一种方法最复杂,但是符合高性能,高可用
参考
https://my.oschina.net/huangweiindex/blog/1837706
参考:http://www.importnew.com/27477.html
https://my.oschina.net/huangweiindex/blog/1843927
相关推荐
在Java Web开发中,防止重复提交是一个重要的议题,尤其是在大型分布式应用中,因为这可能导致服务器资源的过度消耗,甚至引发系统性能问题。以下是一些防止重复提交的常见策略和技术: 1. **令牌(Token)机制**:...
**2.1 如何防范POST重复提交** 在HTTP协议中,POST请求本身不是幂等的。当用户在电商网站上购买商品时,可能会因为网络延迟等原因重复点击“提交订单”,导致后台多次接收到相同的POST请求并创建多个订单。为了避免...
5. 幂等性设计:确保同一个请求只被处理一次,防止重复提交。 四、核心模块 1. 用户模块:包括用户认证、权限管理,确保只有合法用户能参与秒杀。 2. 商品模块:存储秒杀商品信息,包括库存、价格等,以及预热机制...
最后,分布式锁也可以实现幂等性,例如在分布式系统中,构建全局唯一索引比较困难,使用分布式锁可以防止数据被重复提交。 幂等性是高并发系统中非常重要的概念,通过多种方式可以实现幂等性,例如查询操作、删除...
Go语言设计简洁、高效,特别适合构建高并发、高性能的服务,因此在后端服务开发中备受青睐,尤其适用于构建复杂的分布式系统,如支付系统。 二、聚合支付系统概述 聚合支付系统,也称四方支付,是指通过一个统一的...
7. **任务持久化**:在分布式系统中,任务数据的持久化至关重要,以防止因系统重启或异常导致的数据丢失。SwiftQ可能采用了数据库或文件系统来存储未完成的任务。 8. **幂等性**:在高并发场景下,任务可能被重复...
秒杀接口应设计为幂等的,即使用户重复提交请求,后台服务也能保证只处理一次,避免重复扣减库存或创建重复订单。 8. **状态机设计**: 可以使用状态机模型来管理秒杀订单的状态,如待支付、已支付、已发货等,...
优网精蜂分布式调度支撑系统是一款专为解决大数据处理任务管理难题而设计的软件,尤其在4G网络大规模建设和管理的背景下,它提供了高效的解决方案。系统具备强大的分布式任务管理、资源管理和任务跟踪能力,旨在自动...
分布式事务是现代软件架构中的重要组成部分,特别是在微服务和分布式系统中,确保数据一致性成为一项挑战。本篇文章主要探讨了六种不同的分布式事务解决方案,并针对其中的阻塞式重试、异步队列和TCC补偿事务进行了...
限流是为了防止恶意请求攻击或超出系统处理能力,如Nginx的limit模块和iptables可以用于限制流量。流量调度可以使用DNS、HttpDNS、LVS、HaProxy、Nginx等工具,以应对故障并快速切换到备用服务。 【业务设计原则】 ...
2. **2PC和3PC**:这两种传统的事务协议旨在确保分布式系统的一致性。2PC在所有参与者准备完成后提交事务,而3PC则增加了一个预备阶段,以减少阻塞时间。然而,这些协议可能会导致长时间的锁定,对性能有负面影响,...
4. token 机制:防止页面重复提交原理上通过 session token 来实现的。 5. 悲观锁:获取数据的时候加锁获取,select * from table_xxx where id='xxx' for update; 注意:id 字段一定是主键或者唯一索引,不然是锁表...
可以采用数据库事务来保证抢答记录的完整性,一旦用户成功抢答,相关记录应立即提交,避免因网络延迟或其他问题导致的数据丢失或重复。 4. **分布式系统设计**:对于大型活动,可能需要将系统设计为分布式,以分摊...
- 一致性(Consistency)、可用性(Availability)、分区容忍性(Partition Tolerance),这三个特性在分布式系统中很难同时满足。 **5.5 BASE** - **BASE原则** - 基本可用(Basically Available)、软状态...
例如,当用户提交大量请求时,MQ可以暂时存储这些请求,逐步分发给后端处理,防止系统过载。 然而,MQ并非无懈可击,它也有一些明显的缺点: - 系统可用性降低:MQ故障可能导致整个系统的正常运行受到影响,因此...
Java-Base64算法_创新_防止表单重复提交 JAVA企业级基础课题(HashMap那些事) 企业架构师必备技能(JAVA核心技术反射) JavaWeb之基础(手写实现Tomcat服务器) java多线程编程 纯手写实现SpringIOC实现过程 JEE企业级...
- **分布式锁**:通过Redis的setnx命令或事务机制实现分布式锁,防止用户重复提交订单,确保每个用户只能进行一次秒杀操作。 - **限流控制**:使用令牌桶算法或者漏桶算法限制并发请求的数量,防止系统被瞬间大...
后台分布式帮助系统,帮助管理员快速掌握系统的使用 数据库管理功能 灵活多变的风格,适合不同的工作环境及要求 灵活调用的模板标签,可在任何页面、任何位置进行任意调用 部分页面静态化,可批量生成默认页面,...
1. **持久化(Persistence)**:为了防止数据丢失,Redis支持两种持久化方式:RDB(快照)和AOF(append-only file)。RDB会在特定时刻保存数据集的快照,而AOF记录每次写操作的日志。可以根据需求选择合适的策略。 ...
同时,对于敏感操作,如选课,可能需要防止重复提交。 8. **异常处理**: 在开发过程中,需要为可能出现的错误和异常设置合适的处理机制,提供友好的错误提示,确保系统的稳定运行。 9. **性能优化**: 为了提高...