`

多任务处理数据的一些方法,一些工作流的处理原理

    博客分类:
  • JAVA
阅读更多

 

问题:比如需要从一个表里抽数据进行处理,假如这个表数据量很多,需要进行多任务来同时处理该表抽出的数据.

 

方法:

1:

一般可以将任务队列放入一张表,并从0....9编号做主键,当从源表里取数据的时候,用源表的主键ID(一般是sequence数字)%10得到的数肯定是0...9之间的一个数字,刚好可以对应到任务队列中的一条记录,就用对应的那个任务来处理这条数据,这样就刚好平均分配处理了

 

2:

以上是一种分配方式,还有一种是建立一个循环的sequence,值从0...9,每次取数据分配给任务的时候取一下sequence,这样也可以将数据分配给不同的任务队列做处理,不过这中是不是有线程问题,没有具体深入研究

 

这俩都是自己在工作中的常用方式,有些工作流就是采用第一种方式来处理流程的.

分享到:
评论

相关推荐

    数据流计算机基本工作原理

    数据流计算机是一种基于“数据驱动”执行模型的计算机架构,其基本工作原理在于,指令的执行不再由传统的指令计数器控制,而是由操作数的可用性和计算资源的空闲状态决定。当一条指令所需的所有操作数准备就绪,且有...

    [原创]JWFD工作流引擎设计原理(JWFD v0.94 版本)

    7. **并发与事务**:在多任务环境中,JWFD需要处理并发控制以避免冲突,同时可能使用事务机制保证数据的一致性。 8. **自定义扩展**:为了满足不同业务场景的需求,JWFD可能会提供API或插件机制,让用户可以自定义...

    工作流小demo

    5. 数据管理:工作流实例往往涉及数据交换,例如文章内容、审核意见等,这些数据需要在任务之间安全地传递和存储。 6. 监控和审计:工作流系统应提供监控工具,以便管理者查看流程实例的状态,追踪历史记录,进行...

    工作流 osworkflow 例子和原理

    工作流(Workflow)是自动化业务过程的模型,它定义了任务如何在参与者之间传递,以及在什么条件下任务的执行方式。OSWorkflow(OpenSymphony Workflow)是一个开源的工作流引擎,它提供了一种灵活的方式来设计、...

    WF工作流笔记.rar

    综上所述,WF工作流笔记的内容涵盖了工作流的理论基础、实践方法、系统选择、自动化策略、监控与优化等多个方面,对于理解工作流以及在实际工作中应用工作流具有很高的参考价值。通过深入学习这些笔记,IT专业人士...

    java实现工作流

    工作流(Workflow)是描述一个或多个业务过程的形式化表示,这些过程由一系列相互关联的任务组成,并涉及不同角色的参与。它可以用来协调人员、系统、设备之间的交互,提高效率和可追踪性。 2. **Java中的工作流...

    erp工作流.rar

    首先,ERP工作流是企业内部流程的模型化表示,它涵盖了从订单处理到生产制造,再到库存管理和财务会计等多个业务环节。工作流的主要目的是提高效率,减少错误,并确保符合公司的规定和政策。通过定义明确的步骤、...

    activity工作流 小项目

    在Java环境中,有多个开源的工作流框架可供选择,如Activiti、jBPM、Camunda等。这些框架都提供了丰富的API和工具,便于开发者集成到自己的应用中。 1. **Activiti**:是一个轻量级、高效的工作流引擎,支持BPMN ...

    工作流框架workflow

    工作流框架,通常被称为Workflow,是软件开发中的一个重要概念,它涉及到流程自动化、任务管理和业务规则的执行。在本文中,我们将深入探讨工作流框架的核心原理、应用领域以及如何使用和选择适合的工作流框架。 一...

    工作流调度系统

    在使用Oozie时,适合的情景包括但不限于:需要按顺序执行的Hadoop数据处理工作流、同时需要顺序和并行处理的场景、需要进行作业结果或异常通报与处理的场景、Hadoop集群内的ETL任务执行、以及取代Hadoop集群内的Cron...

    胡长城的相关工作流文档

    3. **工作流引擎**:《揭秘jBPM引擎内核设计思想及构架》详细解析了jBPM这一流行的工作流引擎,包括其流程定义语言、任务管理、事件处理和持久化机制。同时,工作流引擎的核心调度算法在《工作流引擎核心调度算法与...

    工作流第一部分1

    - **工作流引擎**:负责执行工作流模型,根据设定的规则自动分配任务、跟踪进度、处理异常等。 - **用户接口**:提供给用户进行任务交互的界面,如任务列表、审批按钮等。 - **工作流管理系统**:监控整个工作流...

    FPGA数字信号处理实现原理及方法

    1. **并行处理能力**:FPGA中的逻辑单元可以同时执行多个任务,这使得FPGA在处理多通道数据流或执行并行算法时具有显著优势。例如,它可以并行执行滤波器的多个计算步骤,提高整体处理速度。 2. **可定制性**:用户...

    snaker实现的工作流

    它提供了灵活的工作流模型定义、强大的任务处理机制以及易于集成的API,使得开发者可以快速地在应用中实现复杂的工作流程。在本文中,我们将深入探讨Snaker的工作原理、核心组件以及如何在实际项目中运用。 一、...

    电信设备-数据处理装置、数据处理方法及通信装置.zip

    本文将深入探讨“电信设备-数据处理装置、数据处理方法及通信装置”这一主题,主要围绕数据处理装置的功能、数据处理方法的原理以及通信装置在其中的作用。 首先,数据处理装置在电信系统中扮演着核心角色。这些...

    工作流引擎详细设计说明书

    - 获取工作流实例任务列表:列出待处理、已处理和逾期的任务,供操作者参考。 - 获取单体工作流实例:提供具体流程实例的详细信息。 - 执行工作流操作:允许操作者选择并处理流程实例,同时检查权限和规则。 3. ...

    .net工作流引擎源码

    工作流引擎则是驱动这些工作流执行的核心组件,它负责管理工作流实例的状态,调度任务,处理任务间的依赖关系,并与外部系统交互。 C#是微软开发的一种面向对象的编程语言,广泛用于构建Windows平台的应用程序,...

    轻量级工作流引擎

    关系数据库以其成熟的数据管理和事务处理能力,为工作流引擎提供了稳定的数据支持。关系结构强调的是数据之间的关联性,通过表格形式存储数据,利用SQL查询语言进行数据操作,这使得数据的查询和更新变得更加高效和...

Global site tag (gtag.js) - Google Analytics