平时工作临时需求查询比较多,领导让做一个自助查询工具,这样可以给工程师省下很可观的时间,也减少了各部门扯皮的碰撞。
客户端 php + mysql server1
服务器端 shell,python,hive,hadoop server2 若干执行shell的server
需求:
用户在前台填写task信息,比如:任务名称,执行服务器,上传uidlist文件【查询关于user的有关信息,所以要上传uid列表】,任务类型【1.用户基本信息 2用户其他信息 3.用户影响力指数等】,然后等待邮件通知,下载执行结果。
说明:
1.task信息存放到task表中 【taskId,userId,taskName,taskType,uidPath,ip,flag】
2.uidlist存放在rsync的指定模块下
思路:
1.server2上crontab定时每2个小时执行一次,使用shell连接mysql,取出task状态为create的tasklist输出到文件A
2.使用python分析文件A,并行将ip下uidpath文件通过rsync存放到server2上,目录命名为:taskId_userId_mmid(mmid为时间戳)
3.改变task表中的任务状态为running
4.将uidlist文件put到hdfs目录,新建临时用户表,分区使用 taskId_userId_mmid
5.根据taskType调用不同的业务shell【并行执行】
6.执行完毕后,返回结果路径,调用结果处理shell,主要分为3部:
6-1 扫描结果目录,大小不为0时,使用rsync将结果推送到服务器A上【taskId_userId_mmid】
6-2 根据结果目录大小和taskId改变task表中task的状态为 error或succ
6-2 使用发邮件模块给userId发邮件,通知下载结果或者重新提交任务
分享到:
相关推荐
#### 业务现状与需求分析 - **数据环境复杂性**:数据分散在多个不同的业务系统中,且数据规范性不统一,导致基础处理工作量大。 - **传统报表工具局限性**:现有报表工具依赖编程人员,面对复杂的数据关系时,开发...
域名批量生成查询工具是一款高效实用的软件,专为IT专业人士设计,用于快速生成并查询大量潜在的域名。这款工具在互联网行业中尤其受到欢迎,因为域名是任何在线业务的基础,找到一个合适且可用的域名至关重要。 ...
【KTV点歌系统需求分析】是一个针对新手开发者设计的项目,旨在构建一套高效、便捷且用户友好的点歌系统,适用于KTV场所和个人家庭使用。该系统将采用Visual Studio 2010作为开发工具,编程语言为C#,数据库选用SQL ...
在自助分析的道路上,企业需要充分利用现有技术工具如Informatica和Tableau,它们可以帮助实现数据的集成、数据编目和数据发现、自助分析。同时,企业还应重视数据湖的概念,利用其灵活性和规模,加速下一代分析的...
2. 需求建模工具在软件需求分析中,要善于学习和使用可视化建模工具来辅助表达需求获取模型。 3. 需求规格说明书文档结构。 三、实验内容 本次实验采用宾馆客房管理系统为例,通过问卷、组会等形式就以下系统业务...
总的来说,大数据自助式分析解决方案通过提供易于使用的工具和强大的数据处理能力,帮助企业用户快速理解、解释和利用大数据,驱动业务决策和创新。随着数据源的多样化和实时性需求的增长,这类解决方案的重要性将...
将IC卡放到自助服务机上可以查询卡内金额、租车和还车记录等功能 5.后台管理系统 网点开通、运营等管理,车辆租还信息、费用信息的统计,以及有关报表的生成等 6.运营商根据车辆租还信息和信用积分定期的清理...
【功能需求分析】 4.1 系统流程分析 用户通过搜索关键词或利用筛选条件查找旅游信息,系统返回匹配结果。用户可查看详细信息、阅读其他用户评价,然后选择预订。预订过程中,系统需验证用户信息,处理支付,并向用户...
但随着业务分析需求的增加,很多公司都希望为业务用户提供自助分析服务,将分析工作落实到业务人员手中。但同时,分析工具毕竟作为一个系统架设在企业数据分析平台的前端,需要适应企业的复杂业态,于是自助式BI成了...
本需求分析报告旨在详细阐述自助攒机系统的具体需求,为项目的开发提供明确的方向和依据。编写此报告的主要目的是确保系统设计与开发团队理解用户需求,降低项目风险,并保证最终产品能够满足目标用户的期望。 1.1 ...
总的来说,大数据自助式分析解决方案为企业和教育机构提供了强大的工具,以适应不断增长的数据需求。通过整合多种数据源,利用先进的分析技术和自助式工具,用户能够发现隐藏的模式,揭示深层次的见解,从而驱动更...
- **患者自助查询**:患者能够通过咨询台的触摸屏自助查询相关信息,如个人基本信息、就诊记录、费用明细等。 - **信息透明化**:提高医院信息的透明度,让患者对自己的诊疗过程有更清晰的了解。 - **流程优化**:...
此外,亿贝还开发了一系列定制化的工具和服务,如Singularity V2、Tableau等,以支持不同层级用户的自助式数据分析需求。 #### 二、数据分析平台架构 亿贝的数据分析平台由多个关键组件构成,旨在提供稳定可靠、可...
此外,自助式BI和嵌入式BI也是当前BI领域的热门趋势,它们让用户无需专业技能也能进行数据分析,同时使BI成为业务流程的一部分。 未来的BI工具将更加注重用户体验,强化AI和机器学习功能,以自动化预测分析和推荐...
CBoard是一款自助式商业智能(BI)数据分析工具,主要用于帮助企业用户快速、直观地理解并分析数据,提升决策效率。在v0.4.2版本中,CBoard可能包含了一些新特性、优化或修复了已知问题,使得数据分析过程更加顺畅。...
1. 需求分析:对系统进行需求分析,确定系统的功能和性能指标。 2. 系统设计:对系统结构进行设计,包括用户模块、管理员模块和支付模块等。 3. 系统开发:使用 Java 工具和 Tomcat 服务器进行系统开发,并使用 ...