`
hudiemeng870329
  • 浏览: 48 次
最近访客 更多访客>>
社区版块
存档分类
最新评论

图书《数据资产管理核心技术与应用》分享

阅读更多

《数据资产管理核心技术与应用》是由清华大学出版社出版的一本图书,该图书主要特点如下:

1、依托于大数据技术,独家解密数据血缘的底层技术实现

2、详解数据资产管理的知识体系和核心技术

3、应用元数据管理和数据建模技术,充分发挥出数据资产的更大潜力和价值。

4、全书从元数据、数据血缘、数据质量、数据服务、数据监控、数据建模、数据架构等多个维度来剖析大数据资产管理的核心技术与应用。

5、全书配套了PPT课件以及作者微信答疑服务

核心章节介绍如下:全书依托于大数据技术,独家解密数据血缘的底层技术实现

通常来说,数据血缘的来源可以包括数据源自身、数据处理的任务、数据任务的编排系统等。

  • 数据源自身:比如像Hive,由于其本身就是支持通过HQL做数据处理的,所以其本身就可以通过数据处理的过程来分析从而获取血缘。
  • 数据处理的任务:这点很容易理解,因为不管是实时任务还是离线任务,都会涉及到数据逻辑的处理,从数据任务的底层实现技术上来说,不管是Hadoop的Map-Reduce 任务还是Spark任务还是Flink任务,本质也都是在做数据的转换处理,有数据的转换,就可能会有数据血缘的变化。
  • 数据任务的编排系统:这点也很容易理解,如下图3-1-1所示,在任务编排时,可能会将很多不同的任务节点按照依赖顺序串联起来。前一个任务节点的数据输出会是下一个任务节点的数据输入,所以肯定也会产生数据的转换,就肯定也会存在血缘。

  • 重点介绍了数据血缘的底层技术实现,包括:
  1. 如何从Hive中获取数据血缘
  2. 从Spark 执行计划中获取数据血缘
  3. 从Spark  SQL语句中获取数据血缘
  4. 从Flink中获取数据血缘
  5. 从数据任务的编排系统中获取数

 

 

 

 

 

分享到:
评论

相关推荐

    DAMA数据管理知识体系管理指南高清书籍及学习笔记试题

    1. 数据治理:这是数据管理的最高层,负责制定数据管理策略,确保数据质量和合规性,同时推动数据资产的有效利用。包括政策制定、决策制定、组织结构、角色与责任等。 2. 数据质量:关注数据的准确性、完整性、一致...

    教会管理系统,系统主要内容包括人员信息管理,图书管理,财务管理,资产管理.zip

    教会管理系统是一款基于人工智能技术的信息管理平台,旨在高效地处理人员信息、图书管理、财务管理以及资产管理等核心任务。本文将深入探讨该系统的主要内容,以及它如何利用信息管理系统、系统分析与设计,以及HTML...

    信息技术选修之数据管理技术.doc

    综上所述,数据管理技术是信息技术中的核心部分,涉及到数据的组织、存储、检索等多个方面,而数据库应用系统是数据管理的关键工具。通过实例教学和实践活动,学生不仅能理解理论知识,还能掌握实际操作技能,提升...

    大数据环境下计算机应用技术和信息管理的整合.pdf

    黄琨福在其文章《大数据环境下计算机应用技术和信息管理的整合》中,探讨了大数据相关概念、我国计算机应用技术的发展现状以及大数据管理平台的构建和应用领域,强调了计算机应用技术与信息管理技术整合的重要性。...

    固定资产管理系统

    2. **电子书店**:虽然电子书店主要与图书销售相关,但其背后的库存管理和订单处理系统可能借鉴了固定资产管理系统的思想和技术,特别是对于非消耗性库存(如设备或家具)的管理。 3. **电子商务**:在电子商务环境...

    基于JavaEE的大学生资产管理系统

    【基于JavaEE的大学生资产管理系统】是一个以JavaEE技术为核心,专门为大学生设计的资产管理平台。该系统源码公开,能够完美运行,为学习者提供了实际操作和理解JavaEE开发的宝贵资源。JavaEE(Java Platform, ...

    大数据技术原理与应用

    《大数据技术原理与应用》和《大数据架构详解:从数据获取到深度学习》两本书籍是深入了解大数据领域的宝贵资源。大数据技术,顾名思义,是处理海量、高增长速度、多样的信息资产,旨在发现隐藏模式、市场趋势以及...

    RFID技术应用及其发展趋势

    RFID技术的应用范围极其广泛,包括物流、零售、医疗、图书管理、身份认证等多个领域。 RFID技术的核心组成包括RFID标签、RFID读写器以及后端软件系统。RFID标签一般由芯片和天线组成,存储有识别信息,可以进一步...

    物联网技术在高校智慧校园管理中的应用与发展研究.pdf

    物联网技术与智慧校园管理的应用与发展研究涉及到的核心知识点非常丰富,包括物联网技术的概述、智慧校园的概念与特点、以及如何将物联网技术应用于智慧校园的各个管理领域。 首先,物联网技术概述部分,文中提到...

    个人图书馆管理APP

    总的来说,个人图书馆管理APP凭借其强大的功能和便捷的操作,成为了现代人管理个人书籍资产的理想工具。随着技术的发展,这类APP的功能将会更加丰富,用户体验也将不断提升,为我们的阅读生活带来更多的便利。

    BIM、物联网、云计算技术在智慧图书馆建设中的应用探讨.pdf

    综上所述,BIM、物联网、云计算技术在智慧图书馆建设中的综合应用,不仅极大地提升了图书馆的管理效率和读者体验,还为图书馆的长远发展提供了科学的数据支持,是智慧图书馆发展的重要推动力。随着这些技术的不断...

    SAS编程技术与金融数据处理

    《SAS编程技术与金融数据处理》这本书不仅系统介绍了SAS编程的基础知识和技术要点,还结合金融行业的具体需求,深入探讨了金融数据处理的实际应用,是一本非常适合数学、统计学、经济和金融等专业学生及从业人员使用...

    基于大数据技术的图书馆PDA采购资源应用架构的研究与实践.pdf

    大数据技术在图书馆PDA采购资源应用架构中的研究与实践,是针对当前图书馆如何利用大数据技术改进采购资源管理的一次深入研究。图书馆借助大数据技术,可提高资源采购的精准度,更好地满足读者的个性化需求。以下将...

    JSP-library.rar_JSP-library_Java library_jsp 图书管理系_固定 资产管理 系统 js

    本项目是一个基于JSP的图书管理系统,用于管理和操作图书馆的书籍信息。系统可能包括功能如书籍的添加、删除、修改、查询,以及借阅、归还等操作。用户界面友好,操作简便,适合图书馆工作人员使用。 **Java ...

    基于条码与 RF 技术的图书仓储管理系统设计.pdf

    ### 基于条码与RF技术的图书仓储管理系统设计 #### 一、引言 随着图书物流行业的迅速发展,图书仓储管理系统(Warehouse Management System, WMS)的重要性日益凸显。传统的人工操作方式已难以应对现代图书仓储所...

    阿里数据中台实践资料分享

    总之,数据中台是现代企业提升竞争力的关键工具,它通过构建统一的数据平台,实现了数据资产的高效管理和利用。产品经理应当把握这一趋势,深入学习和理解数据中台,以便在工作中更好地利用数据驱动业务发展。

    物联网技术在高校智慧校园管理中的应用与发展研究.zip

    物联网技术在高校智慧校园管理中的应用与发展研究,是近年来教育信息化领域的重要课题。随着科技的飞速进步,物联网(Internet of Things, IoT)以其独特的连接、感知和智能处理能力,正逐渐改变着传统校园的管理...

    财务会计信息化与资产管理知识分析.docx

    财务会计信息化与资产管理是现代企业管理的核心组成部分,而Excel作为一款强大的电子表格软件,在这个领域扮演着至关重要的角色。本实验指导书旨在通过一系列实操课程,让学生深入理解并掌握Excel在财务会计和资产...

    媒体资产管理系统wllPPT学习课件.pptx

    这包括与内容相关的工作流,素材管理,内容的表达和元数据,文件格式,内容管理系统架构,基础结构,系统与数据集成,以及相关的应用程序。元数据是描述媒体内容的关键信息,对于快速定位和检索特定媒体资产至关重要...

Global site tag (gtag.js) - Google Analytics