`
小网客
  • 浏览: 1244422 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

数据仓库基本架构描述

    博客分类:
  • DB
 
阅读更多

数据仓库的目的是为了分析最终支持决策,其本身仅仅是存储数据,尽可能的保证数据的细粒度,数据从源头经过ETL然后达到DW,然后再次经过ETL达到ODS或者直接达到应用分析层,然后支持分析。

其描述图如下所示:



 

源头:

包括各种结构化、半结构化和非结构化数据。

结构化也就是我们传统机遇ER模型的数据;

半结构化类似xml、json型数据,通过属性描述含义;

非结构化也就是图片,无规律文本(网页,评论等),流(视频,音频等)

数据仓库存储部分:

1.粒度控制

2.是否需要ods层

3.面向分析主题,各维度控制,汇总聚合等

4.非结构化数据抽象(视频可以抽象出:视频名称,播放时间,作者,创建日期,关键词等)

5.元数据管理

应用层:

主要对数据进行分析然后结果展示,是最终的目的

各层直接数据流转都经过了ETL。

  • 大小: 128.1 KB
0
0
分享到:
评论

相关推荐

    数据仓库基本概念PPT

    随着技术的发展,早期基于客户/服务器架构的数据仓库逐渐演变为分布式对象技术,允许更灵活的体系结构。 3. **数据仓库的体系结构**:一个典型的数据仓库系统包括数据源、ETL工具、数据仓库本身(包含数据存储和...

    数据仓库体系结构设计 硕士论文 数据仓库 数据仓库体系结构设计 硕士论文 数据仓库 data warehouse study

    第二章深入阐述了数据仓库的基本概念和理论。数据仓库是针对特定目的设计的,它强调数据的非易失性、时变性和读多写少的特性。论文详细解析了数据仓库的数据模型,包括星型、雪花型等常见模式,以及数据仓库建设的...

    Oracle数据仓库架构

    Oracle数据仓库架构是企业级数据存储和分析的核心组成部分,它提供了一种高效、可扩展的方式来组织和处理大量数据。在设计Oracle数据仓库时,主要考虑的关键点包括元数据管理、数据获取、数据管理、数据使用以及商业...

    3万字38页《数据仓库知识体系》.pdf

    覆盖了数据仓库的多个方面,从发展阶段、数据模型、事实表设计、多维体系结构、规范设计、元数据管理、维度表设计、范式和反范式化、数据仓库架构、数据治理、ETL过程、OLAP应用以及数据倾斜问题等。 首先,文章...

    淘宝数据仓库架构实践

    ### 淘宝数据仓库架构实践 #### 一、概述 淘宝数据仓库作为支撑阿里巴巴集团海量数据处理的核心组件,在电商领域扮演着至关重要的角色。随着阿里巴巴集团的战略转型,即从一家电商平台逐步转变为一家数据驱动的...

    基于大数据的数据仓库-数据仓库建模基本理论.pdf

    理解并应用数据仓库建模的基本理论,结合实际情况灵活选择建模方法,对于构建高性能、低成本、易用性强且数据质量高的数据仓库至关重要。随着大数据技术的不断发展,数据仓库建模仍然将是数据管理和决策支持系统中的...

    淘宝数据仓库架构

    淘宝数据仓库架构是电子商务巨头阿里巴巴集团在数据处理和分析领域的核心架构。该架构的实践和设计融合了大量前沿技术,旨在处理海量数据并为各种业务提供支持。以下是对给定文件中提到的知识点的详细解读: ### 元...

    数据仓库的基本架构.zip

    数据仓库的基本架构通常包括多个层次和组件,这些组件协同工作以实现数据的整合、清洗、存储和查询。现在,我们将深入探讨这个主题。 首先,我们要了解数据仓库的四个核心组成部分:数据源、数据抽取、转换和加载...

    《数据仓库与数据挖掘》课程设计方案报告模板.pdf

    在建立数据仓库的过程中,任务描述通常包括理解业务需求、选择合适的数据源、设计数据库结构以及设置数据源。数据库结构设计是关键步骤,需要考虑到数据的组织方式、关系模型以及表的设计。数据源的设置则涉及到数据...

    数据仓库与数据挖掘课程设计.docx

    ### 数据仓库与数据挖掘课程设计知识点详解 #### 一、项目背景及提出问题 - **项目背景**: 在当前的大数据时代背景下,无论是哪个行业都需要对商品及其相关环节的数据进行有效的收集与处理。特别是零售行业,通过对...

    数据仓库建模技术 详细描述建模方法和步骤

    在开始建模之前,首先要了解数据仓库的基本概念。数据仓库是一个集成的、非易变的、面向主题的大型数据集合,用于支持决策制定。建模则是将业务领域的复杂实体和关系转化为数据仓库中的结构化模型。 二、建模方法 1...

    银行数据仓库总体架构介绍

    哈尔滨银行的数据仓库总体架构设计旨在实现这一目标,包括四个主要组成部分:总体架构、物理架构、技术架构和数据架构。 1. **总体架构**: 哈尔滨银行的数据应用总体架构涵盖了数据采集、数据整合、数据推送和...

    数据仓库与数据分析教程ppt.rar

    在数据仓库环境中进行数据分析,通常会用到SQL(结构化查询语言)进行查询和报表生成,以及更复杂的工具如OLAP(在线分析处理)立方体,它们允许用户从不同角度快速地对大量数据进行多维分析。此外,随着大数据技术...

    数据挖掘课件:第3章 数据仓库基本原理.pdf

    在“数据挖掘课件:第3章 数据仓库基本原理.pdf”中,主要介绍了数据仓库的体系结构、数据组织、元数据等关键概念。 首先,数据仓库的体系结构包括数据源、数据抽取、转换、装载(ETL)工具、数据建模工具、元数据...

    数据仓库与数据挖掘课后答案(陈志泊著)清华大学出版社[归类].pdf

    2. 元数据是描述数据仓库内数据的结构和建立方法的数据,它为访问数据仓库提供了一个信息目录,根据元数据用途的不同可将数据仓库的元数据分为技术元数据和业务元数据两类。 3. 数据处理通常分成两大类:联机事务...

    数据仓库ETl工具箱3.pdf

    ### 数据仓库与ETL工具箱概念 在企业信息化过程中,数据仓库作为核心组件,承担着存储、处理和提供决策支持数据的职责。ETL(抽取、转换、加载)是数据仓库建设的关键环节,负责从业务系统中抽取数据,经过清洗、...

    数据仓库学习数据仓库学些

    此外,随着大数据和云技术的发展,现代数据仓库解决方案,如Amazon Redshift、Google BigQuery和Snowflake,引入了新的架构和工具,使数据仓库能够处理PB级别的数据,并提供实时或近实时的分析能力。 最后,理解...

    论数据仓库的数据架构设计

    当前,数据仓库架构设计主要采用两种典型的方法:集线器架构和总线架构。这两种架构方式分别代表了以数据驱动的自顶向下设计方法和以应用驱动的自下向上设计方法。 ##### 1. 集线器架构 集线器架构采取自顶向下的...

    数据仓库 经典书籍

    1. **数据仓库的概念与模型**:介绍数据仓库的基本概念,如多维模型(星型、雪花型、星座型),以及数据仓库的不同架构(层次型、关系型、MOLAP、ROLAP、HOLAP)。 2. **数据仓库的生命周期**:包括需求分析、数据...

Global site tag (gtag.js) - Google Analytics