BI
确切地讲,BI并不是一项新技术,它将数据仓库(DW)、联机分析处理(OLAP)、数据挖掘(DM)等技术与客户关系管理(CRM)等结合起来 应用于商业活动实际过程当中,实现了技术服务于决策的目的;Mark Hammond从管理的角度看待BI,认为BI是从“根本上帮助你把公司的运营数据转化成为高价值的可以获取的信息(或者知识),并且在恰当的时间通过恰 当的手段把恰当的信息传递给恰当的人”。
ETL
ETL即数据抽取(Extract)、转换(Transform)、装载(Load)的过程。它是构建数据仓库的重要环节。数据仓库是面向主题 的、集成的、稳定的且随时间不断变化的数据集合,用以支持经营管理中的决策制定过程。数据仓库系统中有可能存在着大量的噪声数据,引起的主要原因有:滥用 缩写词、惯用语、数据输入错误、重复记录、丢失值、拼写变化等。即便是一个设计和规划良好的数据库系统,如果其中存在着大量的噪声数据,那么这个系统也是 没有任何意义的,因为“垃圾进,垃圾出”(garbage in, garbage out),系统根本就不可能为决策分析系统提供任何支持。为了清除噪声数据,必须在数据库系统中进行数据清洗。目前有不少数据清洗研究和ETL研究,但是 如何在ETL过程中进行有效的数据清洗并使这个过程可视化,此方面研究不多。
联机事务处理OLTP
联机分析处理 (OLAP) 的概念最早是由关系数据库之父E.F.Codd于1993年提出的,他同时提出了关于OLAP的12条准则。OLAP的提出引起了很大的反响,OLAP作为一类产品同联机事务处理 (OLTP) 明显区分开来。
当今的数据处理大致可以分成两大类:联机事务处理OLTP(on-line transaction processing)、联机分析处理OLAP(On-Line Analytical Processing)。OLTP是传统的关系型数据库的主要应用,主要是基本的、日常的事务处理,例如银行交易。OLAP是数据仓库系统的主要应用,支 持复杂的分析操作,侧重决策支持,并且提供直观易懂的查询结果。
OLAP是使分析人员、管理人员或执行人员能够从多角度对信息进行快速、一致、交互地存取,从而获得对数据的更深入了解的一类软件技术。OLAP的目标是满足决策支持或者满足在多维环境下特定的查询和报表需求,它的技术核心是"维"这个概念。
分享到:
相关推荐
BI ETL ELT Kettle 基础知识中文文档汇总 BI项目中ETL设计与思考.pdf CTL工具.pdf ETL-开发规范.pdf ETL_--_事实表.pdf ETL_文档.pdf ETL_架构.pdf ETL_调度系统技术方案说明书_V1.0.pdf ETL中的数据清洗...
在BI ETL过程中,DAC Client是一种重要的维护工具,用于监控和管理BI ETL过程。DAC Client提供了强大的功能,能够实时监控BI ETL过程,检测异常问题,并提供详细的错误信息。 在使用DAC Client时,需要先登录到DAC ...
4. 如何使用Mysql的Sakila演示数据库构建一个完整的端到端的ETL解决方案 5. 34中ETL子系统,如何使用Kettle实现这34种子系统 6. Kettle如何完成数据抽取/清洗和确认,处理维度表,加载事实表,操作OLAP立方体 .....
BI(Business Intelligence)ETL(Extract, Transform, Load)是数据仓库系统中关键的一部分,它负责从各种数据源提取数据,进行清洗、转换,并加载到目标数据库或数据仓库。ETL过程通常包括多个组件和步骤,确保...
### BI项目中ETL设计与探究 #### 一、引言 随着信息技术的发展,企业面临着海量数据管理和利用的挑战。商业智能(Business Intelligence,简称BI)作为一种将企业现有数据转化为可利用知识的重要工具,旨在帮助...
在BI(Business Intelligence)项目中,ETL扮演着整合数据、为决策支持提供准确信息的角色。通常,ETL约占整个项目工作量的三分之一,其设计的质量直接影响到BI项目的成功与否。 1. 数据抽取(Extract) 数据抽取是...
微软BI ETL(提取、转换、加载)开发文档主要涵盖了构建高效、可靠的数据处理流程的步骤和最佳实践。以下是对这些关键知识点的详细说明: 1. **单一任务原则**:在设计SSIS(SQL Server Integration Services)包时...
SQL Server 2005作为Microsoft提供的强大数据库管理系统,内置了完整的BI解决方案,包括OLAP(在线分析处理)技术,是构建高效能、高性能的数据仓库的理想选择。 OLAP是商务智能中的关键组成部分,它允许用户从多个...
FoodMart数据库是一个经典的示例数据库,它模拟了一个大型食品连锁店的业务数据,包括客户、销售、分销和库存等多个方面。随着业务的增长,传统的报表和数据处理方式无法满足快速响应和深入洞察的需求,因此构建数据...
本文将深入探讨Hubble,一个专为满足这些新需求而设计的混布数据库,它通过创新的计算存储框架,实现在同一份数据上同时支持在线事务处理(OLTP)和在线分析处理(OLAP),从而消除了繁琐的ETL(提取、转换、加载)过程。...
Oracle BI Beans是Oracle公司提供...总之,Oracle BI Beans为企业提供了强大的OLAP开发能力,通过其与Oracle数据库的紧密集成,能够高效地处理大量历史数据,满足管理层的复杂分析需求,从而提升企业的决策质量和效率。
标题中的“解决方案:使用PDI构建开源ETL解决方案源码示例”暗示了这是一个关于如何利用Pentaho Data Integration(PDI),也被称为Kettle,来构建数据提取、转换和加载(ETL)流程的实践指南。这个压缩包可能包含了...
- **OLAP理论**:在线分析处理(OLAP)的概念,以及如何通过ETL支持多维数据分析。 - **ETL设计模式**:介绍常见的ETL设计模式,如星型模型、雪花模型,以及如何选择合适的模型。 - **数据集成**:探讨如何在不同...
数据仓库和OLTP数据库的区别:数据仓库和OLTP数据库的区别在于数据仓库是面向分析和决策的,而OLTP数据库是面向交易的。 数据仓库的架构模型有哪些?数据仓库的架构模型包括星型模型、雪花模型、星座模型等多种模型...
综上所述,作为一名BI开发人员,你需要具备数据库管理、数据建模、报表设计、元数据管理和安全性控制等方面的专业技能。同时,熟悉和掌握相应的开发工具和框架,如Spring和CAS,将有助于提高工作效率和系统安全性。...
随着时间的推移,数据库供应商开始更加重视ETL领域,他们的产品逐渐占据了市场份额,这表明市场趋势和竞争格局在不断演变。 总的来说,选择ETL工具和BI产品时,需要深入理解业务需求,评估不同工具的功能、性能和...
这篇笔试题主要涉及了数据库管理和商业智能(BI)开发两个领域的知识。让我们分别来深入探讨这两个领域的关键概念和技能。 **数据库管理员(DBA)** 数据库管理员是负责维护和优化数据库系统的关键角色。在网易...
《Pentaho Kettle解决方案:使用PDI构建开源ETL解决方案》介绍的PDI(Kettle)是一种开源的 ETL 解决方案,书中介绍了如何使用PDI来实现数据的剖析、清洗、校验、抽取、转换、加载等各类常见的ETL类工作。 除了ODS/DW...