`

每个人都应该知道的25个大数据术语

阅读更多

   如果你初来乍到,大数据看起来很吓人!根据你掌握的基本理论,让我们专注于一些关键术语以此给你的约会对象、老板、家人或者任何一个人带来深刻的印象。

 

让我们开始吧:

1. 算法。“算法”如何与大数据相关?即使算法是一个通用术语,但大数据分析使其在当代更受青睐和流行。

2. 分析。年末你可能会收到一份来自信用卡公司寄来的包含了全年所有交易记录的年终报表。如果你有兴趣进一步分析自己在食物、衣服、娱乐等方面具体花费占比呢?那你便是在做“分析”了。你正从一堆原始数据中来吸取经验,以帮助自己为来年的消费做出决策。如果你正在针对整个城市人群对Twitter或Facebook的帖子做同样的练习呢?那我们便是在讨论大数据分析了。大数据分析的实质是利用大量数据来进行推断和讲故事。大数据分析有3种不同到的类型,接下来便继续本话题进行依次讨论。

3. 描述性分析。刚刚如果你告诉我,去年你的信用卡消费在食物上花费了25%、在服装上花费了35%、娱乐活动上花费了20%、剩下的就是杂七杂八的事项,这种便是描述性分析。当然你还可以参考更多的细节

4. 预测分析。如果你根据过去5年的信用卡历史记录来进行分析,并且划分具有一定的连续性,则你可以高概率预测明年将与过去几年相差无几。此处需要注意的细节是,这并不是“预测未来”,而是未来可能会发生的“概率”。在大数据预测分析中,数据科学家可能会使用类似机器学习、高级的统计过程(后文将对这些术语进行介绍)等先进的技术去预测天气、经济变化等。

5. 规范分析。沿用信用卡交易的案例,你可能想要找出哪方面的支出(级食品、服装、娱乐等)对自己的整体支出产生巨大的影响。规范分析建立在预测分析的基础之上,包含了“行动”记录(例如减少食品、服装、娱乐支出),并分析所得结果来“规定”最佳类别以减少总体支出。你可以尝试将其发散到大数据,并设想高管们如何通过查看各种行动的影响来做出数据驱动的决策。

6. 批处理。虽然批量数据处理在大型机时代就早已出现,但大数据交给它更多大数据集处理,因此赋予了批处理更多的意义。对于一段时间内收集到的一组事务,批量数据处理为处理大量数据提供了一种有效的方法。后文将介绍的MaxCompute便是专注于批量数据处理。

7. Cassandra是由Apache Software Foundation管理的一款流行的开源数据库管理系统。很多大数据技术都归功于Apache,其中Cassandra的设计初衷便是处理跨分布式服务器的大量数据。

8. 云计算。显而易见云计算已经变得无所不在,所以本文可能无须赘述,但为了文章的完整性还是佐以介绍。云计算的本质是在远程服务器上运行的软件和(/或)数据托管,并允许从互联网上的任何地方进行访问。

9. 集群计算。它是一种利用多台服务器的汇集资源的“集群”来进行计算的奇特方式。在了解了更多技术之后,我们可能还会讨论节点、集群管理层、负载平衡和并行处理等。

10. 黑暗数据。依我看来,这个词适用于那些吓得六神无主的高级管理层们。从根本上来说,黑暗数据是指那些被企业收集和处理但又不用于任何有意义用途的数据,因此描述它是“黑暗的”,它们可能永远被埋没。它们可能是社交网络信息流、呼叫中心日志、会议笔记,诸如此类。人们做出了诸多估计,在60-90%的所有企业数据都可能是“黑暗数据”,但无人真正知晓。

11. 数据湖。当我第一次听到这个词的时候,我真的以为有人在开愚人节的玩笑。但它真的是个术语!数据湖是一个原始格式的企业级数据的大型存储库。虽然此处讨论的是数据湖,但有必要再一起讨论下数据仓库,因为数据湖和数据仓库在概念上是极其相似的,都是企业级数据的存储库,但在清理和与其他数据源集成之后的结构化格式上有所区别。数据仓库常用于常规数据(但不完全)。据说数据湖能够让用户轻松访问企业级数据,用户真正按需知道自己正在寻找的是什么、如何处理并让其智能化使用。

12. 数据挖掘。数据挖掘是指利用复杂的模式识别技术从大量数据中找到有意义的模式、提取见解。这与我们前文讨论的使用个人数据做分析的术语“分析”密切相关。为了提取出有意义的模式,数据挖掘者使用统计学(是呀,好老的数学)、机器学习算法和人工智能。

13.数据科学家。我们谈论的是一个如此热门的职业!数据科学家们可以通过提取原始数据(难道是从前文所说的数据湖中提取的?),处理数据,然后提出新见解。数据科学家所需具备的一些技能与超人无异:分析、统计、计算机科学、创造力、故事讲述和理解业务环境。难怪他们能获得如此高的薪水报酬。

14.分布式文件系统。由于大数据太大而无法在单个系统上进行存储,分布式文件系统提供一种数据存储系统,方便跨多个存储设备进行大量数据的存放,并有助于降低大量数据存储的成本和复杂度。

15. ETL。ETL分别是extract,transform,load的首字母缩写,代表提取、转化和加载的过程。 它具体是指“提取”原始数据,通过数据清洗/修饰的方式进行“转化”以获得 “适合使用”的数据,进而“加载”到合适的存储库中供系统使用的整个过程。尽管ETL这一概念源于数据仓库,但现在也适用于其它情景下的过程,例如在大数据系统中从外部数据源获取/吸收数据。

16. MaxCompute(原名ODPS)。由中国阿里云自主研发的大数据平台产品MaxCompute,它能提供快速、完全托管的PB级数据仓库解决方案,可以经济并高效的分析处理海量数据,为全球60个国家,180万家企业提供计算能力。

17. 内存计算。一般来说,任何可以在不访问I / O的情况下进行的计算预计会比需要访问I/O的速度更快。内存内计算是一种能够将工作数据集完全转移到集群的集体内存中、并避免了将中间计算写入磁盘的技术。Apache Spark便是一种内存内计算系统,它与I / O相比,在像MaxCompute MapReduce这样的系统上绑定具有巨大的优势。

18. IOT。最新的流行语是物联网(Internet of things,简称IOT)。IOT是通过互联网将嵌入式对象(传感器、可穿戴设备、汽车、冰箱等)中的计算设备互连在一起,并且能够发送/接收数据。IOT产生了大量的数据,这为呈现大数据分析提供了更多的机会。

19. 机器学习。机器学习是为了设计一种基于提供的数据能够进行不断学习、调整、改进的系统的设计方法。机器使用预测和统计的算法进行学习并专注于实现“正确的”行为模式和简见解,随着越来越多的数据注入系统它还在不断进行优化改进。典型的应用有欺诈检测、在线个性化推荐等。

20. MapReduce。MapReduce的概念可能会有点混乱,但让我试一试。MapReduce是一个编程模型,最好的理解方法是将Map和Reduce是看作两个独立的单元。在这种情况下,编程模型首先将大数据的数据集分成几个部分(技术术语上是称作“元组”,但本文并不想太过技术性),因此可以部署到不同位置的不同计算机上(即前文所述的集群计算),这些本质上是Map的组成部分。接下来该模型收集到所有结果并将“减少”到同一份报告中。 MapReduce的数据处理模型与MaxCompute的分布式文件系统相辅相成。

21. NoSQL。乍一听这像是针对传统关系型数据库管理系统(RDBMS)的面向对象的SQL(Structured Query Language, 结构化查询语言)的抗议,其实NoSQL代表的是NOT ONLY SQL,意即“不仅仅是SQL”。 NoSQL实际上是指被用来处理大量非结构化、或技术上被称作“图表”(例如关系型数据库的表)等数据的数据库管理系统。NoSQL数据库一般非常适用于大型数据系统,这得益于它们的灵活性以及大型非结构化数据库所必备的分布式结构。

22. R语言。有人能想到比这个编程语言更糟糕的名字吗?是的,’R’是一门在统计计算中表现非常优异的编程语言。如果你连’R’都不知道,那你就不是数据科学家。(如果你不知道’R’,就请不要把那些糟糕的代码发给我了)。这就是在数据科学中最受欢迎的语言之一的R语言。

23. Spark(Apache Spark)。Apache Spark是一种快速的内存内数据处理引擎,它可以高效执行需要快速迭代访问数据集的流、机器学习或SQL工作负载。Spark通常比我们前文讨论的MapReduce快很多。

24. 流处理。流处理旨在通过“连续”查询对实时和流数据进行操作。结合流分析(即在流内同时进行连续计算数学或统计分析的能力),流处理解决方案可以被用来实时处理非常大的数据。

25. 结构化和非结构化数据。这是大数据5V中的“Variety”多样性。结构化数据是能够放入关系型数据库的最基本的数据类型,通过表的组织方式可以联系到任何其他数据。非结构化数据则是所有不能直接存入关系数据库中的数据,例如电子邮件、社交媒体上的帖子、人类录音等。

分享到:
评论

相关推荐

    史上最全大数据术语字典

    "大数据术语字典" 大数据是一个高容量、高速度和/或多样化的信息资产,需要成本效益高、创新形式的信息处理,从而增强洞察力、决策制定和流程自动化。以下是大数据相关术语的基本概念理解: 1. 数据(Data):对...

    14个大数据专业词汇,帮你更好地理解大数据.pdf

    以下是对给出的文件中提及的14个大数据专业词汇的详细解读。 一、本地数据库(Local Database) 本地数据库是指安装在用户本地计算机中的数据库系统。通常它用来存储个人或小型组织的数据,以便于在没有网络连接的...

    Big Data Glossary-大数据术语

    ### 大数据术语详解 #### 一、大数据基础概念与技术 **1.1 文档导向型数据库(Document-Oriented)** 文档导向型数据库是一种非关系型数据库,它将数据存储为文档形式,通常使用JSON或XML格式。这种类型的数据库...

    最全的大数据术语合集.pdf

    【大数据术语合集详解】 ...这些术语仅是大数据领域的一小部分,每个都有其独特的角色和价值,对于理解和操作大数据环境至关重要。随着技术的进步,新的术语将持续涌现,推动大数据科学的边界不断拓展。

    大数据及其应用领域之术语和定义

    3. **教育领域**:通过对学生的学习数据进行分析,教育机构能够实现个性化教学,更好地满足每个学生的学习需求,进而提高整体的教育质量。 4. **交通运输**:大数据技术有助于优化交通规划,减少拥堵,提高出行效率...

    最全的大数据术语合集 (2).pdf

    以上只是一部分大数据领域的核心概念,实际上,这个领域包含众多子领域和技术,如数据挖掘、流处理、预测分析、机器学习等,每个都有其独特的术语和工具。随着技术的发展,这个术语列表还将不断扩展和完善。

    大数据安全管理指南.docx

    1. **职责明确原则**:强调在大数据处理中,各个角色的职责必须清晰,包括数据所有者、管理者和使用者,以确保每个环节都有明确的安全责任。 2. **意图合规原则**:大数据的采集、存储和使用必须符合国家和行业的...

    《大数据从业人员能力要求标准》(征求意见稿)

    职业种类包括大数据处理、管理、分析、系统、安全和服务六个方向,每个方向都有特定的岗位如数据采集工程师、数据管理工程师等。职业等级分为初级、中级和高级,初级能在他人的指导下工作,中级能独立完成任务并有...

    大数据时代演讲PPT资源共享

    大数据的主要特征包括三个V:Volume(大量)、Velocity(高速)、Variety(多样)。Volume指的是数据的海量性,从TB到PB甚至EB、ZB的规模;Velocity则强调数据产生的速度,如每秒电子邮件的数量、视频上传的频率等;...

    大数据学习路径思维导图.pdf

    根据提供的文件内容,我们可以梳理出以下几个大数据领域相关的知识点: 1. **大数据存储技术** - **Canal**: Canal是基于数据库增量日志解析的数据同步工具,常用于MySQL的binlog解析,用于实现数据库之间的数据...

    大数据发展现状与未来发展趋势研究.pdf

    首先,大数据技术的概念可以追溯到信息技术发展的每一个阶段,每一个阶段都有相应的数据处理问题。为了应对这些挑战,相继出现了关系型数据库和NoSQL技术。关系型数据库是为结构化数据存储而设计,而NoSQL则是为...

    --互联网+智慧工厂大数据云平台解决方案 互联网+智慧工业大数据云平台解决方案.docx

    参考标准:方案设计应参照相关行业标准,如ISO/IEC JTC1 SC42大数据标准、GB/T 33146-2016大数据术语、GB/T 33151-2016大数据产业发展指南等,以确保系统的合规性和标准化。 运行环境与开发环境:平台运行需稳定的...

    大数据治理体系.docx

    这里会详细列出每个角色的职责,如数据治理委员会负责监督和协调,数据管理团队负责实施数据治理活动,数据所有者对特定数据集的质量和使用负责,而数据使用者需遵守规定,正确使用数据。 5.3 系统架构 系统架构...

    浅谈大数据技术及应用.docx

    这些问题都将在文中一一列举 关键词:大数据 云计算 应用 浅谈大数据技术及应用 引言 大数据这一术语正是产生在全球数据爆炸增长的背景下,用来形容庞大的数据集合。与传统的数据集合相比,大数据通常包含大量的非结构...

    大数据的概念大数据的概念

    个人分析也将兴起,每个人都有可能成为自己数据的主人,利用大数据分析理解自我行为,改善生活质量。此外,博弈论也可能在大数据分析中扮演重要角色,帮助我们理解和预测复杂的社会和经济现象。 大数据的挑战与机遇...

Global site tag (gtag.js) - Google Analytics