摘要: 近日,阿里云宣布高性能时间序列数据库 (High-Performance Time Series Database , 简称 HiTSDB) 正式商业化。
近日,阿里云宣布高性能时间序列数据库 (High-Performance Time Series Database , 简称 HiTSDB) 正式商业化。
先跟大家聊一下什么叫时序数据。简单的说,就是时间上分布的一系列数值,关键字是数值,我们一般认为的时序数据是什么时间发生了什么事情,但是在时序数据这个领域里定义的时序数据全都是跟数值有关的。也就是说,如果只是一个带有时间戳的一条数据并不能叫做时序数据。举个例子,比如像我早上8点半上楼吃了个饭这条记录,相当于一个日志,这个本身不构成一个时序数据,但是如果某个餐厅早上8点半同时有50个人在那里吃饭,这个50加上餐厅的信息再加这个时间点就构成了一个时序数据。
单值与多值建模
实际上通用的建模方式有两种,其中的一种是单值。实际上我们是针对不同的东西来建模的,多值的模型是针对数据源建模,我们每一行数据针对的是一个数据源,它的三个被测量的指标在同一列上,所以每一个数据源,数据的来源在每一个时间点上都有一行,这就是多值的模型。
还有一种模型是单值的模型,单值的模型我们是把它测量的精确到时间序列上,也就在时间序列的每个时间点上只有一个值,所以是个单值,也就是说对于多值模型来说它每一行数据对应的是一个数据源,对于单值模型来说它对应的是一个时间序列,实际上多值模型对应的是一个数据源在一个时间点上就会产生一行数据,而在单值模型里一个数据源上面的每一个指标会产生一行数据。
什么是插值和降精度?
如上前面所讲,时间序列会分布在一些时间线上,数据源和测量指标确定了的话,时间序列是随着时间轴往后分布的,实际上它的采样在一个典型的场景里是固定时间间隔的,它中间一些点做处理会牵扯到插值和降精度处理。比如说中间丢失了一个点,比较简单的方法是中间插一个值,常用的方法是线性插值,就是在时间轴上画一个直线中间的点就插出来了。
另一个叫降精度,例如我们有个按秒采样的时间序列,显示时间范围是一年的数据,为了便于查看,需要把时间精度降到一天。比如我们只选这一天中的最大值或者最小值或者平均值,作为这一天的气温,也就是最高气温,最低气温和平均气温的概念。用算法或者把时序数据转换成精度比较低的时间序列以便于观察和理解它,这是在传统数据库里没有的一种方式。
再一个就是数据聚合,也是非常典型的基于设备的数据统计,比如这里有很多设备指标数据构成的时间线,时序数据的聚合是在时间线的维度上的,而不是按点的,在处理平时处理的空间聚合的话,一般是把很多数据点按照一个个聚合起来,而实际数据处理的时候一般会把它抽象的点连成线就是刚才看的时间序列,每个数据源在一个测量值上会产生一行时间线,加上时间序列,如果是根据某一个维度上的测量的话,在同一维度就能调成线就把时间序列处理出来了。
举个例子, 智慧园区的业务系统需要查看一个楼宇的某盏灯的耗电量情况,那么就需要把这盏灯的耗电量数据从数据库中查询并展示出来,如果由于采集的故障导致某个时刻用电量数据缺失,那么需要通过特定算法来近似的估算出这个数据,这个计算补全数据的过程就是“插值”。而当需要查看这盏灯一年的耗电趋势情况时,通常只需要计算出每一天的耗电量,进行查看,而不需要把每一个时刻采集的数据全部输出出来,这个将原始精度转化为业务需求精度的过程就是“降精度”。而如果要统计某一个楼层或者楼宇的用耗电量整体趋势数据时,就需要将所有统计范围内的灯具的耗电量数据做“合并统计”,这个类似的统计过程就是Aggregation。
时序数据降精度是在时间序列维度上做的。对于关系数据库来说,首先要把时间序列维度拿出来,然后在中间插值,而实际上 SQL 是按点来操作的。所以如果要做降精度的话,需要用一个值查询把整条时间序列上的数据查询出来,插好值之后才能做时间序列之间的聚合,那么服务和 SQL 服务器之间的吞吐量非常大,相当于 SQL 只是一个数据通道需要把所有值都拉出来运算一遍,这个查询性能会非常慢,并且每一次计算都需要重新拉取数据,相对 HiTSDB,这个性就能差了几百倍,在空间聚合 Aggregator 支持也非常全面,支持 ADhoc 查询,HiTSDB 通过引入倒排索引和数据分片提升检索时间序列的效率,通过并行计算架构,整体计算性能提升非常明显。
HiTSDB高压缩技术 存储成本降低90%
物联网领域是最典型的时序数据产生和应用的场景,这些场景具备一些特征,技术数据量特别大,比如某个智能设备的温度传感器,首先第一是时间序列会持续的产生大量的数据,持续的产生什么意思呢?因为我们往往对时间序列来说是定时采样功能,如果每秒测量一次,一天是86400秒,如果24小时都要用,平均每一个传感器仪表在一个时间点上产生一个数据点,一个仪表就产生86400个数据,如果把全国各个县都布一个采样点,那一天数据就上亿了,实际上大家作为气象采样来说每一个县对应一个温度传感器显然有点不够的,可能我们是每一个街道甚至每个小区都有这样的传感器,那么这个数据加起来实际上是一个非常惊人的数字。
利用HiTSDB 的高压缩技术,相比较 OpenTSDB 提升10倍左右,通常原始时序数据的大小在 200-300 Byte,OpenTSDB 单数据点消耗约20 Byte,HiTSDB 单数据点消耗约 2Byte,通过 HiTSDB 可以节约90%以上的数据库存储成本。
对于物联网平台企业可以利用HiTSDB 和阿里云的产品能力基于如下的架构构建云上的物联网平台。
HiTSDB 除了在云上提供高效的时序数据服务能力,企业可以也可以利用HiTSDB 结合阿里云工业大脑和城市大脑的大数据方案实现智能制造生产和智慧城市。 利用HiTSDB 的“边缘+ 中心”的解决方案,可以满足工业物联网IoT尤其是电力能源行业的数据边缘端本地存储分析,逐级数据上报 ,以及网络不稳态的数据数据稳定上报和中心端的全局设备数据监控分析,打通智慧大脑的数据通道。
HiTSDB商业化首发期间,官网推出85折优惠活动。更多详情点击【HiTSDB官方网站】
原文地址:https://yq.aliyun.com/articles/558776?spm=a2c41.11181499.0.0
分享到:
相关推荐
阿里云栖大会中介绍的阿里高性能时间序列数据库HiTSDB,是专门为物联网(IoT)设计的数据库解决方案,它针对物联网应用中的大规模、高频率数据处理需求进行了优化。时间序列数据库是一种专门处理时间序列数据的数据库...
阿里巴巴数据库产品专家 艾乐强 在2018云栖大会·武汉峰会中做了题为《为物联网而生-高性能时间序列数据库》的分享,就物联网数据特征和数据库困境、HiTSDB 核心能力介绍、物联网平台方案和架构设计、时序数据库应用...
【资源说明】 1、该资源包括项目的全部源码,下载可以直接使用! 2、本项目适合作为计算机、数学、电子信息等专业的课程设计、期末大作业和毕设项目,作为参考资料学习...智慧农业物联网平台-后端+前端源码+数据库.zip
随着5G技术的商业化和成熟,物联网的发展呈现出前所未有的增长速度。5G技术具有高速率、低延迟和大连接数的特点,为物联网设备提供了更强大和更稳定的网络连接,这对于构建智能城市、智能家居、智能制造、智慧交通等...
它可以高效地存储和处理大量的时间序列数据,满足了工业互联网、物联网、金融科技等领域对高性能时间序列数据库的需求。 2. 技术优势 阿里云TSDB 产品具有以下技术优势: * 高性能:阿里云TSDB 产品可以高效地...
总的来说,物联网平台层在中国物联网产业中扮演着核心角色,不仅推动了经济增长,还为各行各业的数字化转型提供了强大支撑。然而,随着市场规模的扩大,安全问题和行业标准的制定也将成为行业未来发展必须面对的挑战...
**高性能时间序列数据库TSDB简介** 时间序列数据库(Time Series Database, 简称TSDB)是一种专门用于处理和存储时间序列数据的数据库系统。在阿里云专有云企业版V3.8.0中,TSDB是一款针对高并发、低延迟、大规模...
阿里云的高性能时间序列数据库TSDB(Time Series Database)是一款专为企业级应用设计的数据库服务,主要针对处理大量的时间序列数据。在V3.7.1版本中,TSDB提供了高效、稳定的数据存储和查询能力,尤其适用于监控、...
- 高性能:TSDB设计为高性能数据库,支持大规模并发写入和查询,优化了对时间序列数据的处理效率。 - 高可用性:通过分布式架构保证服务的稳定性,支持数据备份和恢复,确保数据安全。 - 高压缩比:针对时间序列...
【阿里云专有云企业版 V3.8.0 高性能时间序列数据库TSDB 用户指南】是针对阿里云专有云环境下,高性能时间序列数据库TSDB的产品文档,旨在帮助用户理解和使用这款专为处理时间序列数据设计的数据库系统。时间序列...
本文中主要介绍了传统数据库没有物联网的速度基因,时序数据库的数据存储设计,时序数据库编程语言之争,时序数据库整合趋势明显等相关内容。本文来自csdn,由火龙果软件Anna编辑、推荐。而且“增删改查”是传统...
标题中的“一个开源,高性能,云原生时间序列数据库,针对物联网(IoT),互联汽车,工业物联网和DevOps进行了优化”指的是一个专门设计用于处理和存储时间序列数据的数据库系统,它具备开源、高性能和云原生的特点,...
**高性能时间序列数据库TSDB产品简介** **一、什么是时间序列数据库TSDB** 时间序列数据库(Time Series Database,简称TSDB)是一种专门针对时间序列数据进行高效存储和处理的数据库系统。时间序列数据是指按照...
**阿里云专有云企业版 V3.7.0 高性能时间序列数据库TSDB 开发指南** **一、产品概述** 阿里云专有云企业版高性能时间序列数据库TSDB是一款针对时间序列数据进行高效存储和处理的数据库服务。它专为监控、物联网(IoT...
《阿里云专有云企业版 V3.7.1 高性能时间序列数据库TSDB用户指南》是针对阿里云专有云企业版中的一款高性能时间序列数据库TSDB的详细使用手册,适用于V3.7.1版本。该指南旨在帮助用户理解和操作TSDB,以实现高效的...
Python_TDengine是一个专为物联网(IoT)、物联网汽车、工业物联网和DevOps场景设计的开源高性能云原生时间序列数据库。这个系统的核心在于其优化的数据结构和算法,使其能够高效地处理大量的时间序列数据,这对于...
阿里云专有云企业版V3.7.0中的高性能时间序列数据库TSDB是一款专为处理大规模时间序列数据而设计的高效存储和分析系统。这款数据库适用于监控、物联网(IoT)、金融交易、智能制造等多个领域,具备高吞吐、低延迟、强...
工业物联网解决方案:智能制造系统架构与工业物联网建设方案共43页.ppt
通过这份运维手册,用户可以深入了解阿里云专有云企业版V3.8.0中的TSDB,从而更好地利用这一高性能数据库来处理和分析时间序列数据,提高业务效率和数据洞察力。同时,用户需要注意遵守手册中的法律声明,以避免潜在...