`

各区块链底层数据存储分析

阅读更多

互联网的中心化发展模式是传统网络安全的的软肋,区块链作为一种去中心化、集体维护、不可篡改的新兴技术,是对互联网底层架构的革新,是对当今生产力和生产关系的变革。区块链也被誉为是继蒸汽机、电力、信息和互联网科技之后,目前最有潜力触发第五轮颠覆性革命浪潮的核心技术。

目前市场上主流的区块链系统有比特币,Ripple,以太坊和 Hyperledger Fabric 。本文的主要目的就是分析当前主要流行的区块链的存储技术以及他们之间的不同。

区块链简介

区块链(英语:blockchain 或 block chain)是用分布式数据库识别、传播和记载信息的智能化对等网络, 也称为价值互联网。中本聪于2008年在《比特币白皮书》中提出“区块链”概念,并在2009年创立了比特币社会网络,开发出第一个区块,即“创世区块”。区块链包含一张被称为区块的列表,有着持续增长并且排列整齐的记录。每个区块都包含一个时间戳和一个与前一区块的链接,这样设计区块链使得数据不可篡改,一旦记录下来,在一个区块中的数据将不可逆。

其数据结构大致如下:

(区块链结构)

数据存储

1、比特币

比特币(英语:Bitcoin)是一种去中心化、全球通用、不需第三方机构或个人,基于区块链作为支付技术的电子加密货币。它由中本聪于2009年1月3日,基于无国界的对等网络,用共识主动性开源软件发明创立,是加密货币及区块链的始祖,也是目前知名度与市场总值最高的加密货币。

比特币存储系统由普通文件和 kv 数据库(levelDB)组成。普通文件用于存储区块链数据,kv 数据库用于存储区块链元数据。

用于存储区块链数据的普通文件以 blk00000.dat , blk00001.dat 文件名格式组成,如图2所示,其中 index 目录存储用于存储区块元数据。

(图2)

为了快速检索区块数据每个文件的大小是128 M Bytes。每个区块的数据(区块头和区块里的所有交易)都会序列成字节码的形式写入 dat 文件中。

在序列化的过程中,如果检测到当前写入文件尺寸加上区块尺寸大于 128 M Bytes,则会重新生成一个 dat 文件。具体的序列化过程如下所述:

•获取当前 dat 文件大小 npos,并将区块大小追加写入至 dat 文件中

•序列化区块数据和区块中的交易数据,并将序列化的数据追加至 dat 文件中。

• 在写入数据的过程中,会生成区块和交易相关的元数据。

区块的元数据格式如 <blockHash,xxxxx+npos> 格式, 其中 xxxxx 为 dat 文件序号,npos 为区块写入 dat 文件的起始位置。

交易的元数据格式如 <txHash, xxxxx+npos+nTxOffset> 格式, 其中 xxxxx、npos 和上面的描述一致,nTxOffset 为写入 dat 文件的起始位置(基于npos 位置)。

上述所有元数据都将写入 kv 数据库中,其中 blockhash/txHash 将作为后续查询具体数据在 dat 文件中的索引使用。

综上所述,在获取链数据的时候只需传入区哈希或是交易哈希,就能很容易的定位到区块数据或是交易数据。

2、瑞波币

Ripple 是世界上第一个开放的支付网络,通过这个支付网络可以转账任意一种货币,包括美元、欧元、人民币、日元或者比特币,简便易行快捷,交易确认在几秒以内完成,交易费用几乎是零,没有所谓的跨行异地以及跨国支付费用。

Ripple 的区块链数据存储系统是由关系型数据库(sqlite)和 kv 数据库组成,其中关系型数据库用来存储区块头信息和每笔交易的具体信息, kv 数据库主要存储区块头、交易和状态表序列化后的数据。 Ripple 这样处理的主要目的是单纯在查询区块头信息和具体每笔交易的时候,可以直接从关系型数据库中查找;而要构造整个区块数据的时候,除了从关系型数据库构造区块头信息外,还要依据区块头里的交易根哈希和状态表根哈希从 kv 数据库中获取具体的交易和状态表信息。这是 Ripple 和其他三种类型区块链系统唯一最大的不同。

区块头信息的序列化具体步骤:

•用区块的哈希作为 Key;

•序列化区块高度、区块哈希、前一个区块哈希、交易根哈希、状态表根哈希等生成的数据作为 value;

•将 <key, value> 存储至 kv 数据库中。

交易的序列化具体步骤:

•用区块头中的交易根哈希作为 Key;

•序列化交易哈希、交易类型、交易数据和 MetaData 等生成的数据作为 value;

• 将 <Key, value> 存储至 kv 数据库中。

下表分别是 Ledgers 和 Transactions 表结构。

 

数据存储(二):

1、以太坊

以太坊是一个开源的有智能合约功能的公共区块链平台。通过其专用加密货币以太币(Ether,又称为「以太币」)提供去中心化的虚拟机(称为「以太虚拟机」Ethereum Virtual Machine)来处理点对点合约。

以太坊的区块主要由区块头和交易组成,区块在存储的过程中分别将区块头和交易体经过 RLP 编码后存入至 KV 数据当中。以太坊在数据存储的过程中,每个 value 对应的key 都有相对应的前缀,不同类型的 value 对应不同的前缀。

区块交易体的存储过程如下:

1. 将区块中的交易数据和叔块头信息进行 RLP 编码从而生成存储值value;

2. 将数据类型前缀,编码后的区块高度和区块哈希拼接生成 key;

3.将存储至db数据库中。

区块的信息可以通过区块哈希和区块高度进行检索,其存储过程如下:

1.将区块头信息进行 RLP 编码从而生成存储值 value

2.将区块高度进行编码(转发成大端格式数据)生成encNum

3. 将数据类型前缀 (headerPrefix) 和 encNum 生成以区块高度为检索信息的 key

4.将存储至db数据库中,从而生成以区块高度为检索的信息

5.将数据类型前缀(blockHashPrefix)和区块哈希生成以区块哈希为检索信息的key

6.将存储至db数据库中,从生成区块哈希为检索的信息

在数据查询的时候,应用层只需要提供交易 hash、区块高度和区块哈希就能得到交易 key,从而查询到相关的交易信息。

2、Hyperledger Fabric

Hyperledger fabric (HLF)是由Linux基金会主导推广的区块链开源项目。在Hyperledger Fabric的基础上又衍生出了其他一些相关的项目。HyperLedger项目汇集了金融、银行、物联网、供应链、制造等各界开发人员的心血。目的是为了打造一个跨领域的区块链应用。

HLF 的存储系统和比特币一样,也是由普通的文件和 kv 的数据库(levelDB/couchDB)组成。在 HLF 中,每个 channel 对应一个账本目录,在账本目录中由 blockfile_000000、blockfile_000001 命名格式的文件名组成。为了快速检索区块数据每个文件的大小是64 M Bytes。每个区块的数据(区块头和区块里的所有交易)都会序列成字节码的形式写入 blockfile 文件中。

HLF存储区块数据的文件名格式如图所示:

HLF检索信息文件如图所示:

在序列化的过程中,程序以 append 方式打开 blockfile 文件,然后将区块大小和和区块数据写入至 blockfile 文件中。

以下是区块数据写入的具体描述:

1.写入区块头数据,依次写入的数据为区块高度、交易哈希和前一个区块哈希;

2. 写入交易数据,依次写入的数据为区块包含交易总量和每笔交易详细数据;

3. 写入区块的Metadata 数据,依次写入的数据为 Metadata 数据总量和每个 Metadata 项的数据详细信息。

在写入数据的过程中会以 kv 的形式保存区块和交易在 blockfile 文件中的索引信息,以方便 HLF 的快速查询。

HLF 区块索引信息格式在 kv 数据库中存储的最终的 LevelKey 值有前缀标志和区块 hash 组成,而 LevelValue 的值由区块高度,区块 hash,本地文件信息(文件名,文件偏移等信息),每个交易在文件中的偏移列表和区块的 MetaData 组成, HLF 按照特定的编码方式将上述的信息拼接成 db 数据库中的 value 。

HLF交易索引信息格式在kv数据库中存储最终的LevelKey值由channel_name,chaincode_name和chaincode中的key值组合而成:

LevelKey = channel_name + []byte + chaincode_name + []byte + key

而 LevelValue 的值由BlockNum 区块号,TxNum 交易在区块中的编号组成, HLF 通过将区块号和交易编号按照特定的方式编码,然后与 chaincode 中的 value 相互拼接最终生成 db 数据库中的 value 。

 

总结

综上所述,本文介绍的主要区块链除了 Ripple 使用的关系型数据库存储、检索区块数据外,其他三种类型的区块链都使用 kv 数据库存储区块链的检索信息。在存储、检索数据上,比特币和 Hyperledger Fabric 高度一致,即使用普通文件存储区块数据,使用 kv 数据库存储检索信息;以太坊的区块数据和检索信息都存储至 kv 数据库中,而 Ripple 的区块数据也会存储至 kv 数据库中。

分享到:
评论

相关推荐

    区块链底层技术在平台打造上的应用-以智臻链技术平台为例.docx

    【区块链底层技术在平台打造上的应用】 区块链技术作为一种分布式数据库技术,近年来在互联网行业中引发了广泛的关注和探索。本文以智臻链技术平台为例,探讨区块链底层技术如何在平台构建上发挥重要作用。 首先,...

    区块链底层技术在平台打造上的应用-以智臻链技术平台为例.pdf

    区块链底层技术在平台构建上扮演着至关重要的角色,特别是在智臻链技术平台的实例中。区块链行业在2018年经历了戏剧性的起伏,年初的乐观情绪被虚拟货币的暴跌所打击,但区块链的底层技术却在这一年取得了实质性的...

    互联网思维下去中心化大学生心理健康数据平台——基于区块链技术分析.pdf

    数据层是区块链技术中最底层,负责数据的存储和管理。网络层则负责构建网络节点之间的连接和数据传输。共识层保证网络内所有节点在数据更新时达成一致。激励层通过奖励机制鼓励网络参与者积极贡献资源和维护网络。...

    基于社会网络分析法的区块链技术专利情报态势可视化分析.pdf

    区块链技术自2008年比特币白皮书发布以来逐渐步入公众视野,它的核心在于其底层的分布式数据存储、点对点传输、共识机制和加密算法等特性。随着区块链技术的快速发展,相关的技术专利也日益增多,对这些专利进行分析...

    基于区块链的物流应用系统数据共享技术.pdf

    数据库是数据存储和管理的基础设施。 综上所述,本篇论文对于如何运用区块链技术来改善物流数据共享的问题进行了深入分析和研究,提出了以太坊区块链数据共享模型,并通过实验验证了该模型的有效性,这为物流行业...

    一种基于区块链技术的大数据共享模型研究.pdf

    区块链技术通过点对点网络传输、分布式数据存储、共识机制和密码学等集成技术,为数据管理和价值释放提供了新思路,有助于建立跨产业主体的可信协作网络,推动大数据产业的进一步发展。 参考文献部分虽然没有列出,...

    区块链视角下的电能质量数据管理技术研究.pdf

    研究内容涵盖了从数据采集、处理到存储、分析和应用的完整流程,重点探讨了区块链技术在电能质量数据管理中的实际应用价值和潜在影响。 在国内外研究现状方面,区块链技术最初是作为比特币的底层技术被中本聪在2008...

    区块链互联网融合趋势分析.pptx

    【区块链互联网融合趋势分析】 区块链互联网的融合是当前信息技术领域的重要发展趋势,它旨在解决现有互联网存在的诸多问题,如中心化架构、数据安全、个人隐私、知识产权保护以及网络效率低下等。这种融合不仅仅是...

    文物艺术品资产数字化--基于区块链的底层资产.pdf

    * 科技创新:区块链技术是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术在互联网时代的创新应用模式。它具有去中心化、时序数据、集体维护、可编程和安全可信等特点,特别适合构建编程的货币系统、...

    区块链安全技术指南.pdf

    区块链技术的应用非常广泛,包括数字货币、技术应用、数据存证、底层服务等方面。在这些应用中,安全诉求是非常重要的,需要对区块链技术的安全性进行保障。 四、区块链安全攻击实例及分析 区块链安全攻击实例包括...

    区块链应用_23个应用场景

    区块链底层平台应用解决方案 (1)现状和需求分析 Ø 在传统互联网金融领域存在系统性安全风险、技术选择风险和技术外部 风险这三大风险,另外国内的互联网技术设备严重依赖国外,存在信息 安全和金融安全风险。 Ø ...

    基于区块链技术的广播电视数据采集系统研究.pdf

    区块链技术是近年来引起广泛关注的一项颠覆性技术,它最初作为比特币这种加密货币的底层技术而被引入。区块链技术所具备的去中心化、不可篡改、可追溯等特性,为许多行业带来了新的发展机遇。特别是在广播电视数据...

    区块链技术在医疗管理中的应用分析.pdf

    由于其在数据存储上的一致性、不可篡改性和隐私性等特征,近年来区块链技术被应用于信息传输和存储领域,尤其是在医疗管理领域的应用备受关注。 首先,医疗信息化在改善医院管理信息和全面提高医院管理效率方面起到...

    区块链基础与应用技术内容导读.pdf

    在区块链的存储子系统中,区块链技术因其分布式、去中心化等特点导致了大量的数据冗余与计算冗余,不能很好地适应区块链在数据规模较大的现状下的可信交换与协作等应用场景,严重制约了其在目前各行各业数据规模较大...

    区块链底层开发分布式部署—基于MySQL的分布式数据存储技术

    本套教程基于Linux操作系统为你讲述分布式引入概念。 课程收益: 掌握CentOS环境下Java和Go开发环境的搭建; 掌握基于MySQL的分布式数据存储技术; 

    全球区块链专利布局研究.pdf

    数据层负责数据的存储和安全,网络层关注数据的传输和网络结构,共识层用于确保区块链网络的一致性和效率,激励层则与参与者的行为激励和经济模型设计有关,合约层使得区块链具备了智能合约的功能,而应用层则涵盖了...

    区块链技术在重大慢病大数据临床科研领域的应用.pdf

    区块链技术的基础架构分为数据层、网络层、共识层、激励层、合约层和应用层,每层分别完成一项核心功能,各层之间相互配合,从而实现了一个全员参与的信任机制。 在健康医疗领域,区块链技术具有显著的优势。首先,...

    区块链底层开发—分布式集群部署

     掌握基于MySQL的分布式数据存储技术; 掌握分布式离线数据平台Hadoop的使用; 掌握基于Zookeeper的分布式数据协调技术; 掌握消息队列和负载均衡技术; 掌握Redis的数据持久化和事务操作; 课程配套学习资料...

    区块链底层开发—分布式离线数据平台Hadoop的使用

    本套教程基于Linux操作系统...掌握分布式离线数据平台Hadoop的使用。 课程配套学习资料,建议学员学习过程中跟着视频教程实操,可理解更加深入。技术问题可在下方留言,每晚8点我会准时答疑。感谢观看,祝您学习愉快!

    区块链和运维预测技术保护数据.pdf

    在数据备份和恢复场景中,区块链能够提供更为强大的数据完整性验证,因为每个数据块都是经过加密且具有时间戳的,且存储在多个节点上,大大增加了数据安全性。 运维预测技术,尤其是人工智能和机器学习技术在运维...

Global site tag (gtag.js) - Google Analytics