DoSTOR专家观点：随着信息化技术的发展和深入，企业对数据的依赖不断增强。与此同时，急速增长的数据量也给管理和使用都带来了全新的挑战。IDC最新报告显示，2007年新增数据量（281 ExaByte）已经超过所有可用存储介质总容量（264 ExaByte）约6%，并预计2011年数据总量将达到2006年的10倍。面对数据的爆炸性增长，仅仅提高系统运算能力和增加存储介质容量已经不能满足高速发展的各种数据应用，对高效数据缩减技术的需求已经逐步显现出来，并且越来越迫切。
目前能够实现数据缩减的技术主要有两种：数据压缩（Data Compression）和重复数据删除（Data De-duplication）。简单来说，数据压缩技术通过对数据重新编码来降低其冗余度（redundancy）；而重复数据删除技术则着眼于删除重复出现的数据块。
数据压缩
数据压缩的起源可以追溯到信息论之父香农（Shannon）在1947年提出的香农编码。1952年霍夫曼(Huffman)提出了第一种实用性的编码算法实现了数据压缩，该算法至今仍在广泛使用。1977年以色列数学家Jacob Ziv 和Abraham Lempel提出了一种全新的数据压缩编码方式，Lempel-Ziv系列算法（LZ77和LZ78，以及若干变种）凭借其简单高效等优越特性，最终成为目前主要数据压缩算法的基础。
Lempel-Ziv系列算法的基本思路是用位置信息替代原始数据从而实现压缩，解压缩时则根据位置信息实现数据的还原，因此又被称作"字典式"编码。目前存储应用中压缩算法的工业标准（ANSI、QIC、IETF、FRF、TIA/EIA）是LZS（Lempel-Ziv-Stac），由Stac公司提出并获得专利，当前该专利权的所有者是Hifn, Inc.
LZS算法基于LZ77（如图一）实现，主要由两部分构成，滑窗（Sliding Window）和自适应编码（Adaptive Coding）。压缩处理时，在滑窗中查找与待处理数据相同的块，并用该块在滑窗中的偏移值及块长度替代待处理数据，从而实现压缩编码。如果滑窗中没有与待处理数据块相同的字段，或偏移值及长度数据超过被替代数据块的长度，则不进行替代处理。LZS算法的实现非常简洁，处理比较简单，能够适应各种高速应用。
图一 LZ77算法示意图
数据压缩的应用可以显著降低待处理和存储的数据量，一般情况下可实现2:1 ~ 3:1的压缩比。
重复数据删除
在备份、归档等实际的存储实践中，人们发现有大量的重复数据块存在，既占用了传输带宽又消耗了相当多的存储资源：有些新文件只是在原有文件上作了部分改动，还有某些文件存在着多份拷贝，如果对所有相同的数据块都只保留一份实例，实际存储的数据量将大大减少--这就是重复数据删除技术的基础。
这一做法最早由普林斯顿大学李凯教授（DataDomain的三位创始人之一）提出，称之为全局压缩（Global Compression），并作为容量优化存储（Capacity Optimized Storage， COS）推广到商业应用。目前，除了DataDomain等专门厂商外，各主要存储厂商如EMC、IBM、Symantec、FalconStor等等也都通过收购或研发等途径拥有了各自的重复数据删除技术，有的还并冠以别名，如单示例存储（Single Instance Repository，SIR）等。
重复数据删除的实现由三个基本操作组成，如图二。首先，待处理数据（文件）被分割成固定或可变大小的数据块，同时生成一张"结构图"显示这些数据块怎样组成完整的原数据（文件）；然后计算各数据块的"指纹"（标识），并根据"指纹"确认该数据块是否与其它数据块相同；最后，丢弃重复出现的数据块，并将"结构图"作为原始数据（文件）存储。
图二 重复数据删除原理
重复数据删除技术的关键在于数据块"指纹"的生成和鉴别。数据块"指纹"是鉴别数据块是否重复的依据，如果不同数据块的"指纹"相同，就会造成内容丢失，产生不可恢复的严重后果。在目前的实际应用中，一般都选择MD5或SHA-1等标准杂凑（hash）算法生成的数据块的摘要（digest）作为"指纹"，以区分不同数据块间存在的差异，从而保证不同数据块之间不会发生冲突。但是，MD5，SHA-1等算法的计算过程非常复杂，纯软件计算很难满足存储应用的性能需求，"指纹"的计算往往成为重复数据删除应用的性能瓶颈。
目前，各厂商对各自重复数据删除技术的效用都有不同描述，一般都声称能将数据量减少到原数据的3% ~ 5%，即具有20:1 ~ 30:1的压缩比。
数据压缩和重复数据删除技术都着眼于减少数据量，其差别在于数据压缩技术的前提是信息的数据表达存在冗余，以信息论研究作为基础；而重复数据删除的实现依赖数据块的重复出现，是一种实践性技术。这两种技术具有不同层面的针对性，并能够结合起来使用，从而实现更高的数据缩减比例（40:1 ~ 90:1）。需要注意的是，如果同时应用数据压缩和重复数据删除技术，为了降低对系统的处理需求，通常需要先应用数据删除技术，然后再使用数据压缩技术进一步降低"结构图"和基本数据块的体积。
在归档应用中，存储的数据主要是文件在不同时间的各个历史版本，版本间的差异通常并不是很大，文件中往往有相当一部分内容并未发生改变，重复数据删除技术因而具有较大的应用空间和效能；同时，作为有特定意义的文件内容，使用数据压缩技术通常也可以获得2:1以上的压缩比。因此，针对归档应用，集成重复数据删除和数据压缩技术将可带来显著且可以预期的好处，实现90%以上的整体数据量缩减。
需要注意的是，由于数据压缩和重复数据删除技术都系统处理能力有较高要求，为了保证整体性能，在预算允许的范围内，应该注意选择具有相关硬件加速的方案。目前，市场上能够同时具有压缩和杂凑算法的解决方案并不多，主要由LZS算法的专利拥有者Hifn, Inc提供。除了常见的标准加密和摘要算法，Hifn的安全处理器和相应加速卡基本都集成有压缩处理能力，提供20MB/s ~ 250MB/s的处理能力。最近还专门推出了DR 250/255数据缩减加速卡，通过PCI-X和PCI-Express接口为存储系统提供250MB/s的数据压缩和摘要计算加速，并能够同时进行加密或解密处理，使系统能够在实现数据缩减的同时，提高对数据的保护级别。据称，Hifn下一代数据缩减产品处理能力将达到1.6GB/s，并支持IEEE P1619/1619.1标准的磁盘/磁带加密，计划将于今年下半年正式推向市场。
- 大小: 30.5 KB
- 大小: 39.3 KB
分享到：
相关推荐
在标题“dostor：小型对象的分布式对象存储”中，“dostor”很可能是一个专为处理小对象设计的开源分布式存储系统。这类系统通常以集群的形式运行，能够自动分散数据，提供高可用性和容错性，同时也支持高性能的读写...
### H3C 存储产品及解决方案的发展历程与技术特点 #### H3C存储产品线发展概况 H3C自2004年开始投入存储产品的研发，初期投资达1.5亿元人民币，并组建了200人的研发团队，在杭州和深圳两地设立了解决方案中心。至...
内容概要：本文探讨了模糊故障树（FFTA）在工业控制系统可靠性分析中的应用，解决了传统故障树方法无法处理不确定数据的问题。文中介绍了模糊数的基本概念和实现方式，如三角模糊数和梯形模糊数，并展示了如何用Python实现模糊与门、或门运算以及系统故障率的计算。此外，还详细讲解了最小割集的查找方法、单元重要度的计算，并通过实例说明了这些方法的实际应用场景。最后，讨论了模糊运算在处理语言变量方面的优势，强调了在可靠性分析中处理模糊性和优化计算效率的重要性。 适合人群：从事工业控制系统设计、维护的技术人员，以及对模糊数学和可靠性分析感兴趣的科研人员。 使用场景及目标：适用于需要评估复杂系统可靠性的场合，特别是在面对不确定数据时，能够提供更准确的风险评估。目标是帮助工程师更好地理解和预测系统故障，从而制定有效的预防措施。 其他说明：文中提供的代码片段和方法可用于初步方案验证和技术探索，但在实际工程项目中还需进一步优化和完善。
内容概要：本文详细探讨了双馈风力发电机（DFIG）在Simulink环境下的建模方法及其在不同风速条件下的电流与电压波形特征。首先介绍了DFIG的基本原理，即定子直接接入电网，转子通过双向变流器连接电网的特点。接着阐述了Simulink模型的具体搭建步骤，包括风力机模型、传动系统模型、DFIG本体模型和变流器模型的建立。文中强调了变流器控制算法的重要性，特别是在应对风速变化时，通过实时调整转子侧的电压和电流，确保电流和电压波形的良好特性。此外，文章还讨论了模型中的关键技术和挑战，如转子电流环控制策略、低电压穿越性能、直流母线电压脉动等问题，并提供了具体的解决方案和技术细节。最终，通过对故障工况的仿真测试，验证了所建模型的有效性和优越性。 适用人群：从事风力发电研究的技术人员、高校相关专业师生、对电力电子控制系统感兴趣的工程技术人员。 使用场景及目标：适用于希望深入了解DFIG工作原理、掌握Simulink建模技能的研究人员；旨在帮助读者理解DFIG在不同风速条件下的动态响应机制，为优化风力发电系统的控制策略提供理论依据和技术支持。 其他说明：文章不仅提供了详细的理论解释，还附有大量Matlab/Simulink代码片段，便于读者进行实践操作。同时，针对一些常见问题给出了实用的调试技巧，有助于提高仿真的准确性和可靠性。
内容概要：本文详细介绍了基于西门子S7-200 PLC和组态王软件构建的八层电梯控制系统。首先阐述了系统的硬件配置，包括PLC的IO分配策略，如输入输出信号的具体分配及其重要性。接着深入探讨了梯形图编程逻辑，涵盖外呼信号处理、轿厢运动控制以及楼层判断等关键环节。随后讲解了组态王的画面设计，包括动画效果的实现方法，如楼层按钮绑定、轿厢移动动画和门开合效果等。最后分享了一些调试经验和注意事项，如模拟困人场景、防抖逻辑、接线艺术等。 适合人群：从事自动化控制领域的工程师和技术人员，尤其是对PLC编程和组态软件有一定基础的人群。 使用场景及目标：适用于需要设计和实施小型电梯控制系统的工程项目。主要目标是帮助读者掌握PLC编程技巧、组态画面设计方法以及系统联调经验，从而提高项目的成功率。 其他说明：文中提供了详细的代码片段和调试技巧，有助于读者更好地理解和应用相关知识点。此外，还强调了安全性和可靠性方面的考量，如急停按钮的正确接入和硬件互锁设计等。
内容概要：本文介绍了如何将CarSim的动力学模型与Simulink的智能算法相结合，利用模型预测控制(MPC)实现车辆的智能超车换道。主要内容包括MPC控制器的设计、路径规划算法、联合仿真的配置要点以及实际应用效果。文中提供了详细的代码片段和技术细节，如权重矩阵设置、路径跟踪目标函数、安全超车条件判断等。此外，还强调了仿真过程中需要注意的关键参数配置，如仿真步长、插值设置等，以确保系统的稳定性和准确性。 适合人群：从事自动驾驶研究的技术人员、汽车工程领域的研究人员、对联合仿真感兴趣的开发者。 使用场景及目标：适用于需要进行自动驾驶车辆行为模拟的研究机构和企业，旨在提高超车换道的安全性和效率，为自动驾驶技术研发提供理论支持和技术验证。 其他说明：随包提供的案例文件已调好所有参数，可以直接导入并运行，帮助用户快速上手。文中提到的具体参数和配置方法对于初学者非常友好，能够显著降低入门门槛。
包括：源程序工程文件、Proteus仿真工程文件、论文材料、配套技术手册等 1、采用51单片机作为主控； 2、采用AD0809(仿真0808)检测"PH、氨、亚硝酸盐、硝酸盐"模拟传感； 3、采用DS18B20检测温度； 4、采用1602液晶显示检测值； 5、检测值同时串口上传，调试助手监看； 6、亦可通过串口指令对加热器、制氧机进行控制；
内容概要：本文详细介绍了双馈永磁风电机组并网仿真模型及其短路故障分析方法。首先构建了一个9MW风电场模型，由6台1.5MW双馈风机构成，通过升压变压器连接到120kV电网。文中探讨了风速模块的设计，包括渐变风、阵风和随疾风的组合形式，并提供了相应的Python和MATLAB代码示例。接着讨论了双闭环控制策略，即功率外环和电流内环的具体实现细节，以及MPPT控制用于最大化风能捕获的方法。此外，还涉及了短路故障模块的建模，包括三相电压电流特性和离散模型与phasor模型的应用。最后，强调了永磁同步机并网模型的特点和注意事项。 适合人群：从事风电领域研究的技术人员、高校相关专业师生、对风电并网仿真感兴趣的工程技术人员。 使用场景及目标：适用于风电场并网仿真研究，帮助研究人员理解和优化风电机组在不同风速条件下的性能表现，特别是在短路故障情况下的应对措施。目标是提高风电系统的稳定性和可靠性。 其他说明：文中提供的代码片段和具体参数设置有助于读者快速上手并进行实验验证。同时提醒了一些常见的错误和需要注意的地方，如离散化步长的选择、初始位置对齐等。
适用于空手道训练和测试场景
内容概要：本文介绍了金牌音乐作词大师的角色设定、背景经历、偏好特点、创作目标、技能优势以及工作流程。金牌音乐作词大师凭借深厚的音乐文化底蕴和丰富的创作经验，能够为不同风格的音乐创作歌词，擅长将传统文化元素与现代流行文化相结合，创作出既富有情感又触动人心的歌词。在创作过程中，会严格遵守社会主义核心价值观，尊重用户需求，提供专业修改建议，确保歌词内容健康向上。; 适合人群：有歌词创作需求的音乐爱好者、歌手或音乐制作人。; 使用场景及目标：①为特定主题或情感创作歌词，如爱情、励志等；②融合传统与现代文化元素创作独特风格的歌词；③对已有歌词进行润色和优化。; 阅读建议：阅读时可以重点关注作词大师的创作偏好、技能优势以及工作流程，有助于更好地理解如何创作出高质量的歌词。同时，在提出创作需求时，尽量详细描述自己的情感背景和期望，以便获得更贴合心意的作品。
linux之用户管理教程.md
包括：源程序工程文件、Proteus仿真工程文件、配套技术手册等 1、采用51/52单片机作为主控芯片； 2、采用1602液晶显示设置及状态； 3、采用L298驱动两个电机，模拟机械臂动力、移动底盘动力； 3、首先按键配置-待搬运物块的高度和宽度（为0不能开始搬运）； 4、按下启动键开始搬运，搬运流程如下： 机械臂先把物块抓取到机器车上， 机械臂减速 机器车带着物块前往目的地 机器车减速 机械臂把物块放下来 机械臂减速 机器车回到物块堆积处（此时机器车是空车） 机器车减速 蜂鸣器提醒 按下复位键，结束本次搬运
内容概要：本文详细介绍了基于下垂控制的三相逆变器电压电流双闭环控制的仿真方法及其在MATLAB/Simulink和PLECS中的具体实现。首先解释了下垂控制的基本原理，即有功调频和无功调压，并给出了相应的数学表达式。随后讨论了电压环和电流环的设计与参数整定，强调了两者带宽的差异以及PI控制器的参数选择。文中还提到了一些常见的调试技巧，如锁相环的响应速度、LC滤波器的谐振点处理、死区时间设置等。此外，作者分享了一些实用的经验，如避免过度滤波、合理设置采样周期和下垂系数等。最后，通过突加负载测试展示了系统的动态响应性能。 适合人群：从事电力电子、微电网研究的技术人员，尤其是有一定MATLAB/Simulink和PLECS使用经验的研发人员。 使用场景及目标：适用于希望深入了解三相逆变器下垂控制机制的研究人员和技术人员，旨在帮助他们掌握电压电流双闭环控制的具体实现方法，提高仿真的准确性和效率。 其他说明：本文不仅提供了详细的理论讲解，还结合了大量的实战经验和调试技巧，有助于读者更好地理解和应用相关技术。
内容概要：本文详细介绍了光伏并网逆变器的全栈开发资料，涵盖了从硬件设计到控制算法的各个方面。首先，文章深入探讨了功率接口板的设计，包括IGBT缓冲电路、PCB布局以及EMI滤波器的具体参数和设计思路。接着，重点讲解了主控DSP板的核心控制算法，如MPPT算法的实现及其注意事项。此外，还详细描述了驱动扩展板的门极驱动电路设计，特别是光耦隔离和驱动电阻的选择。同时，文章提供了并联仿真的具体实现方法，展示了环流抑制策略的效果。最后，分享了许多宝贵的实战经验和调试技巧，如主变压器绕制、PWM输出滤波、电流探头使用等。 适合人群：从事电力电子、光伏系统设计的研发工程师和技术爱好者。 使用场景及目标：①帮助工程师理解和掌握光伏并网逆变器的硬件设计和控制算法；②提供详细的实战经验和调试技巧，提升产品的可靠性和性能；③适用于希望深入了解光伏并网逆变器全栈开发的技术人员。 其他说明：文中不仅提供了具体的电路设计和代码实现，还分享了许多宝贵的实际操作经验和常见问题的解决方案，有助于提高开发效率和产品质量。
内容概要：本文详细介绍了粒子群优化（PSO）算法与3-5-3多项式相结合的方法，在机器人轨迹规划中的应用。首先解释了粒子群算法的基本原理及其在优化轨迹参数方面的作用，随后阐述了3-5-3多项式的数学模型，特别是如何利用不同阶次的多项式确保轨迹的平滑过渡并满足边界条件。文中还提供了具体的Python代码实现，展示了如何通过粒子群算法优化时间分配，使3-5-3多项式生成的轨迹达到时间最优。此外，作者分享了一些实践经验，如加入惩罚项以避免超速，以及使用随机扰动帮助粒子跳出局部最优。 适合人群：对机器人运动规划感兴趣的科研人员、工程师和技术爱好者，尤其是有一定编程基础并对优化算法有初步了解的人士。 使用场景及目标：适用于需要精确控制机器人运动的应用场合，如工业自动化生产线、无人机导航等。主要目标是在保证轨迹平滑的前提下，尽可能缩短运动时间，提高工作效率。 其他说明：文中不仅给出了理论讲解，还有详细的代码示例和调试技巧，便于读者理解和实践。同时强调了实际应用中需要注意的问题，如系统的建模精度和安全性考量。
KUKA机器人相关资料
内容概要：本文详细探讨了光子晶体中的束缚态在连续谱中（BIC）及其与轨道角动量（OAM）激发的关系。首先介绍了光子晶体的基本概念和BIC的独特性质，随后展示了如何通过Python代码模拟二维光子晶体中的BIC，并解释了BIC在光学器件中的潜在应用。接着讨论了OAM激发与BIC之间的联系，特别是BIC如何增强OAM激发效率。文中还提供了使用有限差分时域（FDTD）方法计算OAM的具体步骤，并介绍了计算本征态和三维Q值的方法。此外，作者分享了一些实验中的有趣发现，如特定条件下BIC表现出OAM特征，以及不同参数设置对Q值的影响。 适合人群：对光子晶体、BIC和OAM感兴趣的科研人员和技术爱好者，尤其是从事微纳光子学研究的专业人士。 使用场景及目标：适用于希望通过代码模拟深入了解光子晶体中BIC和OAM激发机制的研究人员。目标是掌握BIC和OAM的基础理论，学会使用Python和其他工具进行模拟，并理解这些现象在实际应用中的潜力。 其他说明：文章不仅提供了详细的代码示例，还分享了许多实验心得和技巧，帮助读者避免常见错误，提高模拟精度。同时，强调了物理离散化方式对数值计算结果的重要影响。
内容概要：本文详细介绍了如何使用C#和Halcon 17.12构建一个功能全面的工业视觉项目。主要内容涵盖项目配置、Halcon脚本的选择与修改、相机调试、模板匹配、生产履历管理、历史图像保存以及与三菱FX5U PLC的以太网通讯。文中不仅提供了具体的代码示例，还讨论了实际项目中常见的挑战及其解决方案，如环境配置、相机控制、模板匹配参数调整、PLC通讯细节、生产数据管理和图像存储策略等。 适合人群：从事工业视觉领域的开发者和技术人员，尤其是那些希望深入了解C#与Halcon结合使用的专业人士。 使用场景及目标：适用于需要开发复杂视觉检测系统的工业应用场景，旨在提高检测精度、自动化程度和数据管理效率。具体目标包括但不限于：实现高效的视觉处理流程、确保相机与PLC的无缝协作、优化模板匹配算法、有效管理生产和检测数据。 其他说明：文中强调了框架整合的重要性，并提供了一些实用的技术提示，如避免不同版本之间的兼容性问题、处理实时图像流的最佳实践、确保线程安全的操作等。此外，还提到了一些常见错误及其规避方法，帮助开发者少走弯路。
内容概要：本文探讨了分布式电源（DG）接入对9节点配电网节点电压的影响。首先介绍了9节点配电网模型的搭建方法，包括定义节点和线路参数。然后，通过在特定节点接入分布式电源，利用Matlab进行潮流计算，模拟DG对接入点及其周围节点电压的影响。最后，通过绘制电压波形图，直观展示了不同DG容量和接入位置对配电网电压分布的具体影响。此外，还讨论了电压越限问题以及不同线路参数对电压波动的影响。 适合人群：电力系统研究人员、电气工程学生、从事智能电网和分布式能源研究的专业人士。 使用场景及目标：适用于研究分布式电源接入对配电网电压稳定性的影响，帮助优化分布式电源的规划和配置，确保电网安全稳定运行。 其他说明：文中提供的Matlab代码和图表有助于理解和验证理论分析，同时也为后续深入研究提供了有价值的参考资料。
内容概要：本文探讨了在两级电力市场环境中，针对省间交易商的最优购电模型的研究。文中提出了一个双层非线性优化模型，用于处理省内电力市场和省间电力交易的出清问题。该模型采用CVaR（条件风险价值）方法来评估和管理由新能源和负荷不确定性带来的风险。通过KKT条件和对偶理论，将复杂的双层非线性问题转化为更易求解的线性单层问题。此外，还通过实际案例验证了模型的有效性，展示了不同风险偏好设置对购电策略的影响。 适合人群：从事电力系统规划、运营以及风险管理的专业人士，尤其是对电力市场机制感兴趣的学者和技术专家。 使用场景及目标：适用于希望深入了解电力市场运作机制及其风险控制手段的研究人员和技术开发者。主要目标是为省间交易商提供一种科学有效的购电策略，以降低风险并提高经济效益。 其他说明：文章不仅介绍了理论模型的构建过程，还包括具体的数学公式推导和Python代码示例，便于读者理解和实践。同时强调了模型在实际应用中存在的挑战，如数据精度等问题，并指出了未来改进的方向。