`
phyu110
  • 浏览: 7862 次
社区版块
存档分类
最新评论

五种数据同步思路

阅读更多
数据同步:当数据源发生改变时,其他相关数据也跟着发展变化。根据需求不同可采取以下方案。

1.触发器
在数据库建立增删改的触发器。触发器将变更放到一张临时表里。oracle同步cdc
优点:实时同步
缺点:影响到业务系统,因为需要在业务系统建立触发器

2.日志
通过分析源数据库日志,来获得源数据库中的变化的数据。oracle异步cdc
优点:不影响业务系统
缺点:有一定得延时,对于没有提供日志分析接口的数据源,开发的难度比较大

3.时间戳
在要同步的源表里有时间戳字段,每当数据发生变化,时间戳会记录发生变化的时间
优点:基本不影响业务系统
缺点:要求源表必须有时间戳这一列

4.数据比较
通过比较两边数据源数据,来完成数据同步。一般用于实时性要求不高的场景。
优点:基本不影响业务系统
缺点:效率低

5. 全表拷贝
定时清空目的数据源,将源数据源的数据全盘拷贝到目的数据源。一般用于数据量不大,实时性要求不高的场景。
优点:基本不影响业务系统,开发、部署都很简单
缺点:效率低

总结:
1. 上面五种数据同步方式,除了第五种都需要业务表有主键。
2. 对于没有触发器和日志的一些小型数据源,如txt 文本,excel 文件,Aceess,则只能使用后三种方式。
3. 对于大型数据源,一般优先选择日志方式,如 ORCALE Asynchronized CDC, 对于不能通过日志来实现的情况,可以考虑第1,3,4种方式。
分享到:
评论

相关推荐

    ORALCE数据泵自动同步思路

    Oracle数据泵(Data Pump)是Oracle数据库提供的一个高效的数据同步工具,它自Oracle 10g版本开始得到支持。该工具主要用来在数据库之间迁移数据和对象,能够同步表结构、表数据等信息。数据泵支持多种模式,如元...

    java数据实时同步系统

    这些框架提供了高效的消息传递和变更数据捕获(CDC, Change Data Capture)功能,可以实现低延迟的数据同步。 5. **数据转换**: 数据在不同数据库之间传输时可能需要进行格式转换,例如MySQL到Oracle,这通常涉及...

    一种面向分布式读写分离系统的数据同步策略.pdf

    针对上述问题,本文提出了一种细粒度数据同步策略。该策略在原始的粗粒度数据分区之上建立了更细粒度的逻辑分区,这样可以更精确地控制同步的数据范围。同时,引入了更改感知策略,记录了被更改的分区以及对应的具体...

    C#中怎么实现datagridview数据与文本框数据同步

    实现DataGridView数据与TextBox数据同步的核心思路是在DataGridView中选中某一行或某一单元格时,获取该行或单元格的数据,并将其显示在相应的TextBox中。 ### 三、实现步骤详解 #### 3.1 使用`CellClick`事件处理...

    基于Java的Porter数据同步中间件设计源码

    《基于Java的Porter数据同步中间件设计源码解析》 在现代的IT环境中,数据同步扮演着至关重要的角色,特别是在分布式系统和大数据处理中。本文将深入探讨一个基于Java的Porter数据同步中间件的设计与实现,以及其...

    联合GNSS的分布式传感器数据同步采集方法研究.pdf

    综上所述,该研究提出的联合GNSS的分布式传感器数据同步采集方法,为解决实际工程中的数据同步问题提供了新的思路和解决方案。通过精确的时间同步,不仅可以优化多源数据融合,还能为铁路沿线地质灾害监测等关键领域...

    一种基于数据辅助的OFDM系统符号同步算法

    该方法通过结合集相关法和数据辅助技术,能够在多径衰落信道条件下获得较好的符号同步性能,为OFDM系统的时间同步提供了新的思路和技术支持。未来的研究可以进一步探索如何在实际应用场景中优化该算法,以满足更高...

    达梦数据库主备与主备数据同步部署过程.docx

    【达梦数据库主备与主备数据同步部署过程】 在IT行业中,数据库的高可用性和数据安全性至关重要。达梦数据库是国产的一款关系型数据库管理系统,提供了主备模式来确保服务的连续性和数据的一致性。本篇文章将详细...

    Java数据库同步系统(Web平台)

    同步不同数据库之间的数据,比如postgresql到oracle,oracle到oracle,不限于此,支持自己配置。 实现思路: 在主线程中创建若干子线程,每个子线程分别用来同步一张数据表,提供web页面,监控各个子线程运行状况,...

    毕业设计,基于异构数据的数据同步与迁移系统,数据离线同步改进版.zip

    【标题】中的“基于异构数据的数据同步与迁移系统”是指一种能够处理不同类型数据库间数据交换的技术。在IT行业中,异构数据指的是来自不同来源、格式或结构的数据,例如SQL数据库、NoSQL数据库、CSV文件等。数据...

    行业文档-设计装置-一种基于网络的关联平台间业务数据同步方法.zip

    本文档集“行业文档-设计装置-一种基于网络的关联平台间业务数据同步方法.zip”正是针对这一需求,提供了一种有效的解决方案。 标题中的“基于网络的关联平台间业务数据同步方法”揭示了该技术的核心,即利用网络...

    基于WCF的AutoCAD与ArcGIS矿图数据同步技术

    在总结现有矿图数据在CAD平台与GIS平台间转换方法研究成果及其缺陷的基础上,基于WCF分布式框架结构结合二次开发技术,提出了一种跨图形平台的矿图数据同步新思路,并在Auto CAD与Arc GIS中成功实现。阐述了WCF技术的...

    基于HBase的医疗卫生数据中心构建与异构数据库同步研究

    为了提高HBase数据中心的效率,本文探讨了HBase的列索引构建方法,提出了运用RowKey优势和构建索引表的两种索引设计方式。文中指出HBase的局限性在于数据访问方式有限,即通过RowKey定位和全表扫描,因此引入了索引...

    分布式装备管理信息系统的数据同步机制研究与实现.pdf

    总结来说,分布式装备管理信息系统的数据同步机制研究与实现,不仅为装备管理系统提供了数据同步的新思路和方法,也对其他类似分布式数据库系统的同步提供了借鉴和参考。通过深入分析现有问题并采用合理的技术手段,...

    基于归档日志的数据同步服务平台研究与应用

    【基于归档日志的数据同步服务平台研究与应用】 在电力行业的信息化建设中,数据同步是一项至关重要的任务,尤其是在福建电网构建数据服务平台的过程中。该平台旨在整合基层电网的生产数据,为省级电力公司提供稳定...

    分布式异构数据库数据同步工具.pdf

    根据提供的文件信息,以下是关于“分布式异构数据库数据同步工具”的知识点详细解析: 在大数据环境下,数据同步是一个非常重要的课题,它涉及到数据在多个数据库之间保持一致性的问题。数据同步的实现方式很多,但...

    数据库中两张表之间的数据同步增加、删除与更新实现思路

    总的来说,数据库中的触发器是实现数据同步的一种有效工具,它们可以在背后默默地保证了数据的一致性和完整性。但是,合理的数据库设计和事务管理也是保证数据同步的重要手段,比如采用数据库的外键约束或考虑使用...

    基于HTTP协议的Android手机数据同步实现.pdf

    基于HTTP协议的Android手机数据同步实现 本文主要介绍了基于HTTP协议的Android手机数据同步实现方法,该方法通过定义一个Android...数据同步可以使Android手机端的数据实时更新,并且可以与服务器端的数据保持一致。

Global site tag (gtag.js) - Google Analytics