准备工作——————————
1 充分理解需求,理解原始需求,一定要弄清楚为什么要做数据操作。不做数据操作就不能完成需求?然后再其他技术的选择上和数据迁移的选择上进行一个权衡。能不做的尽量不做。千万不要出现因为数据操作而数据操作,埋头写脚本的情况。这样的脚本往往是危险的。
2 对线上遗留数据,持充分的怀疑态度。绝对不要相信,数据是100%由现在的线上运行的程序跑出来的。这些遗留的数据很有可能经过很多其他人的维护,比如数据订正,比如程序bug,比如数据初始化,从而导致存在“脏数据”。特别是运行了1年以上的系统,特别是上线匆忙的系统,特别是上线后bug非常多的系统。一定不要相信这些系统生成数据都是符合要求的数据。
3 充分理解线上数据库的环境,以及做数据操作可能涉及到的表结构和业务。这次数据操作涉及到几张核心表,有多少张表与它们有关联,是否可以忽略不重要的数据,是否存在触发器。数据迁移后,能否保证这次操作后的数据,能够正常的run在系统里面,不会导致核心业务因为“脏数据”流不下去。
细节的工作--------------------
1 大批量数据,重要核心数据在处理前,必须备份。
2 做数据操作前先去摸底,看看需要处理的是多少的数据量。
3 写好check脚本。如果数据操作的时候,需要多步执行,这需要建立检查点,进行check。
4 写脚本时尽量让脚本支持断点重跑。
5 如果存在很多的更新、插入操作,涉及的表又多时,把每一次提交的量放少点。
6 最后能够标示出这次数据操作的数据,具有特殊的标示,有利于检查和回滚操作。
7 如果条件允许,尽量在仿真数据上测试,量要上来,评估出时间。
8 code review 是必须的。
9 在做数据操作时,其他有可能影响数据的业务系统需要评估风险。是否可以同时数据操作,同时业务系统工作,还是需要业务系统停机支持?
分享到:
相关推荐
整个迁移升级过程中,需要注意的关键点包括但不限于: - **备份与恢复**:确保备份的完整性和可靠性是迁移成功的基础。 - **配置文件调整**:正确设置PFILE和SPFILE中的参数,尤其是`compatible`参数,以确保新旧...
在探讨“NAV初始化路线图”这一主题时,我们实际上是在深入解析如何在Microsoft Dynamics NAV(现称为Dynamics 365 Business Central)系统中进行初始化设置的过程。此路线图不仅对系统的初次部署至关重要,也对后续...
在数据库迁移方面,从V5迁移到V6不需要进行复杂的数据库迁移操作,因为V6的数据库表结构与V5基本一致,只是增加了一些新的表和列。所有由V5生成的数据,包括正在执行的流程实例,都可以保留在数据库中。V6引擎在首次...
### 数据迁移脚本、数据泵导入导出及表分析详解 #### 一、概述 在IT行业中,数据库作为存储和管理数据的核心工具,在系统升级、迁移或是整合时扮演着极其重要的角色。对于Oracle数据库而言,数据迁移脚本、数据泵...
《.NET Core Web开发:nopCommerce 4.40 数据导入、导出服务与地址录默认数据的初始化安装详解》 在.NET Core Web开发领域,nopCommerce是一个备受瞩目的开源电子商务平台,以其丰富的功能和高度可定制性而受到...
数据迁移通常发生在升级设备系统、更换eMMC或修复故障时。迁移方法主要有以下几种: 1. **备份与恢复**:在安全模式下,使用专门的工具将eMMC中的数据完整备份到另一存储介质,如外部SD卡或电脑硬盘。之后,再将...
同时,要准备一个初始化参数文件(pfile),以指定兼容性、控制文件位置、数据库名、数据文件目的地等关键参数。 4. **启动实例**:使用pfile启动数据库实例,但保持在nomount状态,以便后续进行控制文件的恢复和...
初始化这个新硬盘是关键步骤,你需要选择MBR(主引导记录)分区类型,这是大多数传统BIOS系统所支持的标准分区格式。 接着,我们需要安装分区助手工具。这里推荐的是5.5版本,因为它稳定且兼容性良好。下载并安装...
7. 最后,进行系统调优,包括初始化参数调整、索引优化和SQL性能分析,以实现最佳运行状态。 通过以上步骤,成功完成了XXXX局资源库系统的数据库迁移,提升了系统的整体性能和可用性,为后续的业务发展提供了坚实的...
逻辑迁移则更侧重于数据层面的转移,它不涉及物理文件的移动,而是通过数据泵导出导入(expdp/impdp)或其他数据迁移工具实现。逻辑迁移适合跨平台或不同版本的数据库迁移,且对源数据库的影响较小。逻辑迁移的步骤...
* 提供了数据安全性保障:从迁移方案原理的角度,SharePlex 通过 RMAN+SCN 号进行初始化同步,SCN 号可以唯一定位 Oracle 数 据 库 的 某 个 时 间 点,能够保证在线操作且数据没有丢失。在项目实施过程中,采用了...
数据迁移的目的可能是为了进行硬件升级、灾难恢复、数据中心搬迁或分布式数据管理等。 ### 裸设备的概念 **裸设备(Raw Device)** 是一种没有文件系统的磁盘分区。在Oracle中,使用裸设备可以避免文件系统的开销...
多可系统的数据迁移是一个涉及数据安全和系统稳定性的过程,需要谨慎操作。本文将详细介绍两种迁移方法:整体拷贝迁移和部分拷贝迁移。 1. **整体拷贝迁移** 整体拷贝迁移是最简单直接的方法,适合新服务器尚未...
对于Stateless Session Beans,通常不需要重写此方法,因为它们不需要特定的初始化。 2. **EJB 3.x 及以上**: - 实体Bean(现在称为JPA实体):生命周期方法已被ORM框架(如Hibernate)的回调方法所取代,例如`@...
1. **项目初始化**:首先,我们需要在Kettle环境中创建一个新的转换或工作,这是所有数据处理任务的基础。在这个阶段,我们可以定义源数据库和目标数据库的连接信息,包括数据库类型、服务器地址、端口、用户名和...
- **初始化设置**:准备迁移所需的环境。 - **使用RMAN备份方法的准备阶段**:利用RMAN进行数据备份。 - **前滚阶段**:捕获更改数据。 - **最后的传输阶段**:传输最新的数据。 - **验证**:确保数据的准确性...
无论是新系统的部署,还是系统升级后的数据迁移,都可以通过此工具快速完成。例如,在新公司成立或并购后,需要整合各部门、员工、物料等信息时,该工具可以显著减少手动操作的时间,降低出错概率,使企业在最短时间...
同时,复制初始化参数文件(SPFILE或PFILE)。在旧服务器上,启动数据库至nomount状态,然后创建PFILE(如`INITorcl.ora`)从SPFILE。将这个PFILE复制到新服务器的相应位置。 在新服务器上,同样以sysdba身份连接到...
Oracle 10g 到 11g 的迁移是一个复杂的过程,涉及到多个步骤和技术,其中XTTS(Extreme Transaction Transport Services)是一种高级的数据迁移工具。XTTS是Oracle提供的一种用于在线数据迁移的技术,它允许在不中断...