`

数据迁移的收获

SQL 
阅读更多

之前做过数据库迁移有几种方式;

1。用户登录时处理两个数据库间的数据同步;

2。系统A导入系统B的;当时,我写一个程序;将系统A的数据库读出来;然后取得数据,再写入系统B的数据库中;

但有个缺点就是只能每一1000条的这样导入。过多程序会死掉;

 

下面是其他人的想法;

前阵子做了以个项目4000万条数据,是一个数据库A的数据转移到另一个数据库B, 具体操作步骤是,从A把数据导出TXT文件,数据之间用分割标示标注。 然后写个读取程序读取txt文件重新写SQL文件(就是把数据解析写成SQL语句),每1000条提交一次。 最后用数据库自带的工具执行SQL文件。  数据从txt(700M)转换成SQL文件,大概10分钟左右,SQL文件导入到数据库大概用了6个多小时(2:00-8:20),并适当做日志记录,如果其中1000条执行有错的话,会记录到日志中,不影响后下面1000条数据的操作。等结束后检查出错的地方,进行补救。  
txt文件内容=ss|bb|cc|;
  1个月一次此次操作,用人工操作,是麻烦一些,但是比较稳当,如果都控制成自动读取的话,数据导入到一半出错,时间也花费了

0
1
分享到:
评论

相关推荐

    ORA_ROWSCN伪列在Oracle历史数据迁移中的应用研究.pdf

    ORA_ROWSCN伪列在Oracle历史数据迁移中的应用研究 Oracle数据库系统中,数据迁移是不可避免的,特别是在大型企业中,数据库系统的数据量会随着时间的推移不断增长。为了解决这个问题,Oracle提供了多种数据迁移...

    oracle学习整理高级阶段 收获多多的

    在这个阶段,学习者需要对Oracle数据库的架构、性能优化、安全管理、数据备份和恢复、数据迁移等方面进行深入的研究和实践。 架构 Oracle数据库的架构是指数据库的逻辑和物理结构,它包括数据库实例、表空间、段、...

    深度学习与PyTorch入门实战教程-迁移学习-实战宝可梦精灵.rar

    深度学习是现代人工智能领域的重要分支,它通过模拟人脑神经网络的工作原理,处理复杂的数据问题。...记得实践是检验真理的唯一标准,动手尝试才是学习的最佳方式,祝你在宝可梦精灵识别的旅程中收获满满!

    收获,不止Oracle 脚本_20130427修正_请谨慎使用

    这些脚本可以是单个SQL语句,也可以是一系列按照特定顺序执行的语句,常用于数据迁移、数据库初始化或自动化任务。 在2013年4月27日的修正中,可能涉及到对脚本中的错误修复、性能优化或者新功能的引入。修正可能...

    基于年龄分组和种群增长模型的种群稳定收获模型

    同时,模型假设所研究的环境相对封闭,这意味着除了收获之外,种群的其他动态(如移民和迁移)不会对模型的预测造成显著影响。 该模型的符号体系包含了用于描述种群年龄分布和数量变化的多个变量,例如种群数量向量...

    中国无霜期及其时空变化公里网格数据集(1951-2012).rar

    - **农业规划**:了解无霜期有助于确定种植作物的适宜季节,优化播种和收获时间。 - **气候研究**:通过比较不同年份的数据,可以研究气候变化对无霜期的影响,从而预测未来气候模式。 - **环境科学**:无霜期的长短...

    基于深度学习resnet50的垃圾图像识别 完整代码+数据 毕业设计 可直接运行

    文件夹theory记录了我在本次深度学习中收获的笔记,与模型训练的控制台打印信息 迁移学习需要的初始权重与模型定义文件resnet50.py放在model下 训练运行trainNet.py,训练结束会创建models文件夹,并将结果权重gar

    林草资源大数据共享服务监测平台技术方案.pdf

    该平台涵盖八大核心内容,包括标准规范建设、信息资源建设、统一应用支撑系统建设、林业“一张图”系统建设、林业数据共享交换系统建设、林业大数据展示应用系统建设、林业管理与辅助决策系统建设和已有系统的迁移与...

    数据交换和质控工作-5.221

    总结今日收获,团队成员在组件库的组件功能上还在不断探索,目前能够熟练使用一些简单的过滤器功能和写入组件,如生成Excel表和CSV文件。随着对组件库的深入理解和实践,团队的技能将进一步提升,确保数据交换和质控...

    林草资源大数据共享服务监测平台技术方案 (3).docx

    标准规范建设、信息资源建设、统一应用支撑系统建设、林业“一张图”系统建设、林业数据共享交换系统建设、林业大数据展示应用系统建设、林业管理与辅助决策系统建设和已有系统的迁移与整合。这些部分共同构成了一个...

    数据库图形化界面navicat

    1. **多数据库连接**:Navicat允许用户同时连接到多个数据库,方便在不同数据库间进行数据迁移和同步。 2. **数据可视化**:通过图表和图形,Navicat提供了一种直观的方式来理解和分析数据,帮助用户更好地理解...

    大学生课程学习经验与教育收获:基于深度学习的中介效应检验.pdf

    深度学习的过程涉及到新知识与已有知识结构的结合,知识的分析和批判,以及知识的迁移和应用。 在教学模式上,以学生为中心的教学模式强调学生在学习过程中的主体地位,鼓励学生批判性思维的培养和学习内容的深度...

    大学生教育经历丰富度、深度学习与学习收获的关系研究.pdf

    深度学习不仅涉及理解和记忆知识,还包含了批判性思考、知识迁移和问题解决,这些能力对于高质量的高等教育至关重要。 研究引用了泰勒的“任务时间”理论、阿斯汀的“学生参与”理论和库的“学习性投入”理论,强调...

    接口设计说明书v1.01.pdf

    - 数据转换:接口transformDataFromOldDatabase将旧数据库中的数据迁移至新数据库,实现数据升级和系统兼容性。 - 上传图片:接口uploadPicture允许上传与农产品相关的图片资料,丰富追溯信息。 通过这份接口设计...

    交通指示牌识别_keras_深度学习_神经网络交通_python_交通指示牌的识别_

    此外,迁移学习也是常用的策略,我们可以使用预训练的模型(如VGG16或ResNet)作为基础网络,只训练顶部的几层,以适应我们的特定任务。 总结来说,交通指示牌的识别是通过Keras和Python的深度学习框架实现的,主要...

    基于Kubernetes前后端分离项目的资源申请与部署方案(包含详细的完整的程序和数据)

    内容概要:本文详细介绍了一项关于将基于Vue.js(前端) 和Spring Cloud ...阅读收获:读者将学会制定适合自己项目的资源分配策略、熟悉Kubernetes各种重要组件的具体应用场景,并能够成功实施一次安全可靠的迁移。

    《大数据技术原理及应用》课程报告

    报告还介绍了Hive、MySQL、HBase数据互导的实验,讲述了如何进行不同数据库间数据的迁移和数据仓库数据的可视化分析。通过这些实验,学生能够了解数据在整个生命周期中的流动和转换,学习如何利用可视化工具对数据...

    用C#学生信息管理系统,功能还比较齐全

    3. 数据导入导出:为了便于数据备份和迁移,系统提供数据导入导出功能,支持将学生信息和成绩数据导出到Excel文件,或者从已有的Excel文件导入数据,提高工作效率。 4. 权限管理:系统根据角色分配不同的操作权限,...

    基于SuperMap的Echarts迁徙图

    构建基于SuperMap的Echarts迁徙图,首先需要在SuperMap中准备迁徙数据,这通常包括起点、终点坐标,以及迁移的数量或频率等信息。通过SuperMap的API,我们可以获取这些数据并将其转换为适合Echarts的格式。然后,...

    机器学习教程,本教程包含基于numpy、sklearn与tensorflow机器学习,.zip

    Spark MLlib库包含了多种机器学习算法,与Scikit-Learn有类似的API,使得迁移学习变得更加容易。 最后,Flink是另一个实时数据处理框架,适用于流数据和批处理任务。在机器学习领域,Flink可以帮助实时分析和预测...

Global site tag (gtag.js) - Google Analytics