利用oracle控制文件实现大批量数据的入库操作,效率比sql脚本文件要高很多。
一个300M的数据文件,ctl文件的入库大概在20mins左右,sql脚本文件则需要2h左右。
使用ctl控制文件步骤如下:
1. 制作ctl文件
load data
infile 'E:\test.log' --数据文件,上一片文章导出的
append into table fm.tb_team_info
Fields terminated by "," --字段分隔符
Optionally enclosed by '"' --定界符
trailing nullcols --允许跳过列
(
TEAMID,
AREA_ID,
CREATE_PERSONNEL_ID,
TEAM_CODE
)
E:\test.log: 数据文件,此例中用日志文件作为数据源
fm.tb_team_info: 需要导入的数据表
2. 制作数据源文件
文件中只有数据,数据列之间用“,”分隔
3. 执行ctl文件
cd 至oracle控制文件目录下
执行命令:sqlldr fm/zaixin@189Ericsson control = input.ctl, ERRORS=50000 , LOAD=450000
4. 执行结果、
执行结果将会在oracle的控制文件下生成执行的控制文件名称对应的日志文件(input.log)详细记录了操作结果。
5. 当加载大量数据时(大约超过10GB),最好抑制日志的产生:
SQL>ALTER TABLE RESULTXT nologging;
这样不产生REDO LOG,可以提高效率
分享到:
相关推荐
案例分析部分可能包含系统在实际应用中的具体场景,例如如何处理大批量入库,如何应对突发的库存短缺,以及如何通过系统优化库存结构。源代码分析可以帮助理解设计思路和问题解决方案。 六、技术选型与架构设计 ...
在保存数据并生成导入模板后,如客户档案、采购入库单、库存调拨单和销售发票模板,可以避免重复导入,并实现大批量数据的导入。 接口对接工具还具备智能特性,如字段查找(如时间、字段、制单人、凭证号),可以...
- 在实施上述解决方案时,应充分评估系统的性能影响,特别是在大批量数据处理和频繁交易的环境中。优化数据库索引、合理安排批处理任务、监控系统资源使用情况是必要的。 - 需要跨部门协作,包括采购、财务、IT等...
模板用于快速创建和复制物品信息,简化输入过程,减少错误,尤其适用于大批量物品的管理。 #### Review Profile 配置文件(Profile)允许用户个性化设置界面和功能选项,满足不同角色的需求,提升用户体验。 #### ...
string err = "大批量插入时产生错误"; string conStr = PubConstant.ConnectionString; conStr = "Data Source=(DESCRIPTION=(ADDRESS=(PROTOCOL=TCP)(HOST=192.168.29.98)(PORT=1521)) (CONNECT_DATA=(SERVICE_...
在C#中,进行大数据批量插入到不同的数据库如SQL Server、Oracle、SQLite和MySQL时,开发者需要考虑每个数据库系统的特性和API。以下是对这四种数据库批量插入操作的详细讲解: 1. **SQL Server批量插入** SQL ...
6. 批量PDF转换、OCR识别、水印添加等均支持大批量数据一次性实施。 三、项目建设内容和技术要求 XXXX数字档案馆的设计需要有良好的总体构架,包括软件架构、技术架构、安全体系架构、存储架构、规范体系等内容。 ...
- 对于大批量且具有相似属性的数据,可以进行批量属性赋值或属性空间转移操作。 **5. 方案分析预检** - 按照行政区或全库进行规划数据预检,确保数据没有跨行政区的情况出现。 - 预检包括对规划数据值域和图形的...