`

sqlload的使用心得

阅读更多

最近公司没人,把我逼到一线,前期公司为数据导入。使用工具选择sqlload。

1.关于工具的介绍google一搜很多,我直接说我是怎么使用的,遇到什么问题。

2. 数据格式为txt或csv规则数据,比如(第一种无分隔符数据):

test.txt

|----|-----|

姓名   年龄

XX1     20

XX2     21

建控制文件

test.ctl

options(skip = 1) //跳过第一行,不用导入到数据库

load data

infile 'test.txt'  // 需要导入的数据文件

append into table test //导入到哪张表 (insert/append....)

TRAILING NULLCOLS //表的字段没有对应的值时允许为空

(

      name POSITION(1,4),//表示一行中,需要数据的开始和结束位置

      sex POSITION(6,10)

 

)

建立bat可执行文件 test.bat

sqlldr userid=username/password@orcl control=test.ctl log=test.log bad=test.bad
pause

然后执行test.bat数据就可以存到数据库中。

第二种是csv格式数据,比如用逗号分隔

那控制文件改成

 

options(skip = 1) //跳过第一行,不用导入到数据库

load data

infile 'test.txt'  // 需要导入的数据文件

append into table test //导入到哪张表 (insert/append....)

Fields terminated by "," //数据中每行记录用 "," 分隔  
 Optionally enclosed by '"' // 数据中每个字段用 '"' 框起

TRAILING NULLCOLS //表的字段没有对应的值时允许为空

(

      name NULLIF(NAME="")  "TRIM(:NAME)", // 1.if(null)的情况 2.去掉2端空格

      sex ,

     //如果有date类型 datetest DATE "YYYY-MM-DD HH24:MI:SS"

    // 还有好多种用法,我没用到

 

)


 就使用这样的方法导入了几十万,几百万的数据。很方便,很快。

 

提升速度:

 sqlldr userid=username/password@orcl control=xxx.ctl log=xx.log bad=xx.bad direct=true parallel=true

然后在控制文件中
load data 语句上边加上一句  unrecoverable 

 2者同时使用,速度提升惊人,之前5分钟,现在只需要1分钟。。

 

分享到:
评论

相关推荐

    Datastage的使用心得及unix应用

    《Datastage的使用心得及Unix应用深度解析》 Datastage,作为Ascential公司推出的知名第三方ETL(Extract, Transform, Load)工具,以其独特的特性深受业界青睐。它以可视化界面简化了操作,能处理复杂的数据源,并...

    DB2使用经验积累及心得

    ### DB2使用经验积累及心得 #### 前言 本文档主要总结了在首都国际机场、海口梅兰国际机场系统的开发过程中积累的DB2使用经验和心得。这些经验来源于实际项目实践,涉及DB2数据库的多种应用场景和技术细节。所处的...

    asp心得体会(心得体会-asp).doc

    ASP心得体会 ASP心得体会是指 ASP 编程框架的学习体会和经验总结。 ASP 是一种 Web 编程框架,而不是一种...但是,最终您还是需要会使用大型数据库的,现在对网络程序员的招聘一般要回 Oracle SQL Server MySQL 等。

    手工注入常用SQL语句笔记.docx

    手工注入常用 SQL 语句笔记 ...手工注入常用 SQL 语句笔记对 MySQL 和 MSSQL 两种数据库管理系统进行了详细的介绍,涵盖了注入原理、实战心得、判断数据库类型、常用内置函数使用、数据库的扩展存储过程等方面的内容。

    wordpress学习心得

    【标题】:“WordPress学习心得” 在深入探讨WordPress之前,我们首先要理解它是什么。WordPress是一个开源的内容管理系统(CMS),主要用于创建网站和博客。它的强大在于其灵活性、可扩展性和丰富的插件及主题库,...

    ETL学习心得.docx

    在大数据环境中,通常会使用批量装载工具,如Oracle的SQLLoader,DB2的Autoloader,这些工具能够高效地将大量数据导入数据库。 在ETL过程中,使用专业工具如DataStage、PowerMart等可以大大提高开发效率和维护便捷...

    asp.net学习心得

    ### ASP.NET学习心得 在学习ASP.NET的过程中,我们不仅能够掌握一种强大的Web开发技术,还能深入了解Web应用程序的设计与实现机制。下面将从几个方面来分享我的学习体会。 #### ASP.NET概述 ASP.NET是由微软公司...

    ETL工具Kettle简介和安装配置基本使用.pdf

    开源社区则提供了用户交流的平台,用户可以在这些平台上提问、分享使用心得或参与开发。 需要注意的是,Kettle作为开源项目,不断有新的功能添加和问题修复,用户应当定期关注官方网站和社区的更新,以获取最新的...

    hibernate心得

    本心得旨在分享对Hibernate深入理解的关键点,希望对你在使用Hibernate进行开发时能有所帮助。 一、Hibernate概述 Hibernate是一个开源的ORM框架,它允许我们将Java类与数据库表进行映射,通过对象的方式来操作...

    数据库上机实验报告(一).docx

    命令或MySQL的LOAD DATA INFILE语句,将movies-insert.sql文件中的示例数据导入到对应的表中。这一步骤确保了数据库中有可供查询和操作的数据。 4. **SQL操作**: - 实验中,学生需使用SQL进行查询和更新操作。...

    学习心得-《如何利用Excel高效地处理数据》.pdf

    PQ还支持SQL技术,可以与Power Query技术进行联合使用,以执行更高级的数据处理。PQ中还包含了分支语句的使用技巧,有助于在处理复杂数据时进行条件判断。 知识点八:数据格式处理 PQ支持处理列文本格式、文本字符...

    动态生成table并实现分页效果心得分享

    在实现分页时,文章展示了两种实现方式:一种是使用存储过程,另一种是直接使用SQL语句。虽然存储过程更加易于维护和管理,但在某些情况下直接使用SQL语句可能会更灵活或简单。这里的SQL语句使用了两个子查询来分别...

    Windows+Phone开发技术专题第二季(数据库篇)

    - 使用 C# 中的 `File.OpenText` 或 `XmlDocument.Load` 方法来加载 XML 文件。 - 可能需要调整路径以匹配模拟器中的文件系统结构。 #### 5. 设置 Windows 窗体 DataGridView 控件中的数据格式 DataGridView ...

    asp.net显示图片到指定的Image控件中 具体实现

    2. 在页面的后端代码(teacherdetial.aspx.cs)中,在 Page_Load 方法中,根据传入的参数(例如 tid)从数据库中获取对应的图片数据。 3. 构造另一个页面(pic.aspx),这个页面负责将图片数据以二进制的形式输出,...

    MySQL常用经典查询语句大全集锦.pdf

    ### MySQL管理心得 - **Windows环境下的MySQL服务启动**: 可以使用`net start mysql`命令启动MySQL服务。 - **Linux环境下的MySQL服务启动**: 使用`/etc/rc.d/init.d/mysqld start`命令启动MySQL服务。 - **安全性和...

    Oralce优化学习笔记

    - **ETL操作**:在执行ETL(Extract Transform Load)操作时,如果数据量较大,考虑使用32K的Page Size来提高处理效率。 #### 3. CPU与并发度管理 - **合理配置并发度**:每台服务器上的并发程度应根据CPU数量来...

    MySQL查询语句大全集锦.docx

    - 描述:首先选择要导入的数据库,然后使用`SOURCE`命令执行指定路径下的`.sql`脚本文件。 **10. 删除表** - 命令:`DROP TABLE MyTable;` - 描述:该命令用于删除表`MyTable`。 **11. 清空表中的所有数据** - ...

    数据库管理与应用-3期(KC004) 任务7-1 任务单.docx

    3. **访问Course表**:在窗体的Load事件中编写C#或VB.NET代码,连接到SQL Server数据库,并执行查询语句,例如SELECT * FROM Course,以获取Course表中的所有数据。 4. **赋值给DataGridView**:将查询结果绑定到...

Global site tag (gtag.js) - Google Analytics