最近公司没人,把我逼到一线,前期公司为数据导入。使用工具选择sqlload。
1.关于工具的介绍google一搜很多,我直接说我是怎么使用的,遇到什么问题。
2. 数据格式为txt或csv规则数据,比如(第一种无分隔符数据):
test.txt
|----|-----|
姓名 年龄
XX1 20
XX2 21
建控制文件
test.ctl
options(skip = 1) //跳过第一行,不用导入到数据库
load data
infile 'test.txt' // 需要导入的数据文件
append into table test //导入到哪张表 (insert/append....)
TRAILING NULLCOLS //表的字段没有对应的值时允许为空
(
name POSITION(1,4),//表示一行中,需要数据的开始和结束位置
sex POSITION(6,10)
)
建立bat可执行文件 test.bat
sqlldr userid=username/password@orcl control=test.ctl log=test.log bad=test.bad
pause
然后执行test.bat数据就可以存到数据库中。
第二种是csv格式数据,比如用逗号分隔
那控制文件改成
options(skip = 1) //跳过第一行,不用导入到数据库
load data
infile 'test.txt' // 需要导入的数据文件
append into table test //导入到哪张表 (insert/append....)
Fields terminated by "," //数据中每行记录用 "," 分隔
Optionally enclosed by '"' // 数据中每个字段用 '"' 框起
TRAILING NULLCOLS //表的字段没有对应的值时允许为空
(
name NULLIF(NAME="") "TRIM(:NAME)", // 1.if(null)的情况 2.去掉2端空格
sex ,
//如果有date类型 datetest DATE "YYYY-MM-DD HH24:MI:SS"
// 还有好多种用法,我没用到
)
就使用这样的方法导入了几十万,几百万的数据。很方便,很快。
提升速度:
sqlldr userid=username/password@orcl control=xxx.ctl log=xx.log bad=xx.bad direct=true parallel=true
然后在控制文件中
load data 语句上边加上一句 unrecoverable
2者同时使用,速度提升惊人,之前5分钟,现在只需要1分钟。。
分享到:
相关推荐
《Datastage的使用心得及Unix应用深度解析》 Datastage,作为Ascential公司推出的知名第三方ETL(Extract, Transform, Load)工具,以其独特的特性深受业界青睐。它以可视化界面简化了操作,能处理复杂的数据源,并...
### DB2使用经验积累及心得 #### 前言 本文档主要总结了在首都国际机场、海口梅兰国际机场系统的开发过程中积累的DB2使用经验和心得。这些经验来源于实际项目实践,涉及DB2数据库的多种应用场景和技术细节。所处的...
ASP心得体会 ASP心得体会是指 ASP 编程框架的学习体会和经验总结。 ASP 是一种 Web 编程框架,而不是一种...但是,最终您还是需要会使用大型数据库的,现在对网络程序员的招聘一般要回 Oracle SQL Server MySQL 等。
手工注入常用 SQL 语句笔记 ...手工注入常用 SQL 语句笔记对 MySQL 和 MSSQL 两种数据库管理系统进行了详细的介绍,涵盖了注入原理、实战心得、判断数据库类型、常用内置函数使用、数据库的扩展存储过程等方面的内容。
【标题】:“WordPress学习心得” 在深入探讨WordPress之前,我们首先要理解它是什么。WordPress是一个开源的内容管理系统(CMS),主要用于创建网站和博客。它的强大在于其灵活性、可扩展性和丰富的插件及主题库,...
在大数据环境中,通常会使用批量装载工具,如Oracle的SQLLoader,DB2的Autoloader,这些工具能够高效地将大量数据导入数据库。 在ETL过程中,使用专业工具如DataStage、PowerMart等可以大大提高开发效率和维护便捷...
### ASP.NET学习心得 在学习ASP.NET的过程中,我们不仅能够掌握一种强大的Web开发技术,还能深入了解Web应用程序的设计与实现机制。下面将从几个方面来分享我的学习体会。 #### ASP.NET概述 ASP.NET是由微软公司...
开源社区则提供了用户交流的平台,用户可以在这些平台上提问、分享使用心得或参与开发。 需要注意的是,Kettle作为开源项目,不断有新的功能添加和问题修复,用户应当定期关注官方网站和社区的更新,以获取最新的...
本心得旨在分享对Hibernate深入理解的关键点,希望对你在使用Hibernate进行开发时能有所帮助。 一、Hibernate概述 Hibernate是一个开源的ORM框架,它允许我们将Java类与数据库表进行映射,通过对象的方式来操作...
命令或MySQL的LOAD DATA INFILE语句,将movies-insert.sql文件中的示例数据导入到对应的表中。这一步骤确保了数据库中有可供查询和操作的数据。 4. **SQL操作**: - 实验中,学生需使用SQL进行查询和更新操作。...
PQ还支持SQL技术,可以与Power Query技术进行联合使用,以执行更高级的数据处理。PQ中还包含了分支语句的使用技巧,有助于在处理复杂数据时进行条件判断。 知识点八:数据格式处理 PQ支持处理列文本格式、文本字符...
在实现分页时,文章展示了两种实现方式:一种是使用存储过程,另一种是直接使用SQL语句。虽然存储过程更加易于维护和管理,但在某些情况下直接使用SQL语句可能会更灵活或简单。这里的SQL语句使用了两个子查询来分别...
- 使用 C# 中的 `File.OpenText` 或 `XmlDocument.Load` 方法来加载 XML 文件。 - 可能需要调整路径以匹配模拟器中的文件系统结构。 #### 5. 设置 Windows 窗体 DataGridView 控件中的数据格式 DataGridView ...
2. 在页面的后端代码(teacherdetial.aspx.cs)中,在 Page_Load 方法中,根据传入的参数(例如 tid)从数据库中获取对应的图片数据。 3. 构造另一个页面(pic.aspx),这个页面负责将图片数据以二进制的形式输出,...
### MySQL管理心得 - **Windows环境下的MySQL服务启动**: 可以使用`net start mysql`命令启动MySQL服务。 - **Linux环境下的MySQL服务启动**: 使用`/etc/rc.d/init.d/mysqld start`命令启动MySQL服务。 - **安全性和...
- **ETL操作**:在执行ETL(Extract Transform Load)操作时,如果数据量较大,考虑使用32K的Page Size来提高处理效率。 #### 3. CPU与并发度管理 - **合理配置并发度**:每台服务器上的并发程度应根据CPU数量来...
- 描述:首先选择要导入的数据库,然后使用`SOURCE`命令执行指定路径下的`.sql`脚本文件。 **10. 删除表** - 命令:`DROP TABLE MyTable;` - 描述:该命令用于删除表`MyTable`。 **11. 清空表中的所有数据** - ...
3. **访问Course表**:在窗体的Load事件中编写C#或VB.NET代码,连接到SQL Server数据库,并执行查询语句,例如SELECT * FROM Course,以获取Course表中的所有数据。 4. **赋值给DataGridView**:将查询结果绑定到...