0 0

如何用代码实现,将文本文件导入db25

如何用代码实现,将文本文件导入
现在有个需求需要用java程序从一个文本文件批量的将数据导入数据库,数据几十万

条,用普通的循环可以实现,但性能太差,希望能有好的处理方案。谢谢回帖!(不用任何框架)补充一点,数据库用的是db2  是在客户端向服务器端导入的  也就是两台机子

2010年12月30日 10:27

2个答案 按时间排序 按投票排序

0 0

倒是有个比较偷懒的做法:还是用循环,但是把文本文件分为若干个文本段,启动多线程做循环操作,每个线程对应一个文本段,效率比单线程循环要快的多——最后别忘了用批量插入方法

2011年1月03日 21:09
0 0

对于你的这个问题,我给你提供一个方案:
1.如果该文件使用命令可以直接导入最好,如果不行的话,首先使用正则表达式过滤,将提取的数据写入到新文件中去。当然新文件的格式必须是DB2数据库可以导入读取的格式。如果文件过大,可以规定一定的大小,或者数据的行数。
2.将产生的新文件形成一个队列,或者存储在一个固定位置,将记录写入数据库。
3.需要设计一个命令模式的工具,可以执行将文件导入DB2,并生成日志。
4.使用定时器,设计一个定时计划任务,定时批量处理导入任务。

2010年12月30日 10:27

相关推荐

    Db2 文件导入导出常见命令总结

    本文主要总结了Db2中常用的文件导入导出命令,旨在帮助Db2新手更好地理解和应用这些命令。 首先,我们需要了解Db2支持的不同类型的文件格式。主要有三种基本类型: 1. DEL(定界ASCII文件):数据由行分隔符和列...

    数据库连接工具dbeaver

    DBeaver是一款强大的开源数据库管理工具,适用于多种数据库系统,包括但不限于DB2。这款工具以其直观的图形用户界面(GUI)而备受青睐,为数据库管理员和开发者提供了丰富的功能,简化了数据库的管理工作。 首先,...

    DB2数据库用户手册

    - **看存储过程文本**:使用`DB2 DESCRIBE PROCEDURE`命令查看存储过程的定义。 - **看表结构**:使用`DB2 DESCRIBE TABLE`命令查看表的结构。 - **看表的索引信息**:使用`DB2 DESCRIBE INDEX`命令查看索引详情。 -...

    使用TPC-DS工具生成数据 for db2

    5. **加载数据到db2**:将生成的文本文件导入到db2数据库中。通常使用`db2load`或`db2import`命令,或者编写SQL语句进行批量插入。在db2 v10.5版本中,可能需要了解其特定的语法和导入优化选项。 6. **验证数据**:...

    db2 v9.5数据库数据移动指南和参考

    - **加载命令概述**:除了导出和导入之外,本书还介绍了如何使用LOAD命令快速将大量数据加载到数据库中。 - **加载格式**:同样支持多种格式的加载操作。 - **高级加载选项**:书中还介绍了如何利用LOAD命令的一些...

    DB2常见问题大全收藏

    13. **导入数据**:`IMPORT`命令用于从文本文件导入数据,例如`INSERT INTO`、`INSERT_UPDATE`和`REPLACE`等操作。 14. **显示当前用户所有表**:`db2look`命令的组合可以列出所有表,如`db2look –d 数据库名 –u ...

    DB2 SQL语句性能分析方法

    为了更好地进行性能分析,可以将这些文本数据导入到DB2表中,并使用SQL查询来获取更有价值的信息,例如执行时间最长的语句、不同语句的执行频度等。 #### 五、转换工具源代码示例 下面提供了一个简单的C语言程序...

    DB2使用经验积累

    26. **用CLI编程批量的insert**:可以使用DB2 CLI(Client Library)提供的`SQLBulkOperations`功能来实现批量插入操作。 #### 三、DB2一些不好的限制 - **临时表不能建索引**:在DB2中,临时表无法建立索引,这...

    DB2学习手册

    3. **看存储过程文本:** 使用`VALUES DB2GETDDLSOURCE`来查看存储过程的源代码。 4. **看表结构:** 使用`VALUES DB2GETTABINFO`来查看表的详细信息。 5. **看表的索引信息:** 使用`VALUES DB2GETTABINFO`命令加上...

    DB2数据库基础

    - **整个倒入倒出:** 使用DB2 MOVE工具进行整个数据库的导入导出操作。 #### 七、应用技巧 - 包括中断用户连接、结果集处理、数据导入导出等方面的技巧。 - **强行中断用户联接方法:** 可以使用DB2提供的命令或工具...

    toad for db2_16020.zip

    - **安装说明.txt**:这通常是一个包含安装步骤和注意事项的文本文件,为用户提供安装Toad for DB2的详细指南,帮助用户顺利完成安装过程。 - **3322软件站_www.3322.cc.url**:这是一个链接文件,指向3322软件站...

    db2常用命令大全

    标题与描述中的“db2常用命令大全”指向的是IBM DB2数据库系统中一系列频繁使用的管理与操作命令。DB2是IBM公司开发的一款关系型数据库管理系统(RDBMS),广泛应用于企业级数据处理环境。以下是对部分提及的关键...

    ACCESS数据库转换MYSQL数据库的软件

    如果想要将SQL SERVER的数据库转换到MYSQL,也可以使用这个软件,具体操作是先使用SQL SERVER的“导入和导出数据”将SQL SERVER数据导出到ACCESS文件,然后再将ACCESS文件导出为MYSQL语句。 运行转换功能后,系统会...

    Java利用MYSQL LOAD DATA LOCAL INFILE实现大批量导入数据到MySQL

    Java大批量导入MySQL是一种高效的数据导入方式,使用MYSQL的LOAD DATA LOCAL INFILE语句可以快速地从一个文本文件中读取行,并装入一个表中。这种方式广泛应用于数据交换和导入,尤其是在数据量非常大的情况下。 ...

    ToadForDB2Freeware_4.7.2.642 注册码

    这种文本文件通常会列出一组序列号或密钥,用户在安装软件后输入这些信息以完成激活过程。确保正确保存和使用这个注册码,因为它是连接到特定用户和许可的,非法分享或滥用注册码可能会违反软件许可协议,并可能导致...

    安卓Excelwordppt文档读写相关-数据库导出excel文件.zip

    "DB2CSV"可能是实现这个功能的一个工具或代码库,它将SQLite数据库的记录转化为CSV文本文件。 2. Java源码说明: "JavaApk源码说明.txt"可能包含如何使用Java在Android环境中读写文档的详细说明。在Android中,...

    数据库导入到excel

    本文档将详细讲解如何使用Java编程语言实现从数据库(本例中使用MySQL)中提取数据,并将其转换成Excel文件的过程。通过这种方式,我们可以更加灵活地管理和分析数据。 #### 二、核心概念与技术要点 ##### 1. Java...

    SAS (统计分析软件)课件:第4章 访问外部数据文件.ppt

    SAS的IMPORT过程用于导入两种类型的外部文件:PC格式的数据文件和以固定字符为字段分隔符的文本文件。PROC IMPORT语句的基本语法包括定义DATAFILE、TABLE、OUT以及DBMS等选项。例如,通过PROC IMPORT可以将Excel...

Global site tag (gtag.js) - Google Analytics