`
holdbelief
  • 浏览: 707808 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

优化MySQL插入数据

阅读更多

原文地址:http://www.cnblogs.com/yahle/archive/2007/08/08/848060.html

 

表结构:6个字段,2个数值型,4个字符串型,字符型字段长度3~20个字符

数据量:1000

MySQL版本:4.1

测试程序与MySQL服务器在同一台机器,单线程插入处理。

 

优化方法1

修改表的类型

       MySQL数据库表有两种类型,一种是支持事务处理,一种是不支持事务处理。MySQL在处理这两种表时,分别使用了不同类型的数据库引擎,因此数据库引擎在插入时效率不同,理论上说启用了事务功能后会比较慢。

修改方法:在创建表时,指定表类型

Create Table(

….. /*字段说明*/

) ENGINE=InnoDB

红色部分为表类型,InnoDB表示带事务,MyISAM表示不带事务功能

 

 

优化方法2

一次插入多条数据

       MySQL通过一次执行插入多条数据,可以减少插入时间,提高效率,不过一次插入多条记录的SQL语法有点特别,貌似MS SQL Server不支持这样的语法:

Insert into `table` values(data1),(data2),(data3)

       虽然可以将多次插入的数据一次插入,但是一次插入的量还是有限制的:拼接出的SQL语句字符串长度不能超过1M,记录数不限。不太清楚是MySQL限制还是MySQL.Data数据库访问组件的限制造成的。

 

测试结果:

 

 

带事务

不带事务

执行1000次一次插1条记录

18s

430ms

执行1次一次插1000条记录

100ms

60ms

分享到:
评论

相关推荐

    提高mysql插入数据的速度.pdf

    - 尽管这不在文档中直接提及,但提升磁盘I/O性能对于提高MySQL插入速度同样重要。这包括优化文件系统、使用更快的磁盘或者使用SSD等措施。 9. 使用第三方工具监控和管理: - 使用如Unix的top、Windows的任务管理...

    mysql大批量数据插入

    MySQL 大批量数据插入优化方法 MySQL 大批量数据插入是指在短时间内将大量数据插入到 MySQL 数据库中,需要设计目标要求能支持平均每秒插入 1000 条数据以上。MySQL 提供了多种方法来实现大批量数据插入,包括使用...

    C#在MySQL大量数据下的高效读取、写入详解

    总结,优化C#与MySQL在大数据场景下的交互,关键在于选择正确的数据访问方式(原生API优于ORM)、充分利用索引、优化数据处理逻辑以及高效地批量插入数据。通过这些策略,可以显著提高处理效率,降低资源消耗,使...

    Mysql的longblob字段插入数据问题解决

    在使用mysql的过程中,有个问题就是mysql的优化,mysql中longblob字段在5.5版本中默认的为1M。 想改变这个问题,需要注意几点: com.mysql.jdbc.PacketTooBigException: Packet for query is too large (2054817 > ...

    提高mysql插入数据的速度归类.pdf

    MySQL 数据库在处理大量数据插入时的性能优化是数据库管理员和...以上策略是提高 MySQL 插入数据速度的一些基本方法,实际应用中应结合具体环境和需求进行调整。在进行大数据量操作时,充分的测试和优化是必不可少的。

    mysql数据插入效率比较

    在MySQL数据库中,数据插入效率是数据库性能优化的关键因素,特别是在大数据量的场景下。本文主要探讨了四种不同的数据插入方式及其效率差异。 1. 单条插入:这是最基本的方式,通过for循环逐条执行INSERT语句。...

    mysql 测试数据集,单表200万条数据

    这个200万条数据的测试集是实践上述理论的好素材,可以帮助我们深入理解MySQL在大数据场景下的表现,优化数据库设计和SQL语句,提升系统整体性能。通过实际操作和测试,我们可以更好地掌握MySQL数据库的相关知识。

    向数据库插入blob数据实例源码--在mysql中通过

    本实例将详细介绍如何在MySQL数据库中插入Blob数据,并提供源码示例。 1. **Blob类型介绍** MySQL中的Blob类型有四种变体:TinyBlob、Blob、MediumBlob和LongBlob,分别对应不同的存储大小限制。TinyBlob最多存储...

    mysql百万级测试数据下载 300W条

    首先,`test.sql`文件是一个MySQL数据库的SQL脚本文件,通常包含创建表结构、插入数据等操作。在这个场景中,它包含了300万条记录,这对于测试数据库性能、查询优化、并发处理能力等提供了充足的数据基础。 1. **...

    MYSQL开发性能研究之批量插入数据的优化方法

    批量插入数据是一种常见的优化手段,能够显著提升数据插入的效率。本文主要探讨了在MySQL中如何通过批量插入优化性能,对比了几种不同的批量插入方法,并进行了实验验证。 首先,传统的单条插入方式在面对大量数据...

    C++操作MySQL大量数据插入效率低下的解决方法

    综上所述,解决C++操作MySQL大量数据插入效率低下的问题,主要依赖于事务管理、批量操作、预处理语句、数据库配置优化以及合理使用数据库特性。通过这些方法,可以显著提升数据插入的效率,满足高性能的数据处理需求...

    一个工具类搞定批量插入增加数据到Mysql数据库

    只要学我一样编写这么一个工具类便可以实现批量插入多条数据,百条,千条,万条,后期还会继续优化增加数据时的速度!有点代码基础的保证能看懂,此项目已经有了前端界面你可以直接的导入然后运行测试既可以了,表...

    优化mysql存储数据-----最基础的.pdf

    CHAR 会自动删除插入数据的尾部空格,VARCHAR 不会删除尾部空格。CHAR 是固定长度,所以它的处理速度比 VARCHAR 的速度要快,但是它的缺点是浪费存储空间。因此,对存储不大但在速度上有要求的可以使用 CHAR 类型,...

    java插入mysql中文乱码解决

    3. **优化数据源配置** 如果使用了第三方数据源管理组件,需要检查其是否支持自动设置字符集。例如,在使用C3P0时,可以通过 `defaultConnectionProperties` 属性来指定字符集: ```java ComboPooledDataSource...

    海量数据的MySQL数据集

    MySQL支持SQL(结构化查询语言),这使得用户能够以标准化的方式进行数据操作,包括插入、更新、删除和查询等。其ACID(原子性、一致性、隔离性和持久性)特性确保了事务处理的安全性,为业务系统提供可靠的数据保障...

    MySQL批量SQL插入各种性能优化.docx

    MySQL数据库在处理大量数据插入时,性能优化是至关重要的,尤其是在报表系统等需要频繁批量插入数据的应用场景。以下是一些针对MySQL批量SQL插入的性能优化策略: 1. **批量插入数据** - 传统的做法是逐条插入数据...

    python工具-excel批量导入mysql (几千万数据半小时可搞定)

    本篇文章将详细讲解如何利用Python工具实现Excel数据的批量导入到MySQL数据库,以及如何优化这一过程,使得几千万的数据能够在半小时内完成导入。 首先,我们需要了解Python中用于操作Excel的主要库——pandas。...

    mysql 数据插入优化方法

    当concurrent_insert=1时,允许对没有洞洞的表使用并发插入,新数据位于数据文件结尾(缺省)。 当concurrent_insert=2时,不管表有没有洞洞,都允许在数据文件结尾并发插入。 这样看来,把concurrent_insert设置为...

    利用poi获取excel数据批量插入大量数据到mysql

    本教程将详述如何使用Apache POI库读取Excel数据,并通过Java的JDBC接口批量插入到MySQL数据库中。Apache POI是Java平台上的一个开源项目,它允许程序员创建、修改和显示Microsoft Office格式的文件,其中包括Excel...

    mysql如何优化插入记录速度

    4. **使用LOAD DATA INFILE**:当需要大量导入CSV或其他文本格式的数据时,`LOAD DATA INFILE`命令通常比单条`INSERT`语句更快,因为它可以直接读取文件并快速插入数据。 对于InnoDB引擎,其优化方法与MyISAM有相似...

Global site tag (gtag.js) - Google Analytics