`
maozilee
  • 浏览: 251496 次
  • 性别: Icon_minigender_1
  • 来自: 长沙
社区版块
存档分类
最新评论

提示MySQL插入速度的方法

阅读更多

最近项目要求挺多,对INSERT语句的速度要能达到每秒1W以上,于是要从MySQL原理分析!

底下信息来源于MySQL文档:


插入一个记录需要的时间由下列因素组成,其中的数字表示大约比例:
连接:(3)  
发送查询给服务器:(2)  
分析查询:(2)  
插入记录:(1x记录大小)  
插入索引:(1x索引)  
关闭:(1)  

这不考虑打开表的初始开销,每个并发运行的查询打开。表的大小以logN (B树)的速度减慢索引的插入。

加快插入的一些方法:
· 如果同时从同一个客户端插入很多行,使用含多个VALUE的INSERT语句同时插入几行。这比使用单行INSERT语句快(在某些情况下快几倍)。如果你正向一个非空表添加数据,可以调节bulk_insert_buffer_size变量,使数据插入更快。参见5.3.3节,“服务器系统变量”。
· 如果你从不同的客户端插入很多行,能通过INSERT DELAYED语句加快速度。参见13.2.4节,“INSERT语法”。
· 用MyISAM,如果在表中没有删除的行,能在SELECT语句正在运行的同时插入行。
· 当从一个文本文件装载一个表时,使用LOAD DATA INFILE。这通常比使用很多INSERT语句快20倍。参见13.2.5节,“LOAD DATA INFILE语法”。

· 当表有很多索引时,有可能要多做些工作使得LOAD DATA INFILE更快些。使用下列过程:

有选择地用CREATE TABLE创建表。  
执行FLUSH TABLES语句或命令mysqladmin flush-tables。  
使用myisamchk --keys-used=0 -rq /path/to/db/tbl_name。这将从表中取消所有索引的使用。  
用LOAD DATA INFILE把数据插入到表中,因为不更新任何索引,因此很快。  
如果只想在以后读取表,使用myisampack压缩它。参见15.1.3.3节,“压缩表特性”。  
用myisamchk -r -q /path/to/db/tbl_name重新创建索引。这将在写入磁盘前在内存中创建索引树,并且它更快,因为避免了大量磁盘搜索。结果索引树也被完美地平衡。  
执行FLUSH TABLES语句或mysqladmin flush-tables命令。  
请注意如果插入一个空MyISAM表,LOAD DATA INFILE也可以执行前面的优化;主要不同处是可以让myisamchk为创建索引分配更多的临时内存,比执行LOAD DATA INFILE语句时为服务器重新创建索引分配得要多。

也可以使用ALTER TABLE tbl_name DISABLE KEYS代替myisamchk --keys-used=0 -rq /path/to/db/tbl_name,使用ALTER TABLE tbl_name ENABLE KEYS代替myisamchk -r -q /path/to/db/tbl_name。使用这种方式,还可以跳过FLUSH TABLES。

· 锁定表可以加速用多个语句执行的INSERT操作:

LOCK TABLES a WRITE;  
INSERT INTO a VALUES (1,23),(2,34),(4,33);  
INSERT INTO a VALUES (8,26),(6,29);  
UNLOCK TABLES;  
这样性能会提高,因为索引缓存区仅在所有INSERT语句完成后刷新到磁盘上一次。一般有多少INSERT语句即有多少索引缓存区刷新。如果能用一个语句插入所有的行,就不需要锁定。

对于事务表,应使用BEGIN和COMMIT代替LOCK TABLES来加快插入。

锁定也将降低多连接测试的整体时间,尽管因为它们等候锁定最大等待时间将上升。例如:

Connection 1 does 1000 inserts

Connections 2, 3, and 4 do 1 insert

Connection 5 does 1000 inserts

如果不使用锁定,2、3和4将在1和5前完成。如果使用锁定,2、3和4将可能不在1或5前完成,但是整体时间应该快大约40%。

INSERT、UPDATE和DELETE操作在MySQL中是很快的,通过为在一行中多于大约5次连续不断地插入或更新的操作加锁,可以获得更好的整体性能。如果在一行中进行多次插入,可以执行LOCK TABLES,随后立即执行UNLOCK TABLES(大约每1000行)以允许其它的线程访问表。这也会获得好的性能。

INSERT装载数据比LOAD DATA INFILE要慢得多,即使是使用上述的策略。

· 为了对LOAD DATA INFILE和INSERT在MyISAM表得到更快的速度,通过增加key_buffer_size系统变量来扩大 键高速缓冲区。参见7.5.2节,“调节服务器参数”。

分享到:
评论

相关推荐

    MySQL教程(命令提示符形式)

    MySQL教程(命令提示符形式) 在信息技术领域,数据库管理是不可或缺的一部分,而MySQL作为一款流行的开源关系型数据库管理系统,被广泛应用于网站开发、数据分析和存储关键业务数据。本教程将聚焦于MySQL的基础...

    88秒插入1000万条数据到MySQL数据库表的操作方法

    如果连接成功,输出提示并调用`insert()`方法进行数据插入。 在`insert()`方法中,我们记录开始时间以便计算性能。使用`PreparedStatement`(预编译的SQL语句)能提高性能,因为它可以减少解析和编译SQL的时间。...

    windows版mysql安装包-mysql5-mysql-5.5.zip

    - **InnoDB性能提升**: 包括更快的插入速度,更高的并发处理能力,以及更少的锁冲突。 - **FEDERATED存储引擎**: 支持远程数据库链接,实现跨服务器的数据集成。 - **分区功能增强**: 支持更多的分区策略,提高...

    mysql常见错误提示及解决方法

    ### MySQL常见错误提示及其解决方法 #### 1. 错误130:文件格式不正确 - **问题描述**:此错误表明遇到的文件格式不符合MySQL预期的标准。 - **解决方法**: - 检查文件是否被正确创建且格式正确。 - 使用`...

    MySQL笔记-MySQL⾼⼿系列

    - MySQL性能优化技巧,如何提升查询速度和数据库性能。 - 开发过程中的实战案例,分享优秀实践和设计模式。 通过这个系列的学习,你将能够熟练掌握MySQL的使用,理解数据库原理,以及在实际开发中运用MySQL进行...

    mysql安装包mysql-5.5.30-win32

    它引入了更高效的自适应哈希索引、更小的内存足迹以及更快的数据插入速度。 2. **Full-text Search改进**:全文搜索功能得到显著提升,包括对UTF-8字符集的支持和更灵活的查询语法,使得文本搜索更加智能化。 3. *...

    C#.NET中如何批量插入大量数据到数据库中

    4. **优化数据库设计**:确保目标表有良好的索引和分区策略,可以进一步提高插入速度。 5. **减少数据库往返**:尽量减少不必要的数据库查询,例如,通过一次性获取所有需要的数据库对象,而不是在循环中多次查询。...

    mysql-5.5.27-win32.zip

    用户可以通过双击该文件来启动安装向导,按照提示逐步完成MySQL的安装。 安装MySQL 5.5.27的步骤通常包括以下几个阶段: 1. **启动安装向导**:运行msi文件后,用户会看到一个欢迎界面,点击“下一步”继续。 2. *...

    InnoDB性能调节提示

    MySQL的InnoDB存储引擎在处理大量数据和高并发事务时,其性能调优至关重要。以下是一些关于如何配置和优化InnoDB性能的关键提示: 1. **监控InnoDB状态**: 使用`SHOW INNODB STATUS`命令可以查看InnoDB引擎的状态...

    mysql5.5附安装教程

    1. 性能提升:MySQL 5.5引入了InnoDB存储引擎的并行插入,大大提高了多线程插入速度。 2. 全新InnoDB Plugin:提供了更好的事务处理能力和更高的并发性。 3. 复制改进:增强了主从复制的性能和可靠性,如半同步复制...

    mysql5.7 mac版本64位 免费下载安装

    3. **安装MySQL**:找到解压后的安装程序,双击运行,按照安装向导的提示进行操作。在安装过程中,你可能需要设置MySQL的根用户密码。 4. **配置环境变量**:为了在终端中方便地使用MySQL命令,需要将MySQL的bin...

    mysql安装版win64

    3. 插入数据:使用`INSERT INTO`语句插入数据,例如:`INSERT INTO users (username, password) VALUES ('user1', 'pass1');` 4. 查询数据:`SELECT`语句用于检索数据,如:`SELECT * FROM users;`将返回表users中...

    mysql-5.1.35

    5.1.35版本可能包含了一些特定的优化,如更快的插入速度、更少的锁冲突和更好的内存管理。 2. **分区功能增强**:支持更多的分区类型,如线性哈希分区和虚拟列分区,有助于大数据量表的管理和查询效率。 3. **查询...

    beginning Mysql

    ### MySQL入门知识点详解 #### 一、MySQL简介与特点 MySQL是一种非常流行的开源关系型数据库管理系统(RDBMS),...对于初学者来说,掌握MySQL的基本概念和操作方法是非常重要的,这将为后续深入学习打下坚实的基础。

    mysql5.5安装程序

    - **性能优化**:MySQL 5.5引入了InnoDB存储引擎的并行插入,提高了写入性能。此外,查询优化器也进行了升级,对于复杂查询的处理速度有所提升。 - **存储引擎**:默认存储引擎从MyISAM变为InnoDB,提供了事务处理...

    MySql.rar 安装包-5.6.48.0

    2. **性能优化**:MySQL 5.6引入了并行复制,允许从服务器并行地应用主服务器的二进制日志,提高了数据同步的速度。此外,查询优化器也得到了升级,能够更智能地选择执行计划,从而提高查询效率。 3. **SQL标准支持...

    mysql-5.7.17.rar

    1. 性能提升:MySQL 5.7引入了InnoDB存储引擎的诸多优化,如更快的插入速度、更高效的查询处理以及更大的InnoDB表空间支持,从而提升了整体性能。 2. JSON支持:MySQL 5.7引入了对JSON数据类型的原生支持,使得非...

    mysql-8.0.30 centos、redhat 7 安装包

    1. 改进的性能:MySQL 8.0引入了InnoDB存储引擎的增强,如更快的插入速度和更高的并发处理能力。 2. JSON支持:提供了对JSON数据类型的内置支持,便于处理非结构化数据。 3. 加强的安全性:包括改进的密码策略和加密...

    MySQL 5.1中文手冊

    7.5.4. 编译和链接怎样影响MySQL的速度 7.5.5. MySQL如何使用内存 7.5.6. MySQL如何使用DNS 7.6. 磁盘事宜 7.6.1. 使用符号链接 8. 客户端和实用工具程序 8.1. 客户端脚本和实用工具概述 8.2. myisampack:生成压缩...

Global site tag (gtag.js) - Google Analytics