InnoDB Insert抖动问题及其改进

背景

日志型应用的一个典型操作，是周期性地有大量的insert操作。这类操作需要对扩展表空间。

 

 

分析

在InnoDB里，扩展表空间的操作是在语句执行过程中，由执行线程直接调用的。

尤其是对于一些表每行比较大，则会出现每插入几条记录就需要扩展表空间。

虽然有insert buffer和write ahead logging策略保证在执行线程中不直接操作表数据文件，但扩展表空间的操作会导致更新的tps出现瞬间低点。现象如下图。实际上整体TPS也受此影响。

 

 

改进方案及可行性

       可以在这类大操作之前预分配表空间来优化这个问题。我们的业务上线之前都有容量预估，每天也有监控。因此接下来一段时间表空间增长到多少，是能够预估得到。

       在实际更新开始之前，在低峰期甚至是提供服务之前就将表空间预分配好，能够避免这种抖动和提高TPS。

 

工具验证

       InnoDB的表空间结构上，空间头部有4个byte的数字N表示这个表空间的大小（page数目），文件的实际大小是N*Page_SIZE.

       实现了一个工具extend_space，修改4个byte并将文件append到指定的大小。测试发现insert性能提升10%。由这个原因引起的抖动消除。

 

后续

       目前还只是用工具实现。工具使用起来比较麻烦，主要是更新过程中的锁表操作就需要外部脚本，而且以后应用的新版本中page_size可变，因此比较优美的方案是将这个功能加入到MySQL支持的命令中。

 

 

补充更新

 

新增MySQL命令支持预扩展

http://bugs.mysql.com/bug.php?id=63858

 

 

效果如图

 

评论

2 楼 丁林.tb 2012-01-18  

diunei 写道

hi， 请问需要离线改吗？ 还是可以在线改？

可以直接用命令动态修改，示例在这里
http://weibo.com/1933424965/xDQdZm6iO

1 楼 diunei 2012-01-13  

hi， 请问需要离线改吗？ 还是可以在线改？