论坛首页 综合技术论坛

MySQL的经典用法(三)----海量数据统计处理,模拟物化视图

浏览 23957 次
精华帖 (7) :: 良好帖 (4) :: 新手帖 (5) :: 隐藏帖 (2)
作者 正文
   发表时间:2010-08-06  
不能能吧!没发安装?
0 请登录后投票
   发表时间:2010-08-06  
webee 写道
不能能吧!没发安装?

我是没装上,楼上的用过吗?
0 请登录后投票
   发表时间:2010-08-09  
如果每月或者每天定时统计一次还好,可以加如时间等查询条件,而且以前统计的数据也没必要全部删除。

否则大批量数据定时触发刷新,性能应该是个大问题。
0 请登录后投票
   发表时间:2010-08-17  
恩,大家都是高手啊,我来学习来了。
0 请登录后投票
   发表时间:2010-08-19  
其实吧,认真看看,觉得是很简单的东西啊
0 请登录后投票
   发表时间:2010-08-19  
爪哇岛岛主 写道
其实吧,认真看看,觉得是很简单的东西啊

有机会多多交流 
0 请登录后投票
   发表时间:2010-11-25  
85977328 写道

一 物化视图
    物化视图,它是用于预先计算并保存表连接或聚集等耗时较多的操作的结果,这样,在执行查询时,就可以避免进行这些耗时的操作,而从快速的得到结果。
    只有大型数据库oracle10g,db2才支持这个功能,而MySQL5.1暂时还没有这个功能。本人通过事件调度和存储过程模拟了物化视图。下面大家一起来讨论吧。^-^

二 准备知识
    1)存储过程:玩过数据库的人,都知道他是啥~,~
    2)事件调度:在MySQL5.1开始才有的新功能。说白了就是个定时器。跟java里的timer差不多。

show processlist; --这个命令能是查看线程,如果启动了时间调度器,则会多个event_scheduler
set global event_scheduler = on; --启动时间调度器,关闭就不用我说了吧,off就可以了
show processlist\G;--查看线程,是不是多了个 User: event_scheduler

--如果想启动单个事件,则执行下面命令
ALTER EVENT `myEvent` 
ON COMPLETION PRESERVE 
ENABLE;
--关闭
ALTER EVENT `myEvent` 
ON COMPLETION PRESERVE 
DISABLE;



三 模拟物化视图
    1)先建个基表吧。

CREATE TABLE `user` (
  `Id` int(11) NOT NULL AUTO_INCREMENT,
  `name` varchar(255) DEFAULT NULL,
  `age` int(11) DEFAULT NULL,
  PRIMARY KEY (`Id`)
);



    2)设计视图
我想查询所有18岁员工的数量。
很简单,select count(*) from user where age=18;
如果是传统概念的视图,在MySQL中,每次访问视图的时候,他都会创建个临时表,然后执行一次。在海量数据的情况下,这样的效率是非常低的。而物化视图,则他会定时去刷新这个临时表,而不是你在用的时候才会去刷新。并且物化视图的"临时表"是一直存在的。所以效率高出非常多。拿空间换时间^-^

    3)创建"物化视图"的表

CREATE TABLE `user_view` (
  `Id` int(11) NOT NULL AUTO_INCREMENT,
  `c` int(11) DEFAULT NULL,
  PRIMARY KEY (`Id`)
);


    4)设计存储过程

CREATE PROCEDURE demoSp()
BEGIN
    DECLARE z INT;
SELECT COUNT(*) INTO z FROM user;
delete from user_view;
insert into user_view(c) values(z);
END;



    5)设计调度并执行,为了使实验明显,我就把调度设置成5秒一次吧。周期可以自己调节。

CREATE EVENT `myEvent` 
ON SCHEDULE EVERY 5 SECOND 
ON COMPLETION PRESERVE 
DO call demoSp();



四 总结
    上面的实现,可能不太明显,但在海量数据处理的时候进行统计,性能有明显的提升。大家做实验的时候,可以增加一个insert语句,方便观察。在更新数据的时候,如果数据量大,则需要按下面步骤来处理
1)delete 1条记录
2)insert 1条记录
3)提交
    如果一次性把数据全部删除,在查询的时候,有可能会出现空表的现象。而且会影响统计使用。
    通过利用这个事件调度,定时备份的事情也同时解决了.

    建议大家配合表分区,索引同时使用,这样可以提高性能.

未完成:在更新表的时候,需要采用某种算法来执行,这样才能提高性能,而不是单纯的删除再插入.



有问题大家请留言交流。版权所有,转载请注明出处 ^-^

 

 

0 请登录后投票
   发表时间:2011-01-12  
爪哇岛岛主 写道
其实吧,认真看看,觉得是很简单的东西啊


这个只是一个最基础的例子,而且只介绍个思想,你想在项目中用还是得思考一番的。

很佩服LZ的思路,跟我们目前开发的一套大数量处理方案很类似,目前我们用ORACLE 存储过程配合JAVA定时器做统计多路线程做数据同步,终于是完成了这个方案,而且现在很成熟,处理能力单表200W的数据量,分页查询每页2.8秒。效果显而易见
0 请登录后投票
   发表时间:2011-01-12  
是啊,如果有oracle,直接用oracle的物化视图了.呵呵
0 请登录后投票
论坛首页 综合技术版

跳转论坛:
Global site tag (gtag.js) - Google Analytics