`
jiagyao
  • 浏览: 99301 次
  • 性别: Icon_minigender_1
  • 来自: 北京
文章分类
社区版块
存档分类
最新评论

MySQL的经典用法(三)----海量数据统计处理,模拟物化视图(转)

阅读更多
一 物化视图
    物化视图,它是用于预先计算并保存表连接或聚集等耗时较多的操作的结果,这样,在执行查询时,就可以避免进行这些耗时的操作,而从快速的得到结果。
    只有大型数据库oracle10g,db2才支持这个功能,而MySQL5.1暂时还没有这个功能。本人通过事件调度和存储过程模拟了物化视图。下面大家一起来讨论吧。^-^

二 准备知识
    1)存储过程:玩过数据库的人,都知道他是啥~,~
    2)事件调度:在MySQL5.1开始才有的新功能。说白了就是个定时器。跟java里的timer差不多。

Sql代码
show processlist; --这个命令能是查看线程,如果启动了时间调度器,则会多个event_scheduler  
set global event_scheduler = on; --启动时间调度器,关闭就不用我说了吧,off就可以了  
show processlist\G;--查看线程,是不是多了个 User: event_scheduler  
 
--如果想启动单个事件,则执行下面命令  
ALTER EVENT `myEvent`   
ON COMPLETION PRESERVE   
ENABLE;  
--关闭  
ALTER EVENT `myEvent`   
ON COMPLETION PRESERVE   
DISABLE; 

show processlist; --这个命令能是查看线程,如果启动了时间调度器,则会多个event_scheduler
set global event_scheduler = on; --启动时间调度器,关闭就不用我说了吧,off就可以了
show processlist\G;--查看线程,是不是多了个 User: event_scheduler

--如果想启动单个事件,则执行下面命令
ALTER EVENT `myEvent`
ON COMPLETION PRESERVE
ENABLE;
--关闭
ALTER EVENT `myEvent`
ON COMPLETION PRESERVE
DISABLE;

三 模拟物化视图
    1)先建个基表吧。

Sql代码
CREATE TABLE `user` (  
  `Id` int(11) NOT NULL AUTO_INCREMENT,  
  `name` varchar(255) DEFAULT NULL,  
  `age` int(11) DEFAULT NULL,  
  PRIMARY KEY (`Id`)  
); 

CREATE TABLE `user` (
  `Id` int(11) NOT NULL AUTO_INCREMENT,
  `name` varchar(255) DEFAULT NULL,
  `age` int(11) DEFAULT NULL,
  PRIMARY KEY (`Id`)
);

    2)设计视图
我想查询所有18岁员工的数量。
很简单,select count(*) from user where age=18;
如果是传统概念的视图,在MySQL中,每次访问视图的时候,他都会创建个临时表,然后执行一次。在海量数据的情况下,这样的效率是非常低的。而物化视图,则他会定时去刷新这个临时表,而不是你在用的时候才会去刷新。并且物化视图的"临时表"是一直存在的。所以效率高出非常多。拿空间换时间^-^

    3)创建"物化视图"的表

Sql代码
CREATE TABLE `user_view` (  
  `Id` int(11) NOT NULL AUTO_INCREMENT,  
  `c` int(11) DEFAULT NULL,  
  PRIMARY KEY (`Id`)  
); 

CREATE TABLE `user_view` (
  `Id` int(11) NOT NULL AUTO_INCREMENT,
  `c` int(11) DEFAULT NULL,
  PRIMARY KEY (`Id`)
);
    4)设计存储过程

Sql代码
CREATE PROCEDURE demoSp()  
BEGIN 
    DECLARE z INT;  
SELECT COUNT(*) INTO z FROM user;  
delete from user_view;  
insert into user_view(c) values(z);  
END; 

CREATE PROCEDURE demoSp()
BEGIN
    DECLARE z INT;
SELECT COUNT(*) INTO z FROM user;
delete from user_view;
insert into user_view(c) values(z);
END;

    5)设计调度并执行,为了使实验明显,我就把调度设置成5秒一次吧。周期可以自己调节。

Sql代码
CREATE EVENT `myEvent`   
ON SCHEDULE EVERY 5 SECOND   
ON COMPLETION PRESERVE   
DO call demoSp(); 

CREATE EVENT `myEvent`
ON SCHEDULE EVERY 5 SECOND
ON COMPLETION PRESERVE
DO call demoSp();

四 总结
    上面的实现,可能不太明显,但在海量数据处理的时候进行统计,性能有明显的提升。大家做实验的时候,可以增加一个insert语句,方便观察。在更新数据的时候,如果数据量大,则需要按下面步骤来处理
1)delete 1条记录
2)insert 1条记录
3)提交
    如果一次性把数据全部删除,在查询的时候,有可能会出现空表的现象。而且会影响统计使用。
    通过利用这个事件调度,定时备份的事情也同时解决了.

    建议大家配合表分区,索引同时使用,这样可以提高性能.

未完成:在更新表的时候,需要采用某种算法来执行,这样才能提高性能,而不是单纯的删除再插入.
分享到:
评论

相关推荐

    MySQL中实现物化视图

    真正值得一看的mysql知识。MySQL中实现物化视图(中文版)翻译于外文。

    mysql-connector-java-5.1.40.zip和mysql-connector-java-5.1.10.jar

    MySQL是世界上最受欢迎的开源数据库系统之一,而MySQL Connector/J是MySQL官方提供的用于Java应用程序与MySQL数据库之间连接的驱动程序。本文将深入探讨这两个文件:"mysql-connector-java-5.1.40.zip" 和 "mysql-...

    mysql连接包mysql-connector-java-5.1.27.jar

    MySQL是世界上最流行的开源关系型数据库管理系统之一,而`mysql-connector-java`是MySQL官方提供的用于Java应用程序连接到MySQL服务器的驱动程序。`mysql-connector-java-5.1.27.jar`是这个驱动的一个特定版本,它...

    mysql高级笔记 P1 day01-02. MySQL 高级 - Linux上安装MySQL P2 day01-03. MyS

    mysql高级笔记 P1 day01-02. MySQL 高级 - Linux上安装MySQL P2 day01-03. MySQL 高级 - 启动及登录MySQL P3 day01-04. MySQL 高级 - 索引 - 概述 P4 day01-05. MySQL 高级 - 索引 - 优势和劣势 P5 day01-06. MySQL ...

    MySQL--视图的定义

    - **CASCADE**: 当使用此选项时,MySQL不仅检查当前视图的条件,还会递归地检查所有依赖于该视图的其他视图的条件。 - **LOCAL**: 此选项只检查当前视图的条件,对于依赖它的视图则不进行检查。如果依赖视图自身带有...

    mysql-connector-java-8.0.28.tar.gz

    总结来说,"mysql-connector-java-8.0.28.tar.gz"提供了Java连接MySQL数据库的JDBC驱动,对于构建Hive与MySQL之间的数据通道至关重要,它在大数据处理场景中起到了数据传输和整合的关键作用。使用时,开发者需注意...

    Mysql数据库驱动mysql-connector-java-5.1.41-bin.jar

    4. **使用方法**: - 将`mysql-connector-java-5.1.41-bin.jar`添加到Java项目的类路径(ClassPath)中,这可以是IDE(如Eclipse、IntelliJ IDEA)的设置,也可以是在命令行启动Java应用时指定。 - 使用`java.sql....

    mysql-connector-java-5.1.44

    综上,`mysql-connector-java-5.1.44`是Java开发中连接MySQL数据库的重要工具,理解其工作原理和使用方法对于任何Java数据库开发者都是至关重要的。同时,随着技术的更新,保持对最新驱动和最佳实践的了解也是必要的...

    mysql-connector-java-5.1.49.jar

    MySQL Connector/J是MySQL数据库系统与Java应用程序之间的重要桥梁,它是一个实现了JDBC(Java Database Connectivity)规范的驱动程序,使得Java开发者能够通过编写Java代码来访问和操作MySQL数据库。"mysql-...

    mysql-connector-odbc-5.1.6-win32.rar_MYSQL_mySQL ODBC_mysql ODBC

    MySQL是世界上最受欢迎的开源数据库系统之一,而MySQL Connector/ODBC则是MySQL数据库系统与应用程序之间的桥梁,它允许使用ODBC(Open Database Connectivity)接口来连接MySQL数据库。在本压缩包"mysql-connector-...

    mysql-connector-java-5.1.27

    综上所述,`mysql-connector-java-5.1.27`是Java开发者与MySQL数据库交互的基础,理解其工作原理和使用方法对于开发基于Java的数据库应用至关重要。正确地配置和使用此驱动包,可以使Java应用高效、稳定地访问和操作...

    mysql-connector-java-5.1.37-jar

    MySQL Connector/J是MySQL数据库与Java应用程序之间的重要桥梁,它是一个实现了Java Database Connectivity (JDBC) API的驱动程序,使得Java开发者能够方便地在Java应用中访问MySQL数据库。本资源提供的"mysql-...

    mysql-connector-java-5.1.37.rar

    MySQL Connector/J是MySQL数据库与Java应用程序之间的桥梁,它是一个实现了JDBC(Java Database Connectivity)标准的驱动程序,允许Java开发者在Java应用中访问和操作MySQL数据库。标题中的"mysql-connector-java-...

    mysql-connector-java-5.1.10-bin.jar包下载

    综上所述,`mysql-connector-java-5.1.10-bin.jar`是连接Sqoop与MySQL的关键组件,它使得在大数据处理流程中进行高效的数据迁移成为可能。正确配置和使用这个驱动,能够实现Hadoop与MySQL之间的无缝数据交互,从而...

    MySQL驱动 mysql-connector-net-6.4.4

    3. **数据读取与遍历**:` MySqlDataReader`类提供了流式读取数据库记录的方法,可以在处理大量数据时保持高效的性能。它支持向前只读和快速访问。 4. **数据适配器与数据集**:`MySqlDataAdapter`是.NET中的数据...

    mysql-connector-java-8.0.11.jar文件

    MySQL Connector/J是MySQL数据库与Java应用程序之间的桥梁,它是一个实现了JDBC(Java Database Connectivity)标准的驱动程序,允许Java开发者在Java应用中访问和操作MySQL数据库。`mysql-connector-java-8.0.11....

    MySQL驱动 mysql-connector-net-6.4.3

    6.事务处理:`MySqlConnection`支持事务,可以使用`BeginTransaction`、`Commit`和`Rollback`方法进行事务的开始、提交和回滚。 7. 数据库对象操作:`MySqlCommand`还支持创建、修改和删除数据库对象,如表、视图、...

    mysql-connector-odbc-5.3.4-win32.msi

    5. **特性支持**:支持 MySQL 的各种特性,如存储过程、触发器、视图以及事务处理。 6. **多语言支持**:MySQL Connector/ODBC 可以处理多种字符集,适应全球化的应用需求。 在安装 `mysql-connector-odbc-5.3.4-...

    mysql驱动包 mysql-connector-java-5.1.13-bin.jar

    mysql驱动包 mysql-connector-java-5.1.13-bin.jar 方便快捷获取。。。

    mysql-connector-java-5.1.25, mysql 5.7.31亲测有效

    MySQL是世界上最受欢迎的关系型数据库管理系统之一,而MySQL Connector/J则是MySQL与Java应用程序之间的桥梁,它是一个JDBC(Java Database Connectivity)驱动程序,使得Java开发者能够方便地在Java应用中访问和...

Global site tag (gtag.js) - Google Analytics