`

mycat

阅读更多

数据库性能优化普遍采用集群方式,oracle集群软硬件投入昂贵,今天花了一天时间搭建基于mysql的集群环境。

 

1、主要思路

简单说,实现mysql主备复制-->利用mycat实现负载均衡。

比较了常用的读写分离方式,推荐mycat,社区活跃,性能稳定。

 

2、测试环境

MYSQL版本:Server version: 5.5.53,到官网可以下载WINDWOS安装包。注意:确保mysql版本为5.5以后,以前版本主备同步配置方式不同。

linux实现思路类似,修改my.cnf即可。

1)A主mysql。192.168.110.1:3306, 用户root,密码root。操作系统:win7 x64,内存:4g

安装路径:C:\Program Files\MySQL\MySQL Server 5.5\bin

2)B备mysql。192.168.110.2:3306, 用户root,密码root。操作系统:win2003 x64,内存:1g

安装路径:C:\Program Files\MySQL\MySQL Server 5.5\bin

3)A主、B备的mysql中创建sync_test数据库。 

 

3、实现mysql主备复制

主要思路:A主mysql开启日志,B备mysql读取操作日志,同步执行。

一般为主备同步,主主同步不推荐使用。

 

3.1  配置A主mysql。

1)修改my.ini。需要在log-bin="C:/Program Files/MySQL/MySQL Server 5.5/log/mysql-bin.log"的相关位置创建log目录,以及mysql-bin.log文件。

Txt代码   收藏代码
  1. [mysqld]  
  2. server-id=1 #主机标示,整数  
  3. port=3306      
  4. log-bin="C:/Program Files/MySQL/MySQL Server 5.5/log/mysql-bin.log"  #确保此文件可写  
  5. read-only=0   #主机,读写都可以  
  6. binlog-do-db=sync_test   #需要备份数据库,多个写多行  
  7. binlog-ignore-db=mysql #不需要备份的数据库,多个写多行  

2)允许MYSQL远程访问

 

Html代码   收藏代码
  1. #登录mysql console  
  2. 进入%home%/bin,执行mysql -uroot -proot  
  3.   
  4. #授权。允许root用户,从192.168.110.*的IP范围 远程访问A主mysql  
  5. mysql>GRANT ALL PRIVILEGES ON *.* TO 'root'@'192.168.110.*' IDENTIFIED BY 'root' WITH GRANT OPTION;  
  6.   
  7. #生效。该操作很重要!!!  
  8. mysql>FLUSH PRIVILEGES;  

 3)重启A主mysql数据库

Html代码   收藏代码
  1. 进入%home%/bin,执行mysql -uroot -proot  
  2. mysql>net stop mysql;  
  3. mysql>net start mysql;  

 4)查看主mysql日志状态

 

Html代码   收藏代码
  1. mysql> show master status\G;  
  2. *************************** 1. row ***************************  
  3.             File: mysql-bin.000003  
  4.         Position: 107  
  5.     Binlog_Do_DB: sync_test  
  6. Binlog_Ignore_DB: mysql  
  7. 1 row in set (0.00 sec)  
  8.   
  9. ERROR:  
  10. No query specified  

  

3.2  配置B备mysql

 1)修改my.ini。需要在log-bin="C:/Program Files/MySQL/MySQL Server 5.5/log/mysql-bin.log"的相关位置创建log目录,以及mysql-bin.log文件。

Xml代码   收藏代码
  1. [mysqld]  
  2. # add for sycn test  
  3. server-id=2                     #从机标识  
  4. log-bin="C:/Program Files/MySQL/MySQL Server 5.5/log/mysql-bin.log" #确保此文件可写  
  5. #master-host="192.168.110.1" #主机Ip  
  6. #master-user=root               #数据库访问用户名  
  7. #master-pass=root                   #数据库访问密码  
  8. #master-port=3306          #主机端口  
  9. #master-connect-retry=60    #如果从服务器发现主服务器断掉,重新连接的时间差(秒)  
  10. replicate-do-db=sync_test   #只复制某个库  
  11. replicate-ignore-db=mysql   #不复制某个库  

2)重启B备mysql数据库

Html代码   收藏代码
  1. 进入%home%/bin,执行mysql -uroot -proot  
  2. mysql>net stop mysql;  
  3. mysql>net start mysql;  

3)配置B备数据库的数据来源,核实高亮处的状态是否正常。

 

Html代码   收藏代码
  1. mysql>change master to master_host='192.168.110.1',master_port='3306',master_user='root',master_password='root';  
  2. mysql>slave start;  
  3. mysql>show slave status\G;  
  4. *************************** 1. row ***************************  
  5.                Slave_IO_State: Waiting for master to send even  
  6.                   Master_Host: 192.168.110.1  
  7.                   Master_User: root  
  8.                   Master_Port: 3306  
  9.                 Connect_Retry: 60  
  10.               Master_Log_File: mysql-bin.000003  
  11.           Read_Master_Log_Pos: 107  
  12.                Relay_Log_File: wjt-1c698d8a032-relay-bin.00001  
  13.                 Relay_Log_Pos: 253  
  14.         Relay_Master_Log_File: mysql-bin.000003  
  15.              Slave_IO_Running: Yes  
  16.             Slave_SQL_Running: Yes  
  17.               Replicate_Do_DB: sync_test  
  18.           Replicate_Ignore_DB: mysql  
  19.            Replicate_Do_Table:  
  20.        Replicate_Ignore_Table:  
  21.       Replicate_Wild_Do_Table:  
  22.   Replicate_Wild_Ignore_Table:  
  23.                    Last_Errno: 0  
  24.                    Last_Error:  
  25.                  Skip_Counter: 0  
  26.           Exec_Master_Log_Pos: 107  
  27.               Relay_Log_Space: 565  
  28.               Until_Condition: None  
  29.                Until_Log_File:  
  30.                 Until_Log_Pos: 0  
  31.            Master_SSL_Allowed: No  
  32.            Master_SSL_CA_File:  
  33.            Master_SSL_CA_Path:  
  34.               Master_SSL_Cert:  
  35.             Master_SSL_Cipher:  
  36.                Master_SSL_Key:  
  37.         Seconds_Behind_Master: 0  
  38. Master_SSL_Verify_Server_Cert: No  
  39.                 Last_IO_Errno: 0  
  40.                 Last_IO_Error:  
  41.                Last_SQL_Errno: 0  
  42.                Last_SQL_Error:  
  43.   Replicate_Ignore_Server_Ids:  
  44.              Master_Server_Id: 1  
  45. 1 row in set (0.00 sec)  
  46.   
  47. ERROR:  
  48. No query specified  

 

3.3 验证同步配置结果。

1)A主mysql:使用navicat工具,在sync_test库中创建sync_table表,并添加一些数据。

 

2)B备mysql:使用navicat工具,查看sync_test库,可以看到sync_table表和数据已被同步。

 

 4、实现读写分离

主要思路:使用mycat中间件,转发sql指令到后端mysql节点。mycat不负责数据库同步。

 4.1 安装mycat

1)mycat是什么?可以认为它是一个数据库访问中间件,但更像f5、ngnix等产品,具备访问路由、多表分表分片操作等功能。总之很强大

下载:http://www.mycat.io/ ,本文使用的是:1.6-RELEASE

mycat使用java编写,因此可以有linux、windows等多个版本可下载。

2)解压Mycat-server-1.6-RELEASE-20161012170031-win.tar,到D:\dev-bin\mycat目录

3)确保java环境为jdk1.7以上,否则mycat将不支持。

4)安装完毕

 

4.2 配置mycat

1)server.xml。配置访问用户及权限。修改高亮处信息,其中admin、user为访问mycat的用户,TESTDB为mycat虚拟的数据库,供上层应用访问。

 

Html代码   收藏代码
  1. <user name="admin">  
  2.         <property name="password">admin</property>  
  3.         <property name="schemas">TESTDB</property>  
  4.           
  5.         <!-- 表级 DML 权限设置 -->  
  6.         <!--           
  7.         <privileges check="false">  
  8.             <schema name="TESTDB" dml="0110" >  
  9.                 <table name="tb01" dml="0000"></table>  
  10.                 <table name="tb02" dml="1111"></table>  
  11.             </schema>  
  12.         </privileges>       
  13.          -->  
  14.     </user>  
  15.   
  16.     <user name="user">  
  17.         <property name="password">user</property>  
  18.         <property name="schemas">TESTDB</property>  
  19.         <property name="readOnly">true</property>  
  20.     </user>  

 2)schema.xml。这部分不太好理解,精简了一下,主要分schema、dataNode、dataHost三个主要配置。

 

    <scheme>节点定义了mycat的虚拟数据库为TESTDB,    balance="1":write操作路由到A机,读操作路由到B。

 

 

Html代码   收藏代码
  1. <?xml version="1.0"?>  
  2. <!DOCTYPE mycat:schema SYSTEM "schema.dtd">  
  3. <mycat:schema xmlns:mycat="http://io.mycat/">  
  4.   
  5.     <schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="100" dataNode="dn1">  
  6.         <!-- 这里不配置,代表所有的表分片到dn1节点-->  
  7.     </schema>  
  8.   
  9.     <dataNode name="dn1" dataHost="localhost1" database="sync_test" />  
  10.   
  11.     <dataHost name="localhost1" maxCon="1000" minCon="10" balance="1"  
  12.               writeType="0" dbType="mysql" dbDriver="native" switchType="1"  slaveThreshold="100">  
  13.         <heartbeat>select user()</heartbeat>  
  14.         <!-- can have multi write hosts -->  
  15.         <writeHost host="hostM1" url="192.168.110.1:3306" user="root"  password="root">  
  16.             <!-- can have multi read hosts -->  
  17.             <readHost host="hostS2" url="192.168.110.2:3306" user="root" password="root" />  
  18.         </writeHost>  
  19.     </dataHost>  
  20.       
  21. </mycat:schema>  

 

 

4.3 启动mycat

1)启动mycat

 

Html代码   收藏代码
  1. D:\dev-bin\mycat\bin>startup_nowrap.bat  

    后台信息如下:

 

 

Html代码   收藏代码
  1. D:\dev-bin\mycat\bin>startup_nowrap.bat  
  2.   
  3. D:\dev-bin\mycat\bin>REM check JAVA_HOME & java  
  4.   
  5. D:\dev-bin\mycat\bin>set "JAVA_CMD=C:\Program Files (x86)\Java\jdk1.7.0_13/bin/java"  
  6.   
  7. D:\dev-bin\mycat\bin>if "C:\Program Files (x86)\Java\jdk1.7.0_13" == "" goto noJavaHome  
  8.   
  9. D:\dev-bin\mycat\bin>if exist "C:\Program Files (x86)\Java\jdk1.7.0_13\bin\java.exe" goto mainEntry  
  10.   
  11. D:\dev-bin\mycat\bin>REM set HOME_DIR  
  12.   
  13. D:\dev-bin\mycat\bin>set "CURR_DIR=D:\dev-bin\mycat\bin"  
  14.   
  15. D:\dev-bin\mycat\bin>cd ..  
  16.   
  17. D:\dev-bin\mycat>set "MYCAT_HOME=D:\dev-bin\mycat"  
  18.   
  19. D:\dev-bin\mycat>cd D:\dev-bin\mycat\bin  
  20.   
  21. #如果启动失败,请修改D:\dev-bin\mycat\bin\startup_nowrap.bat文件中的以下参数。默认占用内存为2G  

 

 

Html代码   收藏代码
  1.   

 

 

Html代码   收藏代码
  1. D:\dev-bin\mycat\bin>"C:\Program Files (x86)\Java\jdk1.7.0_13/bin/java" -server -Xms512m -Xmx512m -XX:MaxPermSize=64M  -XX:+AggressiveOpts -XX:MaxDirectMemorySize=768m -DMYCAT_HOME=D:\  
  2. p "..\conf;..\lib\*" io.mycat.MycatStartup  
  3. 。。。。。。。。。。。。。。。。。。。。。。。。。。。  
  4. MyCAT Server startup successfully. see logs in logs/mycat.log   #启动成功将看到如下信息。  

    如日志中出现192.168.110.2 not connected 等信息,请允许B备mysql远程访问。

 

Html代码   收藏代码
  1. #登录mysql console  
  2. 进入%home%/bin,执行mysql -uroot -proot  
  3.   
  4. #授权。允许root用户,从192.168.110.*的IP范围 远程访问Bmysql  
  5. mysql>GRANT ALL PRIVILEGES ON *.* TO 'root'@'192.168.110.*' IDENTIFIED BY 'root' WITH GRANT OPTION;  
  6.   
  7. #生效。该操作很重要!!!  
  8. mysql>FLUSH PRIVILEGES;  

 

4.4 测试读写分离。

1、验证是否同步

1)使用navicat连接mycat,操作方式和连接物理mysql库一致,用户admin,密码admin,端口8066。

2)在TESTDB虚拟库中,创建新表test2,增加一些数据

3)查看A节点、B节点数据已同步。

 

2、关闭B备mysql的同步,验证读写分离。

Html代码   收藏代码
  1. mysql> slave stop;  
  2. Query OK, 0 rows affected (0.00 sec)  
  3.   
  4. mysql> show slave status\G;  
  5. *************************** 1. row ***************************  
  6.                Slave_IO_State:  
  7.                   Master_Host: 192.168.110.1  
  8.                   Master_User: root  
  9.                   Master_Port: 3306  
  10.                 Connect_Retry: 60  
  11.               Master_Log_File: mysql-bin.000003  
  12.           Read_Master_Log_Pos: 478  
  13.                Relay_Log_File: wjt-1c698d8a032-relay-bin.00001  
  14.                 Relay_Log_Pos: 624  
  15.         Relay_Master_Log_File: mysql-bin.000003  
  16.              Slave_IO_Running: No  
  17.             Slave_SQL_Running: No  
  18.               Replicate_Do_DB: sync_test  
  19.           Replicate_Ignore_DB: mysql  
  20.            Replicate_Do_Table:  
  21.        Replicate_Ignore_Table:  
  22.       Replicate_Wild_Do_Table:  
  23.   Replicate_Wild_Ignore_Table:  
  24.                    Last_Errno: 0  
  25.                    Last_Error:  
  26.                  Skip_Counter: 0  
  27.           Exec_Master_Log_Pos: 478  
  28.               Relay_Log_Space: 936  
  29.               Until_Condition: None  
  30.                Until_Log_File:  
  31.                 Until_Log_Pos: 0  
  32.            Master_SSL_Allowed: No  
  33.            Master_SSL_CA_File:  
  34.            Master_SSL_CA_Path:  
  35.               Master_SSL_Cert:  
  36.             Master_SSL_Cipher:  
  37.                Master_SSL_Key:  
  38.         Seconds_Behind_Master: NULL  
  39. Master_SSL_Verify_Server_Cert: No  
  40.                 Last_IO_Errno: 0  
  41.                 Last_IO_Error:  
  42.                Last_SQL_Errno: 0  
  43.                Last_SQL_Error:  
  44.   Replicate_Ignore_Server_Ids:  
  45.              Master_Server_Id: 1  
  46. 1 row in set (0.00 sec)  
  47.   
  48. ERROR:  
  49. No query specified  

 

3)使用navicat连接mycat,操作方式和连接物理mysql库一致,用户admin,密码admin,端口8066。

a.连接成功后,将看到TESTDB数据库和test数据表。

b.在test表中添加一些数据,保存。

c.执行select * from test查看test操作,将看到数据未更新。

原因:mycat将查询sq路由到B,因此读取的结果集不一致。

 

最后,mycat使用可以参见官网的权威指南学习。双主双备架构待后续更新。 

分享到:
评论

相关推荐

    MyCat测试报告(单机MyCAT对比多机MyCAT)1

    《MyCat测试报告:单机与多机集群的性能比较》 MyCat,作为一个流行的开源分布式数据库系统,常被用于解决大数据场景下的高并发问题。本测试报告旨在探究单台MyCat与多台MyCat集群在性能上的差异,并对比前端使用...

    mycat2基础安装包

    【标题】"mycat2基础安装包"涉及的是开源数据库中间件Mycat的第二代版本,Mycat是一款基于Java开发的分布式数据库系统,它主要用于解决大数据量、高并发场景下的数据存储与访问问题。在传统的单机数据库无法满足业务...

    mycat-web、mycat-eye

    MyCat是一款开源的分布式数据库系统,它作为Java开发的数据库中间件,被广泛应用于大数据分布式存储和处理场景。MyCat的主要目标是解决大数据量、高并发情况下的数据读写问题,提供了一种分库分表的解决方案,使得...

    mycat2 install-template(mycat2-install-template-1.20.zip)

    【标题】"mycat2 install-template(mycat2-install-template-1.20.zip)" 指的是MyCat 2的一个安装模板文件,版本号为1.20,存储在一个名为“mycat2-install-template-1.20.zip”的压缩包内。MyCat是开源的、基于...

    mycat2(mycat2映射关系.pdf)

    MyCat2映射关系概述 MyCat2是一款开源的数据库中间件,可以实现数据库的分布式处理、读写分离、负载均衡等功能。在MyCat2中,数据源、集群和逻辑表是三个核心概念。 数据源(DataSource)是指实际的数据库实例,...

    mycat2 install-template(mycat2-install-template-1.21.zip)

    【标题】"mycat2 install-template(mycat2-install-template-1.21.zip)" 指的是MyCat 2的一个安装模板文件,版本为1.21,通常包含了安装MyCat 2所需的所有配置文件和脚本,用于简化部署过程。 【描述】虽然描述...

    MyCat高可用负载均衡集群实现(HAProxy+Keepalived+MyCat)

    标题所涉及的知识点为“Mycat高可用负载均衡集群实现”,这是使用HAProxy和Keepalived技术来达成MyCat服务器集群的高可用性和负载均衡的方案。下面详细说明这一知识点。 首先,Mycat是一个数据库中间件,它可以实现...

    mycat2(mycat2-1.21-release-jar-with-dependencies.jar)

    《深入解析mycat2:基于mycat2-1.21-release-jar-with-dependencies.jar的分布式数据库中间件》 mycat2是一款开源的、高性能的、基于Java开发的分布式数据库中间件,它旨在解决大数据分布式存储和处理的问题。mycat...

    mycat2-1.21

    【标题】"mycat2-1.21" 指的是Mycat数据库中间件的一个特定版本,即1.21版。Mycat是一款开源的、基于Java开发的分布式数据库系统,常用于大数据环境下的数据库集群管理,能够实现数据库的水平扩展,提升系统的并发...

    Mycat2 v1.21-2022-4-7源码(Mycat2-1.21-2022-4-7.tar.gz)

    《深入解析Mycat2 v1.21-2022-4-7源码》 Mycat,作为一款开源的分布式数据库中间件,是大数据时代应对高并发、海量数据场景的重要解决方案之一。Mycat2是其最新版本,提供了一种更高效、更稳定的数据分片策略,使得...

    MySQL 中间件 MyCat 1.6.5 WIN 版 免安装

    MySQL中间件MyCat是一款在大数据环境下广泛使用的数据库管理和分发工具,特别针对MySQL数据库系统设计,旨在实现数据库的读写分离和水平扩展。MyCat 1.6.5是其一个稳定版本,专为Windows环境提供了免安装的便捷性。...

    Mycat-1.6.7.3.zip

    《Mycat数据库分片中间件详解》 Mycat,作为一款开源的分布式数据库中间件,被广泛应用于大数据量、高并发的互联网环境中。它实现了数据库的分片功能,可以将一个大表拆分成多个小表,分散在不同的数据库服务器上,...

    MyCat 完整版 官方文档 PDF

    《MyCat 完整版官方文档 PDF》是学习和理解分布式数据库系统MyCat的重要参考资料,尤其适合初学者。MyCat,作为一个开源的分布式数据库中间件,它实现了MySQL的协议,使得应用可以透明地访问分布式数据库集群,从而...

    MyCat从入门到放弃

    【MyCat从入门到放弃】 MyCat是一款开源的分布式数据库中间件,它的设计目标是让大数据分布式处理变得简单。在大型互联网应用中,面对高并发、海量数据的挑战,单机数据库往往无法满足需求,因此MyCat应运而生。本...

    关系型数据的分布式处理系统MyCAT

    ### 关系型数据的分布式处理系统MyCAT:深入解析与应用 #### 1. MyCAT 概述 ##### 1.1 背景 随着信息技术的快速发展,传统的数据库技术面临着越来越大的挑战。特别是当数据库应用扩展到互联网级别时,集中式...

    Windows下安装MyCat:Mycat-server-1.6-RELEASE-20161028204710-win

    在Windows环境下安装Mycat,首先需要理解Mycat是什么。Mycat是一个开源的数据库分片中间件,主要用于解决大数据场景下的数据存储和查询问题。它基于Java编写,能够支持多种数据库系统,如MySQL、Oracle、DB2、SQL ...

    MyCat权威指南 更新于2018年7月25

    Mycat 发展到目前的版本,已经不是一个单纯的 MySQL 代理了,它的后端可以支持 MySQL、SQL Server、 Oracle、DB2、PostgreSQL 等主流数据库,也支持 MongoDB 这种新型 NoSQL 方式的存储,未来还会支持更 多类型的...

    proxy与mycat对比测试

    Proxy和Mycat是两种常用的中间件,用于实现这些功能。本篇文章将深入探讨proxy和Mycat的对比测试,以及如何在MySQL主从架构中进行测试。 首先,我们来看proxy。Proxy通常指的是数据库代理服务器,它位于应用服务器...

    mycat生产使用遇到的8大问题汇总

    Mycat作为一款开源的分布式数据库中间件,被广泛应用于大数据处理和高并发场景,为企业提供了数据库分库分表、读写分离等解决方案。然而,在实际生产环境中,Mycat的使用往往会遇到一些常见问题。以下是对这些问题的...

Global site tag (gtag.js) - Google Analytics