- 浏览: 366002 次
- 性别:
- 来自: 阿里巴巴
文章分类
- 全部博客 (207)
- Maven (5)
- Cassandra (2)
- Hadoop (3)
- LDAP (2)
- SOA (7)
- 认证、加密、安全 (6)
- 搜索引擎相关技术 (3)
- REST (7)
- 数据库 (11)
- Java 基础相关 (38)
- UML (1)
- Java NIO 框架 (3)
- javassist (1)
- Bean容器 (4)
- 网络编程 (1)
- NoSQL (4)
- XML、Json (1)
- JS (2)
- Google (6)
- Warp-MVC (2)
- 持久层 (2)
- sitebricks (1)
- MVC (6)
- CSS (2)
- JPA (2)
- RDBMS (5)
- cache (4)
- tomcat (1)
- 其它 (3)
- eclipse (1)
- bigpipe (1)
- RDBMS MySQL (1)
- MySQL (2)
- ant (1)
- 前端 (2)
- Groovy (1)
- linux (3)
- Scala (1)
- zookeeper (1)
- redis (2)
- 测试 (1)
- 监控 (1)
- mac (3)
- 区块链 (3)
- 工具 (1)
最新评论
-
masuweng:
好好好,辛苦了!!
Spring Data JPA 简单介绍 -
masuweng:
Spring Data JPA 简单介绍 -
zhangjianxinjava:
您好,大神本人小白一个最近在研究不知道可否 通过邮箱进行交流, ...
JAVA Metrics度量工具 - Metrics Core -
xzs603:
http://zhengdl126.iteye.com/blo ...
数据库水平切分的实现原理解析---分库,分表,主从,集群,负载均衡器 -
JavaStart:
运行mysql2redis 的install.sh 文件为何提 ...
mysql到redis的复制
简单的说,MySQL Proxy就是一个连接池,负责将前台应用的连接请求转发给后台的数据库,并且通过使用lua脚本 ,可以实现复杂的连接控制和过滤,从而实现读写分离和负载平衡。对于应用来说,MySQL Proxy是完全透明的,应用则只需要连接到MySQL Proxy的监听端口即可。当然,这样proxy机器可能成为单点失效,但完全可以使用多个proxy机器做为冗余,在应用服务器的连接池配置中配置到多个proxy的连接参数即可。
典型配置案例:
1、最基础的应用,代理单个数据库服务器,这样就可以通过4040端口访问mysql数据库。
mysql-proxy –proxy-backend-addresses=192.168.18.110:3306
2、连接多个数据库服务器,假如A and B. 第一个客户端连接到 A,第二个连接到 B。
如果有一台停止服务时,代理会自动检测到,有新连接时会自动连接到一台正常的数据库。
mysql-proxy \
–proxy-backend-addresses=narcissus:3306 \
–proxy-backend-addresses=nostromo:3306
3、数据库读写分离,192.168.18.110负责写入,192.168.18.107负责读取数据,当然也可以再增加读取数据的服务器。
mysql-proxy \
–proxy-backend-addresses=192.168.18.110:3306 \
–proxy-read-only-backend-addresses=192.168.18.107:3306
这种方式常被理解为可以读写分离了,但是实际不是的。mysql-proxy不能区分哪些是发往从服务器的,还需要自己用脚本控制,见第四种方式。
4、 Lua 脚本能很好的控制连接和分布, 以及查询及返回的结果集.
使用Lua脚本时,必须使用 –proxy-lua-script 指定脚本的名称。
直到产生连接的时候才会读取脚本,也就是修改脚本后不用重新启动服务。
mysql-proxy –proxy-lua-script=rw-splitting.lua –proxy-backend-addresses=192.168.18.110:3306 –proxy-read-only-backend-addresses=192.168.18.107:3306
注意的问题:
1、proxy的读写分离机制是先把最初的几条查询发到master上建立连接,
当发送到master上的查询数超过连接池的最小值时开始把查询
2、LAST_INSERT_ID不能发送到主服务器上, 226 行修改为下面的就可以了
elseif not is_insert_id and token.token_name == “TK_FUNCTION” then
3、使用默认的rw-splitting.lua时,会提示找不到proxy-command,我把mysql-proxy的路径设置为系统路径,然后在 share目录下运行就一切Ok了,在运行中输入cmd,然后cd C:\tools\mysql-proxy\share。
4、字符乱码
通过proxy连上数据库之后,查到的字符串始终是乱码,即便手工执行了set names ‘utf8′也没有效果。
解决办法,mysql server必须设置
1.[mysqld]
2.skip-character-set-client-handshake
3. init-connect=’SET NAMES utf8′
4. default-character-set=utf8
- public function isReadOperation($sql) {
- return preg_match('/^\s*(SELECT|SHOW|DESC|PRAGMA)\s+/i',$sql);
- }
public function isReadOperation($sql) { return preg_match('/^\s*(SELECT|SHOW|DESC|PRAGMA)\s+/i',$sql); }
php读写分离类
- <?php
- /****************************************
- *** mysql-rw-php version 0.1 @ 2009-4-16
- *** code by hqlulu#gmail.com
- *** http://www.aslibra.com
- *** http://code.google.com/p/mysql-rw-php/
- *** code modify from class_mysql.php (uchome)
- ****************************************/
- class mysql_rw_php {
- //查询个数
- var $querynum = 0;
- //当前操作的数据库连接
- var $link = null;
- //字符集
- var $charset;
- //当前数据库
- var $cur_db = '';
- //是否存在有效的只读数据库连接
- var $ro_exist = false;
- //只读数据库连接
- var $link_ro = null;
- //读写数据库连接
- var $link_rw = null;
- function mysql_rw_php(){
- }
- function connect($dbhost, $dbuser, $dbpw, $dbname = '', $pconnect = 0, $halt = TRUE) {
- if($pconnect) {
- if(!$this->link = @mysql_pconnect($dbhost, $dbuser, $dbpw)) {
- $halt && $this->halt('Can not connect to MySQL server');
- }
- } else {
- if(!$this->link = @mysql_connect($dbhost, $dbuser, $dbpw)) {
- $halt && $this->halt('Can not connect to MySQL server');
- }
- }
- //只读连接失败
- if(!$this->link && !$halt) return false;
- //未初始化rw时,第一个连接作为rw
- if($this->link_rw == null)
- $this->link_rw = $this->link;
- if($this->version() > '4.1') {
- if($this->charset) {
- @mysql_query("SET character_set_connection=$this->charset, character_set_results=$this->charset, character_set_client=binary", $this->link);
- }
- if($this->version() > '5.0.1') {
- @mysql_query("SET sql_mode=''", $this->link);
- }
- }
- if($dbname) {
- $this->select_db($dbname);
- }
- }
- //连接一个只读的mysql数据库
- function connect_ro($dbhost, $dbuser, $dbpw, $dbname = '', $pconnect = 0){
- if($this->link_rw == null)
- $this->link_rw = $this->link;
- $this->link = null;
- //不产生halt错误
- $this->connect($dbhost, $dbuser, $dbpw, $dbname, $pconnect, false);
- if($this->link){
- //连接成功
- //echo "link ro sussess!<br>";
- $this->ro_exist = true;
- $this->link_ro = $this->link;
- if($this->cur_db){
- //如果已经选择过数据库则需要操作一次
- @mysql_select_db($this->cur_db, $this->link_ro);
- }
- }else{
- //连接失败
- //echo "link ro failed!<br>";
- $this->link = &$this->link_rw;
- }
- }
- //设置一系列只读数据库并且连接其中一个
- function set_ro_list($ro_list){
- if(is_array($ro_list)){
- //随机选择其中一个
- $link_ro = $ro_list[array_rand($ro_list)];
- $this->connect_ro($link_ro['dbhost'], $link_ro['dbuser'], $link_ro['dbpw']);
- }
- }
- function select_db($dbname) {
- //同时操作两个数据库连接
- $this->cur_db = $dbname;
- if($this->ro_exist){
- @mysql_select_db($dbname, $this->link_ro);
- }
- return @mysql_select_db($dbname, $this->link_rw);
- }
- function fetch_array($query, $result_type = MYSQL_ASSOC) {
- return mysql_fetch_array($query, $result_type);
- }
- function fetch_one_array($sql, $type = '') {
- $qr = $this->query($sql, $type);
- return $this->fetch_array($qr);
- }
- function query($sql, $type = '') {
- $this->link = &$this->link_rw;
- //判断是否select语句
- if($this->ro_exist && preg_match ("/^(\s*)select/i", $sql)){
- $this->link = &$this->link_ro;
- }
- $func = $type == 'UNBUFFERED' && @function_exists('mysql_unbuffered_query') ?
- 'mysql_unbuffered_query' : 'mysql_query';
- if(!($query = $func($sql, $this->link)) && $type != 'SILENT') {
- $this->halt('MySQL Query Error', $sql);
- }
- $this->querynum++;
- return $query;
- }
- function affected_rows() {
- return mysql_affected_rows($this->link);
- }
- function error() {
- return (($this->link) ? mysql_error($this->link) : mysql_error());
- }
- function errno() {
- return intval(($this->link) ? mysql_errno($this->link) : mysql_errno());
- }
- function result($query, $row) {
- $query = @mysql_result($query, $row);
- return $query;
- }
- function num_rows($query) {
- $query = mysql_num_rows($query);
- return $query;
- }
- function num_fields($query) {
- return mysql_num_fields($query);
- }
- function free_result($query) {
- return mysql_free_result($query);
- }
- function insert_id() {
- return ($id = mysql_insert_id($this->link)) >= 0 ? $id : $this->result($this->query("SELECT last_insert_id()"), 0);
- }
- function fetch_row($query) {
- $query = mysql_fetch_row($query);
- return $query;
- }
- function fetch_fields($query) {
- return mysql_fetch_field($query);
- }
- function version() {
- return mysql_get_server_info($this->link);
- }
- function close() {
- return mysql_close($this->link);
- }
- function halt($message = '', $sql = '') {
- $dberror = $this->error();
- $dberrno = $this->errno();
- echo "<div style=\"position:absolute;font-size:11px;font-family:verdana,arial;background:#EBEBEB;padding:0.5em;\">
- <b>MySQL Error</b><br>
- <b>Message</b>: $message<br>
- <b>SQL</b>: $sql<br>
- <b>Error</b>: $dberror<br>
- <b>Errno.</b>: $dberrno<br>
- </div>";
- exit();
- }
- }
- ?>
<?php /**************************************** *** mysql-rw-php version 0.1 @ 2009-4-16 *** code by hqlulu#gmail.com *** http://www.aslibra.com *** http://code.google.com/p/mysql-rw-php/ *** code modify from class_mysql.php (uchome) ****************************************/ class mysql_rw_php { //查询个数 var $querynum = 0; //当前操作的数据库连接 var $link = null; //字符集 var $charset; //当前数据库 var $cur_db = ''; //是否存在有效的只读数据库连接 var $ro_exist = false; //只读数据库连接 var $link_ro = null; //读写数据库连接 var $link_rw = null; function mysql_rw_php(){ } function connect($dbhost, $dbuser, $dbpw, $dbname = '', $pconnect = 0, $halt = TRUE) { if($pconnect) { if(!$this->link = @mysql_pconnect($dbhost, $dbuser, $dbpw)) { $halt && $this->halt('Can not connect to MySQL server'); } } else { if(!$this->link = @mysql_connect($dbhost, $dbuser, $dbpw)) { $halt && $this->halt('Can not connect to MySQL server'); } } //只读连接失败 if(!$this->link && !$halt) return false; //未初始化rw时,第一个连接作为rw if($this->link_rw == null) $this->link_rw = $this->link; if($this->version() > '4.1') { if($this->charset) { @mysql_query("SET character_set_connection=$this->charset, character_set_results=$this->charset, character_set_client=binary", $this->link); } if($this->version() > '5.0.1') { @mysql_query("SET sql_mode=''", $this->link); } } if($dbname) { $this->select_db($dbname); } } //连接一个只读的mysql数据库 function connect_ro($dbhost, $dbuser, $dbpw, $dbname = '', $pconnect = 0){ if($this->link_rw == null) $this->link_rw = $this->link; $this->link = null; //不产生halt错误 $this->connect($dbhost, $dbuser, $dbpw, $dbname, $pconnect, false); if($this->link){ //连接成功 //echo "link ro sussess!<br>"; $this->ro_exist = true; $this->link_ro = $this->link; if($this->cur_db){ //如果已经选择过数据库则需要操作一次 @mysql_select_db($this->cur_db, $this->link_ro); } }else{ //连接失败 //echo "link ro failed!<br>"; $this->link = &$this->link_rw; } } //设置一系列只读数据库并且连接其中一个 function set_ro_list($ro_list){ if(is_array($ro_list)){ //随机选择其中一个 $link_ro = $ro_list[array_rand($ro_list)]; $this->connect_ro($link_ro['dbhost'], $link_ro['dbuser'], $link_ro['dbpw']); } } function select_db($dbname) { //同时操作两个数据库连接 $this->cur_db = $dbname; if($this->ro_exist){ @mysql_select_db($dbname, $this->link_ro); } return @mysql_select_db($dbname, $this->link_rw); } function fetch_array($query, $result_type = MYSQL_ASSOC) { return mysql_fetch_array($query, $result_type); } function fetch_one_array($sql, $type = '') { $qr = $this->query($sql, $type); return $this->fetch_array($qr); } function query($sql, $type = '') { $this->link = &$this->link_rw; //判断是否select语句 if($this->ro_exist && preg_match ("/^(\s*)select/i", $sql)){ $this->link = &$this->link_ro; } $func = $type == 'UNBUFFERED' && @function_exists('mysql_unbuffered_query') ? 'mysql_unbuffered_query' : 'mysql_query'; if(!($query = $func($sql, $this->link)) && $type != 'SILENT') { $this->halt('MySQL Query Error', $sql); } $this->querynum++; return $query; } function affected_rows() { return mysql_affected_rows($this->link); } function error() { return (($this->link) ? mysql_error($this->link) : mysql_error()); } function errno() { return intval(($this->link) ? mysql_errno($this->link) : mysql_errno()); } function result($query, $row) { $query = @mysql_result($query, $row); return $query; } function num_rows($query) { $query = mysql_num_rows($query); return $query; } function num_fields($query) { return mysql_num_fields($query); } function free_result($query) { return mysql_free_result($query); } function insert_id() { return ($id = mysql_insert_id($this->link)) >= 0 ? $id : $this->result($this->query("SELECT last_insert_id()"), 0); } function fetch_row($query) { $query = mysql_fetch_row($query); return $query; } function fetch_fields($query) { return mysql_fetch_field($query); } function version() { return mysql_get_server_info($this->link); } function close() { return mysql_close($this->link); } function halt($message = '', $sql = '') { $dberror = $this->error(); $dberrno = $this->errno(); echo "<div style=\"position:absolute;font-size:11px;font-family:verdana,arial;background:#EBEBEB;padding:0.5em;\"> <b>MySQL Error</b><br> <b>Message</b>: $message<br> <b>SQL</b>: $sql<br> <b>Error</b>: $dberror<br> <b>Errno.</b>: $dberrno<br> </div>"; exit(); } } ?>
调用方法
- <?php
- /****************************************
- *** mysql-rw-php version 0.1 @ 2009-4-16
- *** code by hqlulu#gmail.com
- *** http://www.aslibra.com
- *** http://code.google.com/p/mysql-rw-php/
- *** code modify from class_mysql.php (uchome)
- ****************************************/
- require_once('mysql_rw_php.class.php');
- //rw info
- $db_rw = array(
- 'dbhost'=>'www.aslibra.com',
- 'dbuser'=>'aslibra',
- 'dbpw'=>'www.aslibra.com',
- 'dbname'=>'test'
- );
- $db_ro = array(
- array(
- 'dbhost'=>'www.aslibra.com:4306',
- 'dbuser'=>'aslibra',
- 'dbpw'=>'www.aslibra.com'
- )
- );
- $DB = new mysql_rw_php;
- //connect Master
- $DB->connect($db_rw[dbhost], $db_rw[dbuser], $db_rw[dbpw], $db_rw[dbname]);
- //Method 1: connect one server
- $DB->connect_ro($db_ro[0][dbhost], $db_ro[0][dbuser], $db_ro[0][dbpw]);
- //Method 2: connect one server from a list by rand
- $DB->set_ro_list($db_ro);
- //send to rw
- $sql = "insert into a set a='test'";
- $DB->query($sql);
- //send to ro
- $sql = "select * from a";
- $qr = $DB->query($sql);
- while($row = $DB->fetch_array($qr)){
- echo $row[a];
- }
- ?>
<?php /**************************************** *** mysql-rw-php version 0.1 @ 2009-4-16 *** code by hqlulu#gmail.com *** http://www.aslibra.com *** http://code.google.com/p/mysql-rw-php/ *** code modify from class_mysql.php (uchome) ****************************************/ require_once('mysql_rw_php.class.php'); //rw info $db_rw = array( 'dbhost'=>'www.aslibra.com', 'dbuser'=>'aslibra', 'dbpw'=>'www.aslibra.com', 'dbname'=>'test' ); $db_ro = array( array( 'dbhost'=>'www.aslibra.com:4306', 'dbuser'=>'aslibra', 'dbpw'=>'www.aslibra.com' ) ); $DB = new mysql_rw_php; //connect Master $DB->connect($db_rw[dbhost], $db_rw[dbuser], $db_rw[dbpw], $db_rw[dbname]); //Method 1: connect one server $DB->connect_ro($db_ro[0][dbhost], $db_ro[0][dbuser], $db_ro[0][dbpw]); //Method 2: connect one server from a list by rand $DB->set_ro_list($db_ro); //send to rw $sql = "insert into a set a='test'"; $DB->query($sql); //send to ro $sql = "select * from a"; $qr = $DB->query($sql); while($row = $DB->fetch_array($qr)){ echo $row[a]; } ?>
发表评论
-
Python and RRD
2012-09-06 15:08 1562RRD是Round Robin Database的意思,R ... -
MySQL Master-Slave架构下使用MMM的必要性
2011-12-20 20:40 1173MySQL本身没有提供replicat ... -
分库分表(sharding)后主键全局唯一性的解决方案
2011-11-24 20:20 2915http://www.mysqlab.net/blog ... -
shared everything、shared nothing、shared thing
2011-10-30 22:04 0http://blog.itpub.net/post/3859 ... -
Greenplum高性能数据引擎探秘
2011-10-30 15:15 1341[导读]高性能数据引擎也都是基于这两个方面的来最求高效:“大规 ... -
为什么要用非关系数据库 why NoSQL ?
2011-10-30 14:48 1196随着互联网web2.0网站的兴起,非关系型的数据库现在成了一个 ... -
为何传统关系数据库会黯然失色
2011-10-30 14:28 939http://database.51cto.com/art/2 ... -
分布式关系数据库管理系统(RDBMS)的八大要素
2011-10-27 11:43 2132同信息系统操作核心 ... -
谭俊青:MySQL vs NoSQL 效率与成本之争,Memcached和MySQL
2011-09-22 22:20 1724http://www.mysqlab.net/bl ... -
数据库水平切分的实现原理解析---分库,分表,主从,集群,负载均衡器
2011-06-18 22:47 1583关键字: 水平切分,分库,分表,主从,集群 第1章 ... -
Oracle redo undo commit rollback剖析
2011-05-18 22:34 1458redo--> undo-->datafil ... -
深入理解数据库日志系统原理
2011-05-17 22:19 1019一:事务系统 1. 事务的工作模型 事务必须满足 ... -
满足极高读写性能需求的Key-Value数据库
2011-03-31 09:59 3482TokyoTyrantMemcacheDBTreapDBRed ... -
丢失的修改、不可重复读、读脏数据、幻影读
2011-01-14 15:31 46802.2 SQL Server 2000+ADO. ... -
数据库提供了四种事务隔离级别
2011-01-14 13:31 2040sql server锁的机制 锁有两种分类 ...
相关推荐
11. **负载均衡**:配合Nginx或LVS等负载均衡器,动态分配请求到不同的服务器,确保资源充分利用且无单点故障。 12. **数据库连接池**:使用连接池管理数据库连接,避免频繁创建和关闭连接带来的开销。 通过以上...
数据库的读写分离是提高性能的常见手段,MySQL Proxy可实现这一功能,包括负载均衡、故障切换、查询分析和读写分离。数据库分片(Sharding)进一步提升了处理能力,分为水平分区和垂直分区。水平分区是根据特定字段...
数据库的读写分离是一种常见的优化手段,通过使用MySQL Proxy等工具,可以实现负载均衡、故障切换和查询分析,同时将读操作和写操作分散到不同的数据库服务器,减轻主数据库的压力。读写分离还可以进一步细分为水平...
读写分离是一种常见做法,通过MySQL Proxy等工具,可以实现负载均衡、故障切换和查询分析。此外,读写分离还可以通过R/W Splitting来进一步提高性能,将读操作和写操作分发到不同的数据库实例上。 数据库Sharding是...
数据库的读写分离是提高性能的一个常见做法,如MySQL Proxy可以实现这一功能,提供负载均衡、故障切换和查询分析。此外,Sharding是一种有效的数据分区方法,分为水平分区和垂直分区。水平分区通常应用于web 2.0网站...
大规模网站架构是一门复杂的学问,涉及多个方面,包括但不限于高性能、高可用性、可伸缩性、负载均衡、故障转移、读写分离、数据库分片等。以下是针对给出的内容点进行的详细知识点介绍。 首先,架构师在设计大规模...
数据库读写分离是一种常见的优化手段,例如通过MySQL Proxy来实现,它能够进行负载均衡、故障切换和查询分析,以及读写分离。数据库分片(Sharding)是另一种扩展策略,分为水平分区和垂直分区。水平分区将数据按照...
**读写分离**通过使用代理如MySQL Proxy,可以实现负载均衡、故障切换和查询分析,以及读写操作的分离,从而提升性能。**分片(Sharding)**是另一种扩展数据库的方法,分为**水平分片**和**垂直分片**。水平分片是...
合理地选择技术栈、设计高性能的架构、优化数据库性能、利用消息队列解耦系统以及实现高效的负载均衡等都是构建成功的大规模网站不可或缺的因素。此外,还需要持续关注新技术的发展,并不断优化现有系统,以适应不断...