`
dannyhz
  • 浏览: 397885 次
  • 性别: Icon_minigender_1
  • 来自: 杭州
文章分类
社区版块
存档分类
最新评论

Spring 配置多数据源实现数据库读写分离

 
阅读更多
http://uule.iteye.com/blog/2126533

完整的spring 配置多数据源实现读写分离的模式

引用

现在大型的电子商务系统,在数据库层面大都采用读写分离技术,就是一个Master数据库,多个Slave数据库。Master库负责数据更新和实时数据查询,Slave库当然负责非实时数据查询。因为在实际的应用中,数据库都是读多写少(读取数据的频率高,更新数据的频率相对较少),而读取数据通常耗时比较长,占用数据库服务器的CPU较多,从而影响用户体验。我们通常的做法就是把查询从主库中抽取出来,采用多个从库,使用负载均衡,减轻每个从库的查询压力。

  采用读写分离技术的目标:有效减轻Master库的压力,又可以把用户查询数据的请求分发到不同的Slave库,从而保证系统的健壮性。我们看下采用读写分离的背景。

  随着网站的业务不断扩展,数据不断增加,用户越来越多,数据库的压力也就越来越大,采用传统的方式,比如:数据库或者SQL的优化基本已达不到要求,这个时候可以采用读写分离的策 略来改变现状。

  具体到开发中,如何方便的实现读写分离呢?目前常用的有两种方式:

  1 第一种方式是我们最常用的方式,就是定义2个数据库连接,一个是MasterDataSource,另一个是SlaveDataSource。更新数据时我们读取MasterDataSource,查询数据时我们读取SlaveDataSource。这种方式很简单,我就不赘述了。

  2 第二种方式动态数据源切换,就是在程序运行时,把数据源动态织入到程序中,从而选择读取主库还是从库。主要使用的技术是:annotation,Spring AOP ,反射。下面会详细的介绍实现方式。

   在介绍实现方式之前,我们先准备一些必要的知识,spring 的AbstractRoutingDataSource 类

     AbstractRoutingDataSource这个类 是spring2.0以后增加的,我们先来看下AbstractRoutingDataSource的定义:
Java代码  收藏代码
public abstract class AbstractRoutingDataSource extends AbstractDataSource implements InitializingBean  {} 

Java代码  收藏代码
public abstract class AbstractRoutingDataSource extends AbstractDataSource implements InitializingBean { 
 
    private Map<Object, Object> targetDataSources; 
 
    private Object defaultTargetDataSource; 
 
    private DataSourceLookup dataSourceLookup = new JndiDataSourceLookup(); 
 
    private Map<Object, DataSource> resolvedDataSources; 
 
    private DataSource resolvedDefaultDataSource; 

    AbstractRoutingDataSource继承了AbstractDataSource ,而AbstractDataSource 又是DataSource 的子类。
DataSource   是javax.sql 的数据源接口,定义如下:
Java代码  收藏代码
public interface DataSource  extends CommonDataSource,Wrapper { 
 
  Connection getConnection() throws SQLException; 
  
  Connection getConnection(String username, String password) 
    throws SQLException; 

DataSource 接口定义了2个方法,都是获取数据库连接。我们在看下AbstractRoutingDataSource 如何实现了DataSource接口:

Java代码  收藏代码
public Connection getConnection() throws SQLException { 
    return determineTargetDataSource().getConnection(); 

 
public Connection getConnection(String username, String password) throws SQLException { 
    return determineTargetDataSource().getConnection(username, password); 

很显然就是调用自己的determineTargetDataSource()  方法获取到connection。determineTargetDataSource方法定义如下:

Java代码  收藏代码
protected DataSource determineTargetDataSource() { 
        Assert.notNull(this.resolvedDataSources, "DataSource router not initialized"); 
        Object lookupKey = determineCurrentLookupKey(); 
        DataSource dataSource = this.resolvedDataSources.get(lookupKey); 
        if (dataSource == null && (this.lenientFallback || lookupKey == null)) { 
            dataSource = this.resolvedDefaultDataSource; 
        } 
        if (dataSource == null) { 
            throw new IllegalStateException("Cannot determine target DataSource for lookup key [" + lookupKey + "]"); 
        } 
        return dataSource; 
    } 

我们最关心的还是下面2句话:
  Object lookupKey = determineCurrentLookupKey();
    DataSource dataSource = this.resolvedDataSources.get(lookupKey);

    determineCurrentLookupKey方法返回lookupKey,resolvedDataSources方法就是根据lookupKey从Map中获得数据源。resolvedDataSources 和determineCurrentLookupKey定义如下:

  private Map<Object, DataSource> resolvedDataSources;
  protected abstract Object determineCurrentLookupKey()

  看到以上定义,我们是不是有点思路了,resolvedDataSources是Map类型,我们可以把MasterDataSource和SlaveDataSource存到Map中,如下:

    key        value
    master           MasterDataSource
    slave              SlaveDataSource

  我们在写一个类DynamicDataSource  继承AbstractRoutingDataSource,实现其determineCurrentLookupKey() 方法,该方法返回Map的key,master或slave。


  好了,说了这么多,有点烦了,下面我们看下怎么实现。

 上面已经提到了我们要使用的技术,我们先看下annotation的定义:
Java代码  收藏代码
@Retention(RetentionPolicy.RUNTIME) 
@Target(ElementType.METHOD) 
public @interface DataSource { 
    String value(); 


    我们还需要实现spring的抽象类AbstractRoutingDataSource,就是实现determineCurrentLookupKey方法:
Java代码  收藏代码
public class DynamicDataSource extends AbstractRoutingDataSource { 
 
    @Override 
    protected Object determineCurrentLookupKey() { 
        // TODO Auto-generated method stub 
        return DynamicDataSourceHolder.getDataSouce(); 
    } 
 

 
 
public class DynamicDataSourceHolder { 
    public static final ThreadLocal<String> holder = new ThreadLocal<String>(); 
 
    public static void putDataSource(String name) { 
        holder.set(name); 
    } 
 
    public static String getDataSouce() { 
        return holder.get(); 
    } 


    从DynamicDataSource 的定义看出,他返回的是DynamicDataSourceHolder.getDataSouce()值,我们需要在程序运行时调用DynamicDataSourceHolder.putDataSource()方法,对其赋值。下面是我们实现的核心部分,也就是AOP部分,DataSourceAspect定义如下:
Java代码  收藏代码
public class DataSourceAspect { 
 
    public void before(JoinPoint point) 
    { 
        Object target = point.getTarget(); 
        String method = point.getSignature().getName(); 
 
        Class<?>[] classz = target.getClass().getInterfaces(); 
 
        Class<?>[] parameterTypes = ((MethodSignature) point.getSignature()) 
                .getMethod().getParameterTypes(); 
        try { 
            Method m = classz[0].getMethod(method, parameterTypes); 
            if (m != null && m.isAnnotationPresent(DataSource.class)) { 
                DataSource data = m 
                        .getAnnotation(DataSource.class); 
                DynamicDataSourceHolder.putDataSource(data.value()); 
                System.out.println(data.value()); 
            } 
             
        } catch (Exception e) { 
            // TODO: handle exception 
        } 
    } 


    为了方便测试,我定义了2个数据库,shop模拟Master库,test模拟Slave库,shop和test的表结构一致,但数据不同,数据库配置如下:
Xml代码  收藏代码
<bean id="masterdataSource" 
        class="org.springframework.jdbc.datasource.DriverManagerDataSource"> 
        <property name="driverClassName" value="com.mysql.jdbc.Driver" /> 
        <property name="url" value="jdbc:mysql://127.0.0.1:3306/shop" /> 
        <property name="username" value="root" /> 
        <property name="password" value="yangyanping0615" /> 
    </bean> 
 
    <bean id="slavedataSource" 
        class="org.springframework.jdbc.datasource.DriverManagerDataSource"> 
        <property name="driverClassName" value="com.mysql.jdbc.Driver" /> 
        <property name="url" value="jdbc:mysql://127.0.0.1:3306/test" /> 
        <property name="username" value="root" /> 
        <property name="password" value="yangyanping0615" /> 
    </bean> 
     
        <beans:bean id="dataSource" class="com.air.shop.common.db.DynamicDataSource"> 
        <property name="targetDataSources">   
              <map key-type="java.lang.String">   
                  <!-- write --> 
                 <entry key="master" value-ref="masterdataSource"/>   
                 <!-- read --> 
                 <entry key="slave" value-ref="slavedataSource"/>   
              </map>   
               
        </property>   
        <property name="defaultTargetDataSource" ref="masterdataSource"/>   
    </beans:bean> 
 
    <bean id="transactionManager" 
        class="org.springframework.jdbc.datasource.DataSourceTransactionManager"> 
        <property name="dataSource" ref="dataSource" /> 
    </bean> 
 
 
    <!-- 配置SqlSessionFactoryBean --> 
    <bean id="sqlSessionFactory" class="org.mybatis.spring.SqlSessionFactoryBean"> 
        <property name="dataSource" ref="dataSource" /> 
        <property name="configLocation" value="classpath:config/mybatis-config.xml" /> 
    </bean> 

  在spring的配置中增加aop配置
Xml代码  收藏代码
<!-- 配置数据库注解aop --> 
    <aop:aspectj-autoproxy></aop:aspectj-autoproxy> 
    <beans:bean id="manyDataSourceAspect" class="com.air.shop.proxy.DataSourceAspect" /> 
    <aop:config> 
        <aop:aspect id="c" ref="manyDataSourceAspect"> 
            <aop:pointcut id="tx" expression="execution(* com.air.shop.mapper.*.*(..))"/> 
            <aop:before pointcut-ref="tx" method="before"/> 
        </aop:aspect> 
    </aop:config> 
    <!-- 配置数据库注解aop --> 

   下面是MyBatis的UserMapper的定义,为了方便测试,登录读取的是Master库,用户列表读取Slave库:
Java代码  收藏代码
public interface UserMapper { 
    @DataSource("master") 
    public void add(User user); 
 
    @DataSource("master") 
    public void update(User user); 
 
    @DataSource("master") 
    public void delete(int id); 
 
    @DataSource("slave") 
    public User loadbyid(int id); 
 
    @DataSource("master") 
    public User loadbyname(String name); 
     
    @DataSource("slave") 
    public List<User> list(); 



   好了,运行我们的Eclipse看看效果,输入用户名admin 登录看看效果





从图中可以看出,登录的用户和用户列表的数据是不同的,也验证了我们的实现,登录读取Master库,用户列表读取Slave库。
例子来源:
http://www.cnblogs.com/surge/p/3582248.html


二、配置动态数据源
Xml代码  收藏代码
  <bean id="dataSource" class="org.springframework.jndi.JndiObjectFactoryBean"> 
    <property name="jndiName"> 
        <value>java:/datasources/visesbdb</value> 
    </property> 
  </bean> 
   
  <!-- config dynamicDataSource --> 
  <bean id="dynamicDataSource" class="com.myporject.common.datasource.MutiDataSourceBean"> 
<property name="targetDataSources"> 
    <map key-type="java.lang.String"> 
        <entry value-ref="dataSource" key="dataSource"></entry> 
    </map> 
</property> 
    <property name="defaultTargetDataSource" ref="dataSource"></property> 
  </bean> 
   
  <bean class="org.springframework.dao.annotation.PersistenceExceptionTranslationPostProcessor"/> 
 
  <!-- Hibernate SessionFactory --> 
  <bean id="sessionFactory" class="org.springframework.orm.hibernate3.annotation.AnnotationSessionFactoryBean"> 
      <property name="dataSource" ref="dynamicDataSource"/> 
      <property name="packagesToScan"> 
        <list> 
            <value>com.myproject.bean</value> 
        </list> 
      </property> 
      <property name="hibernateProperties"> 
          <props> 
<prop key="connection.useUnicode">true</prop> 
<prop key="connection.characterEncoding">UTF-8</prop> 
<prop key="hibernate.dialect">${hibernate.dialect}</prop> 
<prop key="hibernate.hbm2ddl.auto">${hibernate.hbm2ddl.auto}</prop> 
<prop key="hibernate.show_sql">${hibernate.show_sql}</prop> 
<prop key="hibernate.format_sql">${hibernate.format_sql}</prop> 
<prop key="hibernate.cache.use_second_level_cache">${hibernate.cache.use_second_level_cache}</prop> 
<prop key="hibernate.cache.use_query_cache">${hibernate.cache.use_query_cache}</prop> 
   </props>             
      </property> 
  </bean> 
 
  <!-- Transaction manager for a single Hibernate SessionFactory (alternative to JTA) --> 
  <bean id="transactionManager" class="org.springframework.orm.hibernate3.HibernateTransactionManager"> 
      <property name="sessionFactory" ref="sessionFactory"/> 
  </bean> 

Java代码  收藏代码
/**
* 在applicationContext中配置本地数据源作为默认数据源
* 读取project-datasource-jndi.properties中的jndi名称获取其他节点的数据源
* 该文件放在D:\jboss-5.1.0.GA\server\default\conf\props 目录下
*
*/ 
public class MutiDataSourceBean extends AbstractRoutingDataSource implements ApplicationContextAware { 
 
    private static final Logger logger = LoggerFactory.getLogger(MutiDataSourceBean.class); 
 
    private static ApplicationContext ctx; 
     
    private Map<Object,Object> tds = new HashMap<Object,Object>(); 
 
    @Override 
    public void setApplicationContext(ApplicationContext applicationContext) 
            throws BeansException { 
        ctx = applicationContext; 
    } 
 
    @Override 
    protected Object determineCurrentLookupKey() { 
        return DataSourceContextHolder.getDataSourceType(); 
    } 
 
    //重写InitializingBean类中方法 
    @Override 
    public void afterPropertiesSet() { 
        logger.info("Init MutiDataSource start..."); 
        try { 
            initailizeMutiDataSource(); 
        } catch (Exception e) { 
            logger.error("Init MutiDataSource error...", e); 
        } 
        logger.info("Init MutiDataSource end..."); 
        super.afterPropertiesSet(); 
    } 
 
    /**
     * 读取配置文件中的jndi名称,获取数据源
     * @throws Exception
     */ 
    private void initailizeMutiDataSource() throws Exception { 
        // 读取数据源配置文件 
        ResourceBundle lw = ResourceBundle.getBundle("props.project-datasource-jndi"); 
         
        // 初始化jndi context 
        Context jndiCtx = new InitialContext(); 
         
        DefaultListableBeanFactory dlbf  = (DefaultListableBeanFactory) ctx.getAutowireCapableBeanFactory(); 
         
        // 获取配置的数据源 
        for(String key : lw.keySet()){ 
            Object ds = jndiCtx.lookup(lw.getString(key)); 
            // 将数据源交给spring管理 
            dlbf.registerSingleton(key, ds); 
             
            tds.put(key, ds); 
        } 
        super.setTargetDataSources(tds); 
    } 
 
    @Override 
    public void setTargetDataSources(Map<Object, Object> targetDataSources) { 
        tds = targetDataSources; 
        super.setTargetDataSources(targetDataSources); 
    } 
 


Java代码  收藏代码
/**
* 通过ThreadLocal来存储当前所使用数据源对应的key

*/ 
public class DataSourceContextHolder { 
 
    private static final ThreadLocal<String> contextHolder = new ThreadLocal<String>(); 
 
    public static void setDataSourceType(String dataSourceType) { 
        contextHolder.set(dataSourceType); 
    } 
 
    public static String getDataSourceType() { 
        return contextHolder.get(); 
    } 
 
    public static void clearDataSourceType() { 
        contextHolder.remove(); 
    } 


查询前设置值:
Java代码  收藏代码
MutiDataSourceUtil.determineTargetDataSourceByInstanceUUID(EsbServiceInstanceV.getInstanceUUID()); 
        Map<String,Object> result = esbServiceMonitorDao.findEsbServiceInstanceVPagedList(pageQueryParameter, EsbServiceInstanceV); 
        // reset datasource 
        DataSourceContextHolder.clearDataSourceType(); 

Java代码  收藏代码
public class MutiDataSourceUtil { 
     
    /**
     * 通过实例UUID切换到对应的数据源
     * 
     * @param instanceUUID
     */ 
    public static void determineTargetDataSourceByInstanceUUID(String instanceUUID) { 
        if(StringUtils.isNotBlank(instanceUUID) && StringUtils.contains(instanceUUID, '-')){ 
            DataSourceContextHolder.setDataSourceType(StringUtils.substringBefore(instanceUUID, "-")); 
        } 
    } 
 


lightesb-datasource-jndi.properties:
Xml代码  收藏代码
N1=java:/datasources/visesbdb 
N2=java:/datasources/n2visesbdb 

实例号如:
N1-AB2DFE3C48BA43D699529868B20152CC



分享到:
评论

相关推荐

    springaop多数据库读写分离

    要实现Spring AOP的多数据库读写分离,我们需要以下步骤: 1. **配置数据源**:首先,我们需要配置多个数据源,一个作为主库(处理写操作),另一个或多个作为从库(处理读操作)。这可以通过Spring的`...

    Springcloud 多数库 多数据源整合,查询动态切换数据库

    在Spring Boot和Spring Cloud的背景下,我们可以通过Spring的多数据源配置来实现这一目标。 1. **配置多数据源**:Spring Boot提供了DataSourceAutoConfiguration,它允许我们配置多个数据源。每个数据源可以有自己...

    在应用层透过spring解决数据库读写分离

    在应用层解决数据库读写分离可以通过Spring框架来实现,使用Spring的AOP机制和动态数据源来实现读写分离。该方案支持一读多写,写操作默认读取主库,读操作读取从库。 核心组件 * `...

    Spring实现数据库读写分离代码

    通过以上分析,我们可以看出,Spring、Spring MVC、MyBatis和MySQL的组合,为实现数据库读写分离提供了一种高效且灵活的解决方案。理解并掌握这些知识点,对于提升系统的稳定性和性能具有重要的意义。

    Spring配置动态数据源实现读写分离的方法

    在Spring框架中,实现数据库的读写分离是提高系统性能的一种常见策略,它可以将读操作和写操作分散到不同的数据源上,减轻主数据库的压力。本文将详细介绍如何利用Spring配置动态数据源来实现这一功能。 首先,我们...

    Spring实现数据库读写分离

    在数据库读写分离的场景下,Spring可以通过配置不同的数据源,实现对主从库的管理和切换。例如,通过`@Qualifier`注解来指定使用哪个数据源,或者利用AOP在特定方法上动态切换。 3. **MyBatis**:MyBatis是一个优秀...

    springboot+mybatis+druid+redis实现数据库读写分离和缓存

    在数据库读写分离的场景下,MyBatis可以灵活地配置数据源,分别处理读操作和写操作。 3. **Druid**:Druid是阿里巴巴开源的数据库连接池实现,它具有监控、扩展性好、性能优秀等特点。在读写分离的架构中,Druid...

    springmvc-mybatis 整合druid多数据源配置读写实现读写分离,windows上mysql主从复制

    Druid的多数据源配置可以方便地实现这一目标。以下是一个基本的配置示例: ```xml &lt;!-- 配置主库连接信息 --&gt; &lt;!-- 配置从库连接信息 --&gt; &lt;bean id="transactionManager" class="org.springframework.jdbc....

    spring的自动获取数据源,实现读写分离

    在Spring框架中,数据源的自动获取...总之,Spring框架提供了强大的工具和机制来自动配置数据源以及实现读写分离。通过灵活地利用这些功能,开发者可以构建出高效、健壮的数据库应用,同时提升系统的可扩展性和可用性。

    springboot实现mysql的读写分离的案例源码

    读写分离就是对于一条SQL该选择哪一个数据库去执行,至于谁来做选择数据库这件事,有两个,要么使用中间件帮我们做,要么程序自己做。一般来说,读写分离有两种实现方式。第一种是依靠中间件MyCat,也就是说应用程序...

    spring+springmvc+mybatis的整合以及数据库读写分离的测试

    在Spring和MyBatis的配置中,可以设置多个数据源,一个用于写操作(主库),另一个或多个用于读操作(从库)。在业务逻辑中,根据操作类型选择合适的数据源进行连接,通常通过事务管理器来实现。 在本项目中,...

    java spring mybaits 读写分离插,多数据源,数据库记录合并

    本篇文章将深入探讨如何利用Spring和MyBatis实现读写分离,以及如何进行多数据源管理与数据库记录合并。 首先,读写分离是数据库架构设计中的一个关键策略。它通过将高并发的读操作和相对较少的写操作分配到不同的...

    使用Spring实现读写分离(MySQL实现主从复制)

    在Spring框架下实现读写分离的核心在于通过AOP(面向切面编程)技术,在调用业务逻辑方法前根据一定的规则(如方法名前缀)来决定使用哪个数据源。具体实现包括以下几个步骤: 1. **定义动态数据源**:继承`...

    spring mybaitis 多数据源 多数据库连接资料及源代码.zip

    标题中的“spring mybaitis 多数据源 多数据库连接资料及源代码”表明了这个压缩包包含的内容是关于Spring框架与Mybatis框架在处理多数据源和多数据库连接方面的教程、文档以及源代码。这通常涉及到企业级应用中常见...

    源码主要用于学习通过SpringBoot结合AOP简单实现数据库读写分离,数据源使用Alibaba Druid,数据.zip

    在本项目中,我们主要探讨如何使用SpringBoot与AOP(面向切面编程)来实现一个简单的数据库读写分离方案,同时利用阿里巴巴的Druid数据源。数据库读写分离是提高系统性能和可扩展性的重要手段,它将读操作和写操作...

    sharding-jdbc多数据源,实现读写分离

    总结来说,Sharding-JDBC通过多数据源配置和读写分离策略,使得在MySQL环境下实现数据库的高效读写成为可能。它不仅简化了系统架构,也提高了应用的可扩展性和性能。对于大型互联网应用而言,合理地使用Sharding-...

    在应用层通过spring特性解决数据库读写分离代码

    通过以上步骤,你就可以在应用层利用Spring的特性实现数据库读写分离了。在实际项目中,还需要考虑其他的因素,如数据同步(如MySQL的binlog同步)、故障转移、负载均衡等。同时,合理地设计读写策略,避免在高并发...

    springboot +mybatis+oracle 配置多个数据源,配置两个数据库信息

    在Spring Boot项目中,我们经常会遇到需要连接多个数据库的需求,比如主从数据库、读写分离等场景。本配置示例将详细介绍如何在Spring Boot中整合MyBatis与Oracle数据库,并配置两个不同的数据源。 首先,我们需要...

    spring 动态多数据源配置代码

    Spring可以通过XML配置或Java配置来实现多数据源。Java配置更符合现代开发习惯,也更易于理解和维护。 3. **核心组件**: - `AbstractRoutingDataSource`:这是Spring提供的核心类,用于动态路由数据源。它会根据...

Global site tag (gtag.js) - Google Analytics