如何在spring框架中解决多数据源的问题

如何在spring框架中解决多数据源的问题,第1张

在 我们的项目中遇到这样一个问题:我们的项目需要连接多个数据库,而且不同的客户在每次访问中根据需要会去访问不同的数据库。我们以往 在 spring 和 hibernate 框架中总是配置一个数据源,因而 sessionFactory 的dataSource 属性总是指向这个 数据源并且恒定不变,所有 DAO 在使用 sessionFactory 的时候都是通过这个数据源访问数据库。但是现在,由于项目的需要,我们 的 DAO 在访问 sessionFactory 的时候都不得不在多个数据源中不断切换,问题就出现了:如何让 sessionFactory 在执 行数据持久化的时候,根据客户的需求能够动态切换不同的数据源?我们能不能在 spring 的框架下通过少量修改得到解决?是否有什么设计模式可以利用 呢?

问题的分析

我 首先想到在 spring 的 applicationContext 中配置所有的 dataSource 。这些 dataSource 可能是各种 不同类型的,比如不同的数据库: Oracle 、 SQL Server 、 MySQL 等,也可能是不同的数据源:比如 apache 提供的 orgapachecommonsdbcpBasicDataSource 、 spring 提供的 orgspringframeworkjndiJndiObjectFactoryBean 等。然后 sessionFactory 根据客户的 每次请求,将dataSource 属性设置成不同的数据源,以到达切换数据源的目的。

但 是,我很快发现一个问题:当多用户同时并发访问数据库的时候会出现资源争用的问题。这都是“单例模式”惹的祸。众所周知,我们在使用 spring 框架 的时候,在 beanFactory 中注册的 bean 基本上都是采用单例模式,即 spring 在启动的时候,这些 bean 就装载到内存中, 并且每个 bean 在整个项目中只存在一个对象。正因为只存在一个对象,对象的所有属性,更准确说是实例变量,表现得就如同是个静态变量(实际上“静 态”与“单例”往往是非常相似的两个东西,我们常常用“静态”来实现“单例”)。拿我们的问题来说, sessionFactory 在整个项目中只有一 个对象,它的实例变量 dataSource 也就只有一个,就如同一个静态变量一般。如果不同的用户都不断地去修改 dataSource 的值,必然 会出现多用户争用一个变量的问题,对系统产生隐患。

通过以上的分析,解决多数据源访问问题的关键,就集中在 sessionFactory 在执行数据持久化的时候,能够通过某段代码去根据客户的需要动态切换数据源,并解决资源争用的问题。

问题的解决

(一) 采用 Decorator 设计模式

要 解决这个问题,我的思路锁定在了这个 dataSource 上了。如果 sessionFactory 指向的 dataSource 可以根据客户的 需求去连接客户所需要的真正的数据源,即提供动态切换数据源的功能,那么问题就解决了。那么我们怎么做呢?去修改那些我们要使用 的 dataSource 源码吗?这显然不是一个好的方案,我们希望我们的修改与原dataSource 代码是分离的。根据以上的分析,使 用 GoF 设计模式中的 Decorator 模式(装饰者模式)应当是我们可以选择的最佳方案。

什 么是“ Decorator 模式”?简单点儿说就是当我们需要修改原有的功能,但我们又不愿直接去修改原有的代码时,设计一个 Decorator 套 在原有代码外面。当我们使用 Decorator 的时候与原类完全一样,当 Decorator 的某些功能却已经修改为了我们需要修改的功 能。 Decorator 模式的结构如图。

我 们本来需要修改图中所有具体的 Component 类的一些功能,但却并不是去直接修改它们的代码,而是在它们的外面增加一 个 Decorator 。 Decorator 与具体的 Component 类都是继承的 AbstractComponent ,因此它长得和具 体的 Component 类一样,也就是说我们在使用 Decorator 的时候就如同在使用 ConcreteComponentA 或者 ConcreteComponentB 一样,甚至那些使用 ConcreteComponentA 或者 ConcreteComponentB 的客 户程序都不知道它们用的类已经改为了 Decorator ,但是 Decorator 已经对具体的 Component 类的部分方法进行了修改,执 行这些方法的结果已经不同了。

(二) 设计 MultiDataSource 类

现 在回到我们的问题,我们需要对 dataSource 的功能进行变更,但又不希望修改 dataSource 中的任何代码。我这里指 的 dataSource 是所有实现 javaxsqlDataSource 接口的类,我们常用的包括 apache 提供的 orgapachecommonsdbcpBasicDataSource 、 spring 提供的 orgspringframeworkjndiJndiObjectFactoryBean 等,这些类我们不可能修改它们本身,更不可能对它们一 个个地修改以实现动态分配数据源的功能,同时,我们又希望使用 dataSource 的 sessionFactory 根本就感觉不到这样的变 化。 Decorator 模式就正是解决这个问题的设计模式。

首先写一个 Decorator 类,我取名叫 MultiDataSource,通过它来动态切换数据源 。同时在配置文件中将sessionFactory的dataSource属性由原来的某个具体的dataSource改为MultiDataSource。如图:

对 比原Decorator 模式, AbstractComponent 是一个抽象类,但在这里我们可以将这个抽象类用接口来代替,即 DataSource 接口,而 ConcreteComponent 就是那些 DataSource 的实现类, 如 BasicDataSource 、JndiObjectFactoryBean 等。 MultiDataSource 封装了具体的 dataSource,并实现了数据源动态切换:

java 代码

public class MultiDataSource implements DataSource {

private DataSource dataSource = null ;

public MultiDataSource(DataSource dataSource){

this dataSource = dataSource;

}

public Connection getConnection() throws SQLException {

return getDataSource()getConnection();

}

//其它DataSource接口应当实现的方法

public DataSource getDataSource(){

return this dataSource;

}

}

public void setDataSource(DataSource dataSource) {

this dataSource = dataSource;

}

}

客 户在发出请求的时候,将dataSourceName放到request中,然后把request中的数据源名通过调用 newMultiDataSource(dataSource) 时可以告诉 MultiDataSource 客户需要的数据源,就可以实现动态切换数 据源了。但细心的朋友会发现这在单例的情况下就是问题的,因为 MultiDataSource 在系统中只有一个对象,它的实例变 量 dataSource 也只有一个,就如同一个静态变量一般。正因为如此, 单例模式让许多设计模式都不得不需要更改,这将在我的《“单例”更改了我 们的设计模式》中详细讨论。那么,我们在单例模式下如何设计呢?

(三) 单例模式下的 MultiDataSource

在 单例模式下,由于我们在每次调用 MultiDataSource 的方法的时候, dataSource 都可能是不同的,所以我们不能 将 dataSource 放在实例变量 dataSource 中,最简单的方式就是在方法 getDataSource() 中增加参数,告 诉 MultiDataSource 我到底调用的是哪个 dataSource :

java 代码

public DataSource getDataSource(String dataSourceName){

logdebug( "dataSourceName:" +dataSourceName);

try {

if (dataSourceName== null ||dataSourceNameequals( "" )){

return this dataSource;

}

return (DataSource) this applicationContextgetBean(dataSourceName);

} catch (NoSuchBeanDefinitionException ex){

throw new DaoException( "There is not the dataSource

}

}

值得一提的是,我需要的数据源已经都在spring 的配置文件中注册, dataSourceName 就是其对应的 id 。

xml 代码

< bean id = "dataSource1"

class = "orgapachecommonsdbcpBasicDataSource" >

< property name = "driverClassName" >

< value > oraclejdbcdriverOracleDriver value >

property >

bean >

< bean id = "dataSource2"

class = "orgapachecommonsdbcpBasicDataSource" >

< property name = "driverClassName" >

< value > oraclejdbcdriverOracleDriver value >

property >

bean >

为了得到spring 的 ApplicationContext , MultiDataSource 类必须实现接口orgspringframeworkcontextApplicationContextAware ,并且实现方法:

java 代码

private ApplicationContext applicationContext = null ;

public void setApplicationContext(ApplicationContext applicationContext) throws BeansException {

this applicationContext = applicationContext;

}

如此这样,我就可以通过this applicationContext getBean(dataSourceName) 得到 dataSource 了。

(四) 通过线程传递 dataSourceName

查 看以上设计, MultiDataSource 依然无法运行,因为用户在发出请求时,他需要连接什么数据库,其数据源名是放在 request 中的, 要将 request 中的数据源名传给 MultiDataSource ,需要经过 BUS 和 DAO ,也就是说为了把数据源名传 给 MultiDataSource , BUS 和 DAO 的所有方法都要增加 dataSourceName 的参数,这是我们不愿看到的。写一个 类,通过线程的方式跳过 BUS 和 DAO 直接传递给 MultiDataSource 是一个不错的设计:

java 代码

public class SpObserver {

private static ThreadLocal local = new ThreadLocal();

public static void putSp(String sp) {

localset(sp);

}

public static String getSp() {

return (String)localget();

}

}

做一个filter ,每次客户发出请求的时候就调用 SpObserverpetSp ( dataSourceName ) ,将 request 中的dataSourceName 传递给 SpObserver 对象。 最后修改 MultiDataSource 的方法 getDataSource() :

java 代码

public DataSource getDataSource(){

String sp = SpObservergetSp();

return getDataSource(sp);

}

完整的MultiDataSource 代码在附件中。

(五) 动态添加数据源

通 过以上方案,我们解决了动态分配数据源的问题,但你可能提出疑问:方案中的数据源都是配置在 spring 的 ApplicationContext 中,如果我在程序运行过程中动态添加数据源怎么办?这确实是一个问题,而且在我们的项目中也确实遇 到。 spring 的 ApplicationContext 是在项目启动的时候加载的。加载以后,我们如何动态地加载新的 bean 到 ApplicationContext 中呢?我想到如果用 spring 自己的方法解决这个问题就好了。所幸的是,在查看 spring 的源代码后,我找到了这样的代码,编写了 DynamicLoadBean 类,只要 调用loadBean() 方法,就可以将某个或某 几个配置文件中的 bean 加载到 ApplicationContext 中(见附件)。不通过配置文件直接加载对象,在spring 的源码中也 有,感兴趣的朋友可以自己研究。

(六) 在 spring 中配置

在完成了所有这些设计以后,我最后再唠叨一句。我们应当在 spring 中做如下配置:

xml 代码

< bean id = "dynamicLoadBean" class = "comhtxxservicedaoDynamicLoadBean" > bean >

< bean id = "dataSource" class = "comhtxxservicedaoMultiDataSource" >

< property name = "dataSource" >

< ref bean = "dataSource1" />

property >

bean >

< bean id = "sessionFactory" class = "orgspringframeworkormhibernate3LocalSessionFactoryBean" >

< property name = "dataSource" >

< ref bean = "dataSource" />

property >

bean >

其中dataSource 属性实际上更准确地说应当是 defaultDataSource ,即 spring 启动时以及在客户没有指定数据源时应当指定的默认数据源。

该方案的优势

以上方案与其它方案相比,它有哪些优势呢?

首 先,这个方案完全是在 spring 的框架下解决的,数据源依然配置在 spring 的配置文件中, sessionFactory依然去配置它 的 dataSource 属性,它甚至都不知道 dataSource 的改变。唯一不同的是在真正的 dataSource 与 sessionFactory 之间增加了一个 MultiDataSource 。

其 次,实现简单,易于维护。这个方案虽然我说了这么多东西,其实都是分析,真正需要我们写的代码就只有 MultiDataSource 、 SpObserver 两个类。 MultiDataSource 类真正要写的只 有 getDataSource() 和getDataSource(sp) 两个方法,而 SpObserver 类更简单了。实现越简单,出错的可能 就越小,维护性就越高。

最 后,这个方案可以使单数据源与多数据源兼容。这个方案完全不影响 BUS 和 DAO 的编写。如果我们的项目在开始之初是单数据源的情况下开发,随着项 目的进行,需要变更为多数据源,则只需要修改 spring 配置,并少量修改 MVC 层以便在请求中写入需要的数据源名,变更就完成了。如果我们的项 目希望改回单数据源,则只需要简单修改配置文件。这样,为我们的项目将增加更多的d性。

特 别说明:实例中的DynamicLoadBean在web环境下运行会出错,需要将类中AbstractApplicationContext改为 orgspringframeworkcontextConfigurableApplicationContext。

这次我们采取技术演进的方式来谈谈数据库连接池的技术出现过程及其原理,以及当下最流行的开源数据库连接池jar包。

1、原理

一般来说,Java应用程序访问数据库的过程是

①装载数据库驱动程序;

②通过jdbc建立数据库连接;

③访问数据库,执行sql语句;

④断开数据库连接。

2、代码

3、分析

程序开发过程中,存在很多问题:首先,每一次web请求都要建立一次数据库连接。建立连接是一个费时的活动,每次都得花费005s~1s的时间,而且系统还要分配内存资源。这个时间对于一次或几次数据库 *** 作,或许感觉不出系统有多大的开销。可是对于现在的web应用,尤其是大型电子商务网站,同时有几百人甚至几千人在线是很正常的事。在这种情况下,频繁的进行数据库连接 *** 作势必占用很多的系统资源,网站的响应速度必定下降,严重的甚至会造成服务器的崩溃。不是危言耸听,这就是制约某些电子商务网站发展的技术瓶颈问题。其次,对于每一次数据库连接,使用完后都得断开。否则,如果程序出现异常而未能关闭,将会导致数据库系统中的内存泄漏,最终将不得不重启数据库。还有,这种开发不能控制被创建的连接对象数,系统资源会被毫无顾及的分配出去,如连接过多,也可能导致内存泄漏,服务器崩溃。

上述的用户查询案例,如果同时有1000人访问,就会不断的有数据库连接、断开 *** 作:

通过上面的分析,我们可以看出来,“数据库连接”是一种稀缺的资源,为了保障网站的正常使用,应该对其进行妥善管理。其实我们查询完数据库后,如果不关闭连接,而是暂时存放起来,当别人使用时,把这个连接给他们使用。就避免了一次建立数据库连接和断开的 *** 作时间消耗。原理如下:

由上面的分析可以看出,问题的根源就在于对数据库连接资源的低效管理。我们知道,对于共享资源,有一个很著名的设计模式:资源池(resource pool)。该模式正是为了解决资源的频繁分配﹑释放所造成的问题。为解决上述问题,可以采用数据库连接池技术。数据库连接池的基本思想就是为数据库连接建立一个“缓冲池”。预先在缓冲池中放入一定数量的连接,当需要建立数据库连接时,只需从“缓冲池”中取出一个,使用完毕之后再放回去。我们可以通过设定连接池最大连接数来防止系统无尽的与数据库连接。更为重要的是我们可以通过连接池的管理机制监视数据库的连接的数量﹑使用情况,为系统开发﹑测试及性能调整提供依据。

我们自己尝试开发一个连接池,来为上面的查询业务提供数据库连接服务:

① 编写class 实现DataSource 接口

② 在class构造器一次性创建10个连接,将连接保存LinkedList中

③ 实现getConnection 从 LinkedList中返回一个连接

④ 提供将连接放回连接池中方法

1、连接池代码

2、使用连接池重构我们的用户查询函数

这就是数据库连接池的原理,它大大提供了数据库连接的利用率,减小了内存吞吐的开销。我们在开发过程中,就不需要再关心数据库连接的问题,自然有数据库连接池帮助我们处理,这回放心了吧。但连接池需要考虑的问题不仅仅如此,下面我们就看看还有哪些问题需要考虑。

1、并发问题

为了使连接管理服务具有最大的通用性,必须考虑多线程环境,即并发问题。这个问题相对比较好解决,因为java语言自身提供了对并发管理的支持,使用synchronized关键字即可确保线程是同步的。使用方法为直接在类方法前面加上synchronized关键字,如:

2、多数据库服务器和多用户

对于大型的企业级应用,常常需要同时连接不同的数据库(如连接oracle和sybase)。如何连接不同的数据库呢?我们采用的策略是:设计一个符合单例模式的连接池管理类,在连接池管理类的唯一实例被创建时读取一个资源文件,其中资源文件中存放着多个数据库的url地址等信息。根据资源文件提供的信息,创建多个连接池类的实例,每一个实例都是一个特定数据库的连接池。连接池管理类实例为每个连接池实例取一个名字,通过不同的名字来管理不同的连接池。

对于同一个数据库有多个用户使用不同的名称和密码访问的情况,也可以通过资源文件处理,即在资源文件中设置多个具有相同url地址,但具有不同用户名和密码的数据库连接信息。

3、事务处理

我们知道,事务具有原子性,此时要求对数据库的 *** 作符合“all-all-nothing”原则即对于一组sql语句要么全做,要么全不做。

在java语言中,connection类本身提供了对事务的支持,可以通过设置connection的autocommit属性为false 然后显式的调用commit或rollback方法来实现。但要高效的进行connection复用,就必须提供相应的事务支持机制。可采用每一个事务独占一个连接来实现,这种方法可以大大降低事务管理的复杂性。

4、连接池的分配与释放

连接池的分配与释放,对系统的性能有很大的影响。合理的分配与释放,可以提高连接的复用度,从而降低建立新连接的开销,同时还可以加快用户的访问速度。

对于连接的管理可使用空闲池。即把已经创建但尚未分配出去的连接按创建时间存放到一个空闲池中。每当用户请求一个连接时,系统首先检查空闲池内有没有空闲连接。如果有就把建立时间最长(通过容器的顺序存放实现)的那个连接分配给他(实际是先做连接是否有效的判断,如果可用就分配给用户,如不可用就把这个连接从空闲池删掉,重新检测空闲池是否还有连接);如果没有则检查当前所开连接池是否达到连接池所允许的最大连接数(maxconn)如果没有达到,就新建一个连接,如果已经达到,就等待一定的时间(timeout)。如果在等待的时间内有连接被释放出来就可以把这个连接分配给等待的用户,如果等待时间超过预定时间timeout 则返回空值(null)。系统对已经分配出去正在使用的连接只做计数,当使用完后再返还给空闲池。对于空闲连接的状态,可开辟专门的线程定时检测,这样会花费一定的系统开销,但可以保证较快的响应速度。也可采取不开辟专门线程,只是在分配前检测的方法。

5、连接池的配置与维护

连接池中到底应该放置多少连接,才能使系统的性能最佳?系统可采取设置最小连接数(minconn)和最大连接数(maxconn)来控制连接池中的连接。最小连接数是系统启动时连接池所创建的连接数。如果创建过多,则系统启动就慢,但创建后系统的响应速度会很快;如果创建过少,则系统启动的很快,响应起来却慢。这样,可以在开发时,设置较小的最小连接数,开发起来会快,而在系统实际使用时设置较大的,因为这样对访问客户来说速度会快些。最大连接数是连接池中允许连接的最大数目,具体设置多少,要看系统的访问量,可通过反复测试,找到最佳点。

如何确保连接池中的最小连接数呢?有动态和静态两种策略。动态即每隔一定时间就对连接池进行检测,如果发现连接数量小于最小连接数,则补充相应数量的新连接以保证连接池的正常运转。静态是发现空闲连接不够时再去检查。

理解了连接池的原理就可以了,没有必要什么都从头写一遍,那样会花费很多时间,并且性能及稳定性也不一定满足要求。事实上,已经存在很多流行的性能优良的第三方数据库连接池jar包供我们使用。如:

其中c3p0已经很久没有更新了。DBCP更新速度很慢,基本处于不活跃状态,而Druid和HikariCP处于活跃状态的更新中。

2014-4-11 10:41:53 orgapachecatalinacoreapplicationdispatcher调用

严重:servlet。service() JSP Servlet丢例外

javautilnosuchelementexception:超时等待空闲对象

牛津。Apache。共享池实现。。。genericobjectpool。borrowobject(genericobjectpool。Java:825)

在牛津。Apache。下议院。二溴氯丙烷。poolingdatasource。getConnection(poolingdatasource。Java:96)

在牛津。Apache。下议院。二溴氯丙烷。basicdatasource。getConnection(basicdatasource。Java:880)

在牛津。SpringFramework ORM Hibernate3。。。localdatasourceconnectionprovider。getConnection(localdatasourceconnectionprovider。Java:82)

在牛津。冬眠。JDBC连接管理器。openconnection。(连接管理器。Java:423)

在牛津。Hibernate JDBC连接管理器。。。getConnection(的连接管理器。Java:144)

在牛津。冬眠。JDBC。abstractbatcher。preparequerystatement(abstractbatcher。Java:139)

在牛津。冬眠。装载机。装载机。preparequerystatement(装载机。Java:1547)

在牛津。冬眠。装载机。装载机。doQuery(装载机。Java:673)

在牛津。冬眠。装载机。装载机。doqueryandinitializenonlazycollections(装载机。Java:236)

在牛津。冬眠。装载机。装载机。loadentity(装载机。Java:1860)

在牛津。冬眠。装载机。实体。abstractentityloader。负载(abstractentityloader。Java:48)

在牛津。冬眠。装载机。实体。abstractentityloader。负载(abstractentityloader。Java:42)

在牛津。Hibernate持久实体。。。abstractentitypersister。负载(abstractentitypersister。Java:3049)

以上就是关于如何在spring框架中解决多数据源的问题全部的内容,包括:如何在spring框架中解决多数据源的问题、搞软件开发,请你来谈谈数据库连接池的原理吧、Servlet.service() for servlet jsp threw exception java.util.NoSuchElementException: Timeout waitin等相关内容解答,如果想了解更多相关内容,可以关注我们,你们的支持是我们更新的动力!

欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/sjk/9338960.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-04-27
下一篇 2023-04-27

发表评论

登录后才能评论

评论列表(0条)

保存