`

数据库版本管理工具 Flyway

    博客分类:
  • sql
 
阅读更多

转:http://casheen.iteye.com/blog/1749916

 

1.  引言

 

想到要管理数据库的版本,是在实际产品中遇到问题后想到的一种解决方案,当时各个环境的数据库乱作一团,没有任何一个人(开发、测试、维护人员)能够讲清楚当前环境下的数据库是哪个版本,与哪个版本的应用相匹配,如何升级到与新版本的应用相匹配。

想到管理数据库版本时,先是心底形成了一个初步的解决方案,大致是通过数据库中的某张表来记录数据库表结构的历次更新与对应版本,在每次数据库表结构调整时除了提供库表更新sql ,还必须提供更新记录与对应版本的sql,以帮助维护数据库版本信息,并在遇到问题时提供相关的排查依据。

后来据此思路在网络上搜索了一把,结果搜到Liquibase (另一款开源数据库版本管理工具)。在学习了解Liquibase 的时候,经高手介绍又了解到了Flyway 这个项目的存在。经过一番了解,最后我们选择了Flyway ,主要原因是Flyway 支持sql 脚本,而Liquibase 只支持XML 方式的数据库表结构定义,虽然在新的版本中号称在XML 的数据库表结构定义方式中支持了sql 脚本。

虽然Flyway 的中文文档近乎为零,英文文档也凤毛麟角,但它却是我们最理想的数据库版本管理工具,它不但支持sql 脚本,还支持Java 代码直接操作数据库(在版本升级时做数据迁移相当有用),有Maven 插件,支持命令行(我们的平台数据库有部分由C 语言项目管理),而且在Spring 框架的配合下,很容易就能实现应用启动时自动检查并升级数据库的功能。

2.  什么是Flyway

Flyway 是独立于数据库的应用、管理并跟踪数据库变更的数据库版本管理工具。

Flyway 的项目主页是 http://flywaydb.org/ )(最近才迁移到这个主页,之前一直在googlecode 下管理http://code.google.com/p/flyway/ ),在项目的主页上可以看到Flyway 与几款主流数据库版本管理工具的特性对比列表。

3.  为什么使用Flyway

3.1. 我们遇到的问题

我们遇到的问题(以下内容来自Flyway 的一些英文文档,从中抽取出来的我们也遇到的一些主要问题):

  • 不同的开发人员在开发产品特性时,都有可能更新数据库(添加新表,新的约束等)。当开发人员完成工作并提交代码时,代码会被合并到主分支并在测试服务器上执行单元测试与集成测试。我们在哪个环节来执行数据库的更新操作呢?由QA 部门手工执行sql 脚本?或者我们开发一断程序自动执行数据库更新?以什么顺序来执行这些更新脚本?这些问题同样存在于生产环境。 
  • 我们的产品部署在不同的客户服务器上,以及很多的测试、联调、实验局、销售环境上。不同的客户和测试环境上都部署着不同版本的产品。当他们需要升级他们的产品到新的版本时,我们不仅需要让他们的管理员可以升级产品到新的版本,同时需要保留他们的已有数据。在升级产品的步骤中,我们清楚地知道客户数据库的当前版本,以及需要在该数据库上执行哪些数据库更新脚本,来更新数据库表结构与数据库中已存在的数据。当升级完成时,数据库表结构及数据应当与升级后的产品版本保持一致。
  • 有的时候,我们需要通过代码(Java )来维护一些已存在的数据,如通过代码来维护blob 类型的用户头像数据。
  • 当升级失败时(比如在升级过程中出现网络连接失败),我们应当支持对失败进行修复。

3.2. Flyway 的特性

  • 自动升级(自动发现更新项):Flyway 会将任意版本的数据库升级到最新版本。Flyway 可以脱离JVM 环境通过命令行执行,可以通过Ant 脚本执行,通过Maven 脚本执行(这样就可以在集成环境自动执行),并且可以在应用中执行(比如在应用启动时执行)。
  • 规约优于配置:Flyway 有一套默认的规约,所以不需要修改任何配置就可以正常使用。
  • 既支持SQL 脚本,又支持Java 代码:可以使用SQL 脚本执行数据库更新,也可以使用Java 代码来进行一些高级数据升级操作。
  • 高可靠性:在集群环境下进行数据库升级是安全可靠的。
  • 支持清除已存在的库表结构:Flyway 可以清除已存在的库表结构,可以从零开始搭建您的库表结构,并管理您的数据库版本升级工作。
  • 支持失败修复。新的2.0 版本提供了repair 功能,用于解决数据库更新操作失败问题。

结合我们遇到的问题,与Flyway 所提供的特性,我们认为Flyway 是比较适合于我们的一款数据库版本管理工具。

4.  如何使用Flyway

使用Flyway ,我们需要准备Flyway 将要执行的数据库脚本(Flyway 支持sql 脚本与java 代码,这里认为在Flyway 下执行数据库更新操作的java 代码也是一种数据库脚本),然后通过Flyway 提供的几种不同运行方式来执行这些脚本。(以下配置参数说明基于Flyway 1.7 版本,新的2.0 版本在配置参数上有不少变动,与下面的介绍会有不少出入,以下说明仅供参考)

4.1. 数据库脚本

Flyway 的主要任务是管理数据库的版本更新,在Flyway 中称每次数据库更新为一个migration ,为了更顺口,我们下面称之为数据库脚本。Flyway 支持SQL-based migrations 和Java-based migrations 。

Flyway 支持的数据库脚本有sql 脚本与java 代码,sql 脚本即普通的sql 脚本,包含创建数据库、表,更新库表结构,数据插入、更新、删除等sql 语句,java 代码则是通过一个有效的数据源,使用java 语言来进行数据库的操作,这里针对的读者是对数据库操作有一定熟悉程度的群体,不再详细讲解如何编写数据库脚本。

Flyway 的sql 脚本与java 代码都遵循以下默认规约:

4.1.1.  Flyway 默认规约

  • SQL 脚本文件默认位置是项目的源文件夹下的db/migration  目录。
  • Java 代码默认位于db.migration  包。
  • SQL 脚本文件及Java 代码类名必须遵循以下命名规则:V<version>[_<SEQ>][__description] 。版本号的数字间以小数点(. )或下划线(_ )分隔开,版本号与描述间以连续的两个下划线(__ )分隔开。如V1_1_0__Update.sql 。Java 类名规约不允许存在小数点,所以Java 类名中版本号的数字间只能以下划线进行分隔。

4.2. Flyway 的几种运行方式

本章主要讲解我们常用的三种Flyway 的执行方式,Flyway 除了提供这三种执行方式外,还提供Ant 任务方式的执行方式,有兴趣的同学可以去官方网站获取相关信息,这里不进行描述。

4.2.1.  命令行方式

通过命令行方式运行Flyway ,需要下载flyway-commandline 版本并解压到本地,然后flyway (Windows下flyway.cmd ,Linux 下flyway.sh )命令执行Flyway 相关操作。

下图是flyway-commandline-1.7 解压后的目录结构:

命令行方式的特点与规约

  • 无需安装JVM ,Maven ,Ant
  • 默认读取conf/flyway.properties 中的配置信息,如果在命令行中指定参数,命令行中指定的参数将覆盖配置文件中的配置
  • 还可以通过参数-configFlie=myFlyway.properties 来重新指定flyway 配置文件,可以通过-configFileEncoding=GBK 来指定配置文件的编码格式
  • 可以将打包好的java 迁移文件放到jars/  目录下让flyway 可以找到并运行
  • 数据库驱动包(jar )放到jars/  目录下
  • sql 脚本文件放到sql/  目录中

命令行方式运行的配置及使用方法

  1. 修改conf/flyway.properties  配置文件
  2. 拷贝数据库jdbc  驱动jar  到jars/  目录
  3. 在sql/  目录下创建配置好的sql  脚本文件目录路径,如flyway 默认的sql  文件路径为db/migration ,我们就需要在sql/  目录下创建/db/migration  目录结构
  4. 将数据库维护脚本放到创建好的sql  脚本文件目录中(维护脚本文件名需要遵循命名规范)
  5. 在命令行执行命令(从flyway 安装目录开始执行)flyway init (初始化Flyway metadata )、flyway migrate(执行Flyway 升级操作)、flyway validate (校验Flyway 数据正确性)

4.2.2.  Maven 插件

配置Maven 插件

Xml代码  收藏代码
  1. <plugin>  
  2.        <groupId>com.googlecode.flyway</groupId>  
  3.        <artifactId>flyway-maven-plugin</artifactId>  
  4.        <version>1.7</version>  
  5.        <dependencies>  
  6.               <dependency>  
  7.                      <groupId>mysql</groupId>  
  8.                      <artifactId>mysql-connector-java</artifactId>  
  9.                      <version>${mysql.connector.version}</version>  
  10.               </dependency>  
  11.        </dependencies>  
  12.        <configuration>  
  13.               <driver>com.mysql.jdbc.Driver</driver>  
  14.               <url>jdbc:mysql://localhost/flywaydemo?useUnicode=true&amp;characterEncoding=utf-8</url>  
  15.               <user>root</user>  
  16.               <password></password>  
  17.    
  18.               <!-- 设置接受flyway进行版本管理的数据库,多个数据库以逗号分隔 -->  
  19.               <schemas>flywaydemo</schemas>  
  20.               <!-- 设置存放flyway metadata数据的表名 -->  
  21.               <table>schema_version</table>  
  22.               <!-- 设置flyway扫描sql升级脚本、java升级脚本的目录路径或包路径 -->  
  23.               <locations>  
  24.                      <location>flyway/migrations</location>  
  25.                      <location>com.kedacom.flywaydemo.migrations</location>  
  26.               </locations>  
  27.               <!-- 设置sql脚本文件的编码 -->  
  28.               <encoding>UTF-8</encoding>  
  29.               <!-- 设置执行migrate操作之前的validation行为 -->  
  30.               <validationMode>ALL</validationMode>  
  31.               <!-- 设置当validation失败时的系统行为 -->  
  32.               <validationErrorMode>FAIL</validationErrorMode>  
  33.        </configuration>  
  34. </plugin>  
 

上面的插件配置包含了几方面的配置信息:

  • 声明插件
  • 声明数据库驱动的依赖包
  • Flyway 配置——数据库连接配置
  • Flyway 配置——Flyway 参数与行为配置

执行Maven 命令进行Flyway 操作(下面列出几种常用的操作)

  • mvn flyway:init (初始化Flyway metadata )
  • mvn flyway:migrate (执行Flyway 升级操作)
  • mvn flyway:validate (校验Flyway 数据正确性)

4.2.3.  在应用启动时自动运行(结合Spring )

定义在应用启动时自动运行Flyway 的Java 类,并实现其逻辑代码

Java代码  收藏代码
  1. public class FlywayMigration {  
  2.   
  3.     private DataSource dataSource;  
  4.   
  5.     public void setDataSource(DataSource dataSource) {  
  6.         this.dataSource = dataSource;  
  7.     }  
  8.   
  9.     public void migrate() {  
  10.         Flyway flyway = new Flyway();  
  11.         flyway.setDataSource(dataSource);  
  12.   
  13.         flyway.setSchemas("flywaydemo"); // 设置接受flyway进行版本管理的多个数据库  
  14.         flyway.setTable("schema_version"); // 设置存放flyway metadata数据的表名  
  15.         flyway.setLocations("flyway/migrations""com.kedacom.flywaydemo.migrations"); // 设置flyway扫描sql升级脚本、java升级脚本的目录路径或包路径  
  16.         flyway.setEncoding("UTF-8"); // 设置sql脚本文件的编码  
  17.         flyway.setValidationMode(ValidationMode.ALL); // 设置执行migrate操作之前的validation行为  
  18.         flyway.setValidationErrorMode(ValidationErrorMode.FAIL); // 设置当validation失败时的系统行为  
  19.   
  20.         flyway.migrate();  
  21.     }  
  22.   
  23. }  
 

在Spring 中根据上面实现的类来定义(实例化)一个bean

Xml代码  收藏代码
  1. <bean id="flywayMigration" class="com.kedacom.flywaydemo.FlywayMigration" init-method="migrate">  
  2.     <property name="dataSource" ref="dataSource" />  
  3. </bean>  

从上面的bean 定义中我们可以看到,我们为flywayMigration 这个bean 实例注入了一个数据源,Flyway 的所有操作将针对这个数据源进行;同时我们通过init-method 属性指定了Spring 在实例化该bean 以后,主动执行该bean的migrate 方法,而该方法内会执行Flyway 更新数据库的操作。

至此,我们达到了在应用启动时,Spring 实例化上下文的时候,在Spring 实例化flywayMigration 这个bean 的时候,自动执行Flyway 更新数据库的操作。

但是,我们还没有达到目的,万一Flyway 还在更新数据库,没有完成更新操作之前,应用程序的其他逻辑已经开始使用数据库进行其他操作了,会导致应用程序产生很多bug ,甚至根本运行不起来。

要解决这个问题,我们可以利用Spring 的bean 依赖原理,让关键的数据库操作bean 依赖于flywayMigration 这个bean ,达到在flywayMigration 没有实例化完成(数据库更新操作完成)之前,不能进行任何其他数据库相关操作。

利用Spring 的bean 依赖让flywayMigration 优先处理数据库更新操作

Xml代码  收藏代码
  1. <bean id="jdbcTemplate" class="org.springframework.jdbc.core.JdbcTemplate" depends-on="flywayMigration">  
  2.     <property name="dataSource" ref="dataSource" />  
  3. </bean>  
  4.   
  5. <bean id="txManager" class="org.springframework.jdbc.datasource.DataSourceTransactionManager" depends-on="flywayMigration">  
  6.     <property name="dataSource" ref="dataSource" />  
  7. </bean>  
 

5.  总结

本篇我们介绍了什么是Flyway ,为什么使用Flyway ,以及如何使用Flyway ,但实际产品/ 项目中的情况可能更复杂,仅靠对Flyway 技术使用上的了解并不能达到我们满意的解决方案,为此我将在下一篇中介绍我们结合项目实际的问题形成的一些基于Flyway 的数据库版本管理解决方案。下一篇的内容主要包括:

  • 我们的项目中实际是如何使用 Flyway 的
  • 如何在已有的项目中集成 Flyway
  • 如何在多应用、跨平台、跨语言的环境中使用 Flyway

 

  • 大小: 10 KB
 
分享到:
评论
发表评论

文章已被作者锁定,不允许评论。

相关推荐

    flyway-springboot.zip_springboot集成flyway数据库版本管理工具

    Flyway是基于Java的数据库版本管理工具,它允许你以SQL脚本的形式来管理数据库的结构变化。每次数据库的修改都可以被视为一个版本,这些版本按照时间顺序排列,确保了数据库的演变历史清晰有序。Flyway支持多种...

    数据库版本控制Flyway的demo

    Flyway是一个流行的开源工具,用于管理数据库版本,确保在多用户环境下数据库的一致性和完整性。本Demo将详细介绍如何使用Flyway进行数据库版本控制。 Flyway的核心概念是迁移(Migrations),每个迁移代表数据库的...

    flyway数据库版本管理

    Flyway是一款强大的开源数据库版本管理工具,它采用了“规约优于配置”的设计理念。这一理念强调的是通过预设的行为模式简化配置,减少错误的可能性,使开发者能够更加专注于业务逻辑而不是复杂的配置细节。Flyway的...

    flyway-4.0.3数据库执行工具

    Flyway是一款开源的数据库版本控制工具,用于管理数据库版本,帮助开发者进行数据库迁移。在数据库应用开发中,随着项目的迭代,数据库结构的变化是不可避免的,Flyway提供了一种规范化的、自动化的方式来跟踪、管理...

    flyway 5.1.1-windows 数据库升级降级工具

    总的来说,Flyway 5.1.1 是数据库管理员和开发者的有力助手,通过其易用性和强大的功能,简化了数据库版本控制和迁移过程,提高了开发效率和数据一致性。如果你在使用过程中遇到任何问题,可以通过描述中的提示留言...

    java版本控制(数据库版本控制)

    在实际项目中,还可以利用现成的库如Flyway或Liquibase来进行数据库版本控制。这些库提供了强大的API和命令行工具,能够自动化管理数据库的迁移过程,减少了手动编写和维护迁移脚本的工作量。 总的来说,Java中的...

    SpringBoot整合Flyway的方法(数据库版本迁移工具)

    Flyway是一个开源的数据库版本管理工具,可以独立于应用实现管理并跟踪数据库的变更。Flyway根据自己的约定,不需要复杂的配置就可以实现数据的Migrate。Migrations可以写成SQL脚本,也可以写在Java代码中,Flyway还...

    flyway-commandline-6.4.2-windows-x64.zip

    Flyway 是一款开源的数据库版本管理工具,它更倾向于规约优于配置的方式。Flyway 可以独立于应用实现管理并跟踪数据库变更,支持数据库版本自动升级,并且有一套默认的规约,不需要复杂的配置,Migrations 可以写成 ...

    flyway-commandline-6.4.2-linux-x64.tar.gz

    Flyway 是一款开源的数据库版本管理工具,它更倾向于规约优于配置的方式。Flyway 可以独立于应用实现管理并跟踪数据库变更,支持数据库版本自动升级,并且有一套默认的规约,不需要复杂的配置,Migrations 可以写成 ...

    SpringBoot项目集成Flyway进行数据库版本控制的详细教程

    Flyway是开源的数据库版本管理工具,它倾向于规约优于配置的方式。通过添加依赖项,我们可以使用Flyway的功能。 其次,需要在application.properties文件中添加Flyway的配置。FlywayProperties提供了多个参数来控制...

    Flyway数据库迁移工具详解.docx

    Flyway是一款强大的数据库迁移工具,它能够帮助开发者有效地管理和跟踪数据库的变更,确保不同环境的数据库同步。 Flyway的核心功能在于其自动化的迁移过程。在初次使用时,Flyway会在数据库中创建一个名为`flyway_...

    SpringBoot项目中配置Flyway.docx

    Flyway是一款开源的数据库版本管理工具,它可以独立于应用实现并管理数据库变更,支持数据库版本自动升级。在Spring Boot框架中,默认封装了Flyway,只需要简单的配置就可以使用,其使用遵循Spring Boot框架的“约定...

    flyway-commandline

    Flyway是一款强大的数据库版本管理工具,它以Java为基础,旨在帮助开发者和运维人员有效地管理和维护数据库的演变。在软件开发过程中,随着项目的发展,数据库结构也会随之改变,这些变化需要被系统地记录和管理,...

    分享微服务合并之多数据源整合(Dynamic Datasource)和Flyway对多数据源进行数据库脚本管理DEMO

    Flyway则是一款优秀的数据库版本管理工具,特别适合于多数据源环境。它通过SQL脚本来管理数据库结构的变化,使得数据库版本控制变得简单易行。Flyway的主要功能包括: 1. 版本控制:通过版本号管理数据库脚本,确保...

    flyway简单测试工程

    Flyway是一款强大的开源数据库版本管理工具,它使得数据库的迁移变得简单且有序。在“flyway简单测试工程”中,我们可以通过实践来理解其核心概念和工作流程,这对于数据库的开发和维护具有重要的意义。 数据库...

    数据库版本的控制

    2. Flyway:另一个流行的开源工具,Flyway也提供跨数据库的版本控制。它使用SQL脚本来描述数据库变更,并且有一个清晰的变更历史表,使得数据库状态一目了然。 3. Git-based solutions:有些团队选择使用Git本身来...

    SpringBoot集成Flyway.zip

    Flyway是一个流行的开源数据库迁移工具,它允许开发人员以有序的方式管理数据库版本,确保在多环境部署时的一致性。在SpringBoot应用中集成Flyway,可以自动化数据库版本升级,简化数据库维护流程。 首先,让我们...

    Java基础学习总结(183)—— Flyway 在项目中迁移数据实践.pdf

    Flyway是一款强大的数据库版本管理工具,它解决了上述问题,实现了数据库版本自动化管理。Flyway的基本原理是,开发者将每个数据库版本对应的DDL脚本存储在项目中。当项目在新环境中启动时,Flyway会自动创建一个元...

    Spring Boot 集成 Flyway,数据库也能做版本控制,太牛逼了!(csdn)————程序.pdf

    Flyway是一个数据库版本控制工具,它的存在是为了让数据库的变化也能被跟踪和管理,类似于我们所熟知的Git或SVN这样的代码版本控制工具。传统上,数据库的变更往往需要人工维护和同步,这可能导致数据不一致的问题,...

Global site tag (gtag.js) - Google Analytics