posts - 297,  comments - 1618,  trackbacks - 0

蜜果私塾:如何进行异构数据库同步(上篇)

版权所有,转载请注明出处:http://www.blogjava.net/amigoxie/archive/2011/07/23/354906.html
文:阿蜜果

日期:2011-7-23
下篇:《如何进行异构数据库同步(下篇)》

1、简介

最近一阵子笔者在进行完成同样功能的两套异构数据库系统的同步工作,有一些心得体会分享给大家,欢迎技术同仁拍砖。

该项目有一个运行若干年(510年)的旧系统,采用的是SQL Server数据库,因为旧平台功能较弱,所以所有对数据库的访问操作都通过存储过程进行操作。

新系统采用笔者公司的平台,应客户需求采用Oracle数据库,完成的功能与旧系统基本相同,但表设计与原有系统不同,有些表对应旧系统中的一张表,但字段名称等大都不一样。另外还有新系统中一张表对应旧系统中多张小表的情况,也有新系统中多个表对应旧系统中多张表的情况。新系统较少依赖数据库,数据库操作都在业务逻辑层完成。

因为旧系统在全国几十个点上运行,而新系统全部替换旧系统需要比较长的时间,该项目采用的是按地区进行逐步替换的原则,所以涉及到需要在两种不同数据库类型、不同数据库结构的异构数据库进行同步。

2、重要术语

2.1 异构数据库

异构数据库系统是相关的多个数据库系统的集合,可以实现数据的共享和透明访问,每个数据库系统在加入异构数据库系统之前本身就已经存在,拥有自己的DBMS。异构数据库的各个组成部分具有自身的自治性,实现数据共享的同时,每个数据库系统仍保有自己的应用特性、完整性控制和安全性控制。

可以是同为关系型数据库系统的Oracle SQL Server等,也可以是不同数据模型的数据库,如关系、模式、层次、网络、面向对象,函数型数据库共同组成一个异构数据库系统。

2.2 数据捕获

数据的捕获是数据库同步的基础,变化数据的捕获主要有基于快照法、基于触发器法、基于日志法、基于API法、影子表法和控制表变化法。基于快照法效率比较低一般不能用于同步,可使用基于触发器法、基于日志法或基于API法和控制表变化法进行变化数据的捕获。

旧系统的数据库操作都是通过存储过程,所以可将存储过程作为数据捕获点。

新系统可采用笔者公司平台底层提供了同步程序,该程序能将某个Linux用户本平台进程下所有对指定表(需要同步的表)的所有INSERTUPDATEDELETE语句都捕获到,并同步给另一个用户下的同步数据接收进程,该进程能指定接收到同步数据时进行的操作,例如写文件、调用指定的业务进行处理等。

3、同步方案

3.1 需要同步的内容

3.1.1 确认哪些SQL需要同步

在数据库表创建以后,有SELECTINSERTUPDATEDELETE四种操作的语句,因为SELECT语句不会影响表数据的改变,所以只需要INSERTUPDATEDELETE操作进行同步。

3.1.2 确认哪些表需要同步

并不是所有的表都需要进行同步的,例如如下表就不需要同步:

1)在系统创建之初需要导入数据,后期基本不需要改动或绝少改动的表:这些表的数据基本只需要在新系统初期将数据导入即可。

2)一方系统具有,另一方不具有的功能对应的表:例如新系统加上了一些额外的功能,而旧系统没有,这些表不需要同步。

3.1.3 确认异构数据库之间的表和字段的对应

这个是异构数据库编码之前最耗费时间的工作,也是最重要的工作,因为只有严格对应,才能使两者同步后数据库在同步数据后不管用哪套系统都能完成同样的工作。

首先,要对新旧系统中的近50张表找出对应关系:某一张表在对方有一一对应的表?还是对应对方多张表?还是只是对应对方表的一部分?

接着,需要找出字段的对应关系,字段名称是否相同?字段类型是否相同?一个字段是否对应对方表的多个字段?

笔者在Excel表格中列出了所有表与对方表结构的对应关系,这个表格很重要,是后面无论采用何种同步方案都需要用到的同步的依据。

3.2 可选方案

3.2.1 编写触发器进行同步

 当数据库为同步对象创建相应的触发器,当对同步对象进行INSERTUPDATEDELETEDMLData Manipulation Language)操作时,触发器被唤醒,将变换传播到目标数据库。

 采用此种方式时,需要在两边的数据库中都创建对需要同步的每个表的INSERTUPADTEDELETE操作的三个触发器,当源表发生INSERTUPDATEDELETE操作时触发器被启动。因此若两边都有50个需要同步的表,需要编写的触发器个数为:(50+50)*3 = 300(个)。

采用该种方式的缺点是:

(1)       需要为每个需要同步的表编写三个触发器,工作量巨大;

(2)       触发器具有不容易排错、可移植性差、占用资源大等缺点;

(3)       代码可复用性不好。

3.2.2 按系统操作同步

 按系统操作同步就是在所有进行数据库更新操作的地方都将其转换成对方的数据库操作进行,例如在新系统进行注册操作(可能涉及到56个表进行操作)时,转换为对方的注册操作。

这种同步方式的缺点在于:

1)不通用:在每加一个系统操作或做一些小改动时,都需要对代码进行修改;

2)代码耦合度高:需要在所有操作的地方进行处理,转换成对方的SQL语句,代码耦合度非常高;

3)工作量很大:需要对所有两边的操作进行一次手工“转译”操作,工作量很大。

3.2.3 按数据库表操作同步

 按表操作同步的“原子”是对单个表的的INSERTUPDATEDELETE操作,它并不关注操作,例如:如果一个注册操作对应5INSERT操作、2UPDATE操作,它将其作为7个原子操作依次处理,并不对这些SQL进行关联。

这种同步方式的优点在于:

1)相对比较通用:有一些比较简单的对应关系的表,例如只是因为字段名称、表名和字段个数等不同而需要进行同步的表可交给“SQL语句解析器通用程序”进行处理,对于某些复杂的表才需要进行单独编写业务来进行转换处理;

2)代码耦合度比较低:只需要捕获对同步的表的INSERTUPDATEDELETE操作的语句,基本不需要在代码中加入对同步的处理。旧系统中不需要在上层进行处理,在存储过程中相关语句前处理同步即可。新系统只需要在同步接收进程中指定需要处理的业务即可。

推荐使用该同步方式。

3.3 难点问题

3.3.1 自增主键

当表的主键为自增序列号时,在插入时并不指定该字段的值,在某一方插入后,转换为对方的SQL语句后,插入对方的数据库,很大可能两边的这条记录的主键ID不一致。在根据自增序列号进行这条记录的updatedelete操作时,因为两边同一条记录的id不一样,很大可能导致删除或更新的记录并不是想要进行删除或更新的记录。

因此,在系统中尽量少用自增序列号主键,若能找到某几个字段作为复合主键,可进行修改,万一找不到,可采用字符类型的唯一标识号,例如:时间+自动机号+若干位随机数数,在INSERT操作时指定该主键的值。

不过,一些只进行INSERT操作的表,例如未接来电表采用自增序列号暂时也不用遇到什么问题。在笔者所遇到的平台中,新系统基本去除了自增主键,旧系统涉及自增主键的表并不太多,而且基本都能找到表中其它的23个字段作为唯一主键。

3.3.2 事务问题

无法实现一些带事务的操作。例如注册等流程,因为采用按照数据库操作进行同步,注册操作被分解成多个原子操作,只能当成单个多条SQL语句单独进行处理。

需要事务的操作并不多,可将这些操作改成采用“按系统操作同步”,例如当旧系统进行注册流程中,调用新系统提供的接口,由接口程序也进行一个在新Oracle库的注册流程。

3.3.3 定期数据校验

         数据校验也是异构数据库的一个重要问题,进行一段时间的同步后,怎么能保证两边的数据库是同步的?数据校验的周期如何,是一天,几天,还是?

进行数据校验首先要确定校验指标,最简单的校验指标是重要表的数据量是否相等,另外就是检查表里面的数据是否一致,是否能保证能完成同样的功能,可采用抽查机制等,这些工作不可能靠手工完成,因此需要提供数据校验的程序。数据校验的周期应该是可配置的。

3.3.4 日志记录

在进行同步的过程中,有可能因为各种原因导致转换为对方的数据库语句后执行失败,为了日后进行处理和分析,进行错误日志的记录也是非常必要的。

posted on 2011-07-23 22:37 阿蜜果 阅读(3398) 评论(0)  编辑  收藏 所属分类: 解决方案

只有注册用户登录后才能发表评论。


网站导航:
 
<2011年7月>
262728293012
3456789
10111213141516
17181920212223
24252627282930
31123456

      生活将我们磨圆,是为了让我们滚得更远——“圆”来如此。
      我的作品:
      玩转Axure RP  (2015年12月出版)
      

      Power Designer系统分析与建模实战  (2015年7月出版)
      
     Struts2+Hibernate3+Spring2   (2010年5月出版)
     

留言簿(256)

随笔分类

随笔档案

文章分类

相册

关注blog

积分与排名

  • 积分 - 2186585
  • 排名 - 3

最新评论

阅读排行榜

评论排行榜