CN107180116A - 一种数据同步处理方法、移动终端以及计算机可读存储介质 - Google Patents

Abstract

本发明公开了一种数据同步处理方法，从业务数据库中获取日志文件，其中，所述日志文件记录了所述业务数据库中全部的数据变更；解析所述日志文件得到所述日志文件的数据；将所述日志文件的数据存放到消息队列中；监听所述消息队列，获取发生变更的数据，将所述发生变更的数据同步到数据中心。本发明还公开了一种移动终端和计算机可读存储介质，解决了相关技术中数据同步存在只能同步数据库的新增数据、大量数据全量同步相当耗时或者做标记删除需要一定的开发维护工作的问题，通过日志文件的方式，避免了数据遗漏，采用监听数据变更，保证变更的数据实时同步，提高了用户体验。

Description

一种数据同步处理方法、移动终端以及计算机可读存储介质

技术领域

本发明涉及移动通信技术领域，尤其涉及一种数据同步处理方法、移动终端以及计算机可读存储介质。

背景技术

随着互联网的发展和终端的普及，终端的用户群越来越大，同时也对软件提出了更多智能，人性化的需求。

在现有的技术中，其实终端，虽然被用户作为一个游戏机或电视机，还可能是一个学习机，还可能成为小宝宝的乐园等等，给我们的生活带来更多的乐趣。随着通讯产品的更新换代，移动终端(例如手机、个人数字化助理PDA等)已成为人们必备的通讯工具。各种方便人们生活的功能都能在移动终端上实现，例如手机电视、GPS、移动支付等等，都需要移动终端接入到互联网才能实现。

随着电子产业的快速发展，移动终端智能化程度越来越高。移动终端研发公司也越来越注重智能化，人性化设计。在此移动终端快速发展的背景下，终端的便捷操作和人性化设计成为移动终端不可忽视的一部分。

全渠道数据中心项目每天同步各业务系统产生的数据，采用的方式大致分为三种：第一、业务系统提供数据库连接，数据中心通过维护的id读取数据并同步到数据中心，比如，第一次id设置为0，本次读取了100条数据，下次读取id大于100的数据，同步新增的数据；第二、业务系统提供数据库连接，数据中心全量读取数据、然后删除数据中心旧数据，再全部同步新数据；第三、业务系统提供接口，通过传递时间戳的方式给业务接口，业务系统返回大于当前时间戳的增量数据。这三种方式都存在一定的问题，第一种，根据id自增的特性只能同步数据库的新增数据，修改和删除以前的数据，即id小于数据中心维护的取值时，数据中心无从知晓；第二种，全量同步适合少量业务数据，大量数据全量同步相当耗时；第三种，业务系统在数据上标记变更的时间戳，新增、修改的数据可以根据时间戳同步，删除要做特殊处理，直接删除数据，时间戳也没了，接口无法感知，因此要做标记删除，这需要一定的开发、维护工作，考虑到很多业务系统都是老系统，只有维护工作，还有相当多的操作直接在数据库中完成，时间戳并没有更新，同步的数据总有部分缺失。

针对相关技术中数据同步存在只能同步数据库的新增数据、大量数据全量同步相当耗时或者做标记删除需要一定的开发维护工作的问题，目前尚未提出解决方案。

发明内容

本发明的主要目的在于提出一种数据同步处理方法、移动终端以及计算机可读存储介质，旨在解决相关技术中数据同步存在只能同步数据库的新增数据、大量数据全量同步相当耗时或者做标记删除需要一定的开发维护工作的问题。

为实现上述目的，本发明实施例提出一种数据同步处理方法，包括：

从业务数据库中获取日志文件，其中，所述日志文件记录了所述业务数据库中全部的数据变更；

解析所述日志文件得到所述日志文件的数据；

将所述日志文件的数据存放到消息队列中；

监听所述消息队列，获取发生变更的数据，将所述发生变更的数据同步到数据中心。

优选地，从所述业务数据库中获取日志文件包括：

获取上一次从所述业务数据库读取日志文件的位置信息；

与所述业务数据库建立连接，向所述业务数据库发送从所述位置信息获取日志文件数据的指令；

接收所述业务数据库根据所述指令返回的日志文件。

优选地，解析所述日志文件得到所述日志文件的数据包括：

通过日志文件协议对所述日志文件进行解析得到所述日志文件的数据。

优选地，将所述数据存放到消息队列中包括：

将解析得到的所述日志文件的数据存储到消息队列中，根据上一次从所述业务数据库读取日志文件的位置信息定时记录所述日志文件的位置信息。

优选地，在将所述数据存放到消息队列中之前，所述方法还包括：

对解析得到的数据进行以下处理：过滤、分发、归并、加工。

优选地，监听所述消息队列，获取发生变更的数据，将所述发生变更的数据同步到数据中心包括：

从所述消息队列中读取发生变更的一条或多条数据，其中，所述一条或多条数据包含：唯一标识和数据对象；

回滚上次读取的数据，基于读取的数据的唯一标识提交到所述数据中心；

在确认数据读取成功之后，通知所述消息队列删除回滚的数据，并标记本次读取数据的位置。

根据本发明实施例的另一方面，还提供了一种移动终端，所述移动终端包括处理器、存储器及通信总线；

所述通信总线用于实现处理器和存储器之间的连接通信；

所述处理器用于执行存储器中存储的数据同步处理程序，以实现以下步骤：

从业务数据库中获取日志文件，其中，所述日志文件记录了所述业务数据库中全部的数据变更；

解析所述日志文件得到所述日志文件的数据；

将所述日志文件的数据存放到消息队列中；

监听所述消息队列，获取发生变更的数据，将所述发生变更的数据同步到数据中心。

优选地，所述处理器还用于执行数据同步处理程序，以实现以下步骤：

获取上一次从所述业务数据库读取日志文件的位置信息；

与所述业务数据库建立连接，向所述业务数据库发送从所述位置信息获取日志文件数据的指令；

接收所述业务数据库根据所述指令返回的日志文件。

优选地，所述处理器还用于执行数据同步处理程序，以实现以下步骤：

通过日志文件协议对所述日志文件进行解析得到所述日志文件的数据。

优选地，所述处理器还用于执行数据同步处理程序，以实现以下步骤：

将解析得到的所述日志文件的数据存储到消息队列中，根据上一次从所述业务数据库读取日志文件的位置信息定时记录所述日志文件的位置信息。

优选地，所述处理器还用于执行数据同步处理程序，以实现以下步骤：

在将所述数据存放到消息队列中之前，对解析得到的数据进行以下处理：过滤、分发、归并、加工。

优选地，所述处理器还用于执行数据同步处理程序，以实现以下步骤：

从所述消息队列中读取发生变更的一条或多条数据，其中，所述一条或多条数据包含：唯一标识和数据对象；

回滚上次读取的数据，基于读取的数据的唯一标识提交到所述数据中心；

在确认数据读取成功之后，通知所述消息队列删除回滚的数据，并标记本次读取数据的位置。

根据本发明实施例的另一方面，还提供了一种计算机可读存储介质，所述计算机可读存储介质存储有一个或者多个程序，所述一个或者多个程序可被一个或者多个处理器执行，以实现上述数据同步处理方法的步骤。

通过本发明，从业务数据库中获取日志文件，其中，所述日志文件记录了所述业务数据库中全部的数据变更；解析所述日志文件得到所述日志文件的数据；将所述日志文件的数据存放到消息队列中；监听所述消息队列，获取发生变更的数据，将所述发生变更的数据同步到数据中心，解决了相关技术中数据同步存在只能同步数据库的新增数据、大量数据全量同步相当耗时或者做标记删除需要一定的开发维护工作的问题，通过日志文件的方式，避免了数据遗漏，采用监听数据变更，保证变更的数据实时同步，提高了用户体验。

附图说明

图1为实现本发明各个实施例一可选的移动终端的硬件结构示意图；

图2为如图1所示的移动终端的无线通信系统示意图；

图3是根据本发明实施例的数据同步处理方法的流程图；

图4是根据本发明实施例的业务数据库与数据中心的架构图；

图5是业务数据库与数据中心之间数据同步的流程图；

图6是根据本发明实施例的数据同步的移动终端的框图。

本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。

具体实施方式

应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

在后续的描述中，使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本发明的说明，其本身没有特定的意义。因此，“模块”、“部件”或“单元”可以混合地使用。

终端可以以各种形式来实施。例如，本发明中描述的终端可以包括诸如手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(Personal Digital Assistant，PDA)、便捷式媒体播放器(Portable Media Player，PMP)、导航装置、可穿戴设备、智能手环、计步器等移动终端，以及诸如数字TV、台式计算机等固定终端。

后续描述中将以移动终端为例进行说明，本领域技术人员将理解的是，除了特别用于移动目的的元件之外，根据本发明的实施方式的构造也能够应用于固定类型的终端。

请参阅图1，其为实现本发明各个实施例的一种移动终端的硬件结构示意图，该移动终端100可以包括：RF(Radio Frequency，射频)单元101、WiFi模块102、音频输出单元103、A/V(音频/视频)输入单元104、传感器105、显示单元106、用户输入单元107、接口单元108、存储器109、处理器110、以及电源111等部件。本领域技术人员可以理解，图1中示出的移动终端结构并不构成对移动终端的限定，移动终端可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。

下面结合图1对移动终端的各个部件进行具体的介绍：

射频单元101可用于收发信息或通话过程中，信号的接收和发送，具体的，将基站的下行信息接收后，给处理器110处理；另外，将上行的数据发送给基站。通常，射频单元101包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外，射频单元101还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议，包括但不限于GSM(Global System of Mobile communication，全球移动通讯系统)、GPRS(General Packet Radio Service，通用分组无线服务)、CDMA2000(CodeDivision Multiple Access 2000，码分多址2000)、WCDMA(Wideband Code DivisionMultiple Access,宽带码分多址)、TD-SCDMA(Time Division-Synchronous CodeDivision Multiple Access，时分同步码分多址)、FDD-LTE(Frequency DivisionDuplexing-Long Term Evolution，频分双工长期演进)和TDD-LTE(Time DivisionDuplexing-Long Term Evolution，分时双工长期演进)等。

WiFi属于短距离无线传输技术，移动终端通过WiFi模块102可以帮助用户收发电子邮件、浏览网页和访问流式媒体等，它为用户提供了无线的宽带互联网访问。虽然图1示出了WiFi模块102，但是可以理解的是，其并不属于移动终端的必须构成，完全可以根据需要在不改变发明的本质的范围内而省略。

音频输出单元103可以在移动终端100处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时，将射频单元101或WiFi模块102接收的或者在存储器109中存储的音频数据转换成音频信号并且输出为声音。而且，音频输出单元103还可以提供与移动终端100执行的特定功能相关的音频输出(例如，呼叫信号接收声音、消息接收声音等等)。音频输出单元103可以包括扬声器、蜂鸣器等等。

A/V输入单元104用于接收音频或视频信号。A/V输入单元104可以包括图形处理器(Graphics Processing Unit，GPU)1041和麦克风1042，图形处理器1041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元106上。经图形处理器1041处理后的图像帧可以存储在存储器109(或其它存储介质)中或者经由射频单元101或WiFi模块102进行发送。麦克风1042可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风1042接收声音(音频数据)，并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由射频单元101发送到移动通信基站的格式输出。麦克风1042可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。

移动终端100还包括至少一种传感器105，比如光传感器、运动传感器以及其他传感器。具体地，光传感器包括环境光传感器及接近传感器，其中，环境光传感器可根据环境光线的明暗来调节显示面板1061的亮度，接近传感器可在移动终端100移动到耳边时，关闭显示面板1061和/或背光。作为运动传感器的一种，加速计传感器可检测各个方向上(一般为三轴)加速度的大小，静止时可检测出重力的大小及方向，可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等；至于手机还可配置的指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器，在此不再赘述。

显示单元106用于显示由用户输入的信息或提供给用户的信息。显示单元106可包括显示面板1061，可以采用液晶显示器(Liquid Crystal Display，LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板1061。

用户输入单元107可用于接收输入的数字或字符信息，以及产生与移动终端的用户设置以及功能控制有关的键信号输入。具体地，用户输入单元107可包括触控面板1071以及其他输入设备1072。触控面板1071，也称为触摸屏，可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1071上或在触控面板1071附近的操作)，并根据预先设定的程式驱动相应的连接装置。触控面板1071可包括触摸检测装置和触摸控制器两个部分。其中，触摸检测装置检测用户的触摸方位，并检测触摸操作带来的信号，将信号传送给触摸控制器；触摸控制器从触摸检测装置上接收触摸信息，并将它转换成触点坐标，再送给处理器110，并能接收处理器110发来的命令并加以执行。此外，可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1071。除了触控面板1071，用户输入单元107还可以包括其他输入设备1072。具体地，其他输入设备1072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种，具体此处不做限定。

进一步的，触控面板1071可覆盖显示面板1061，当触控面板1071检测到在其上或附近的触摸操作后，传送给处理器110以确定触摸事件的类型，随后处理器110根据触摸事件的类型在显示面板1061上提供相应的视觉输出。虽然在图1中，触控面板1071与显示面板1061是作为两个独立的部件来实现移动终端的输入和输出功能，但是在某些实施例中，可以将触控面板1071与显示面板1061集成而实现移动终端的输入和输出功能，具体此处不做限定。

接口单元108用作至少一个外部装置与移动终端100连接可以通过的接口。例如，外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元108可以用于接收来自外部装置的输入(例如，数据信息、电力等等)并且将接收到的输入传输到移动终端100内的一个或多个元件或者可以用于在移动终端100和外部装置之间传输数据。

存储器109可用于存储软件程序以及各种数据。存储器109可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外，存储器109可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。

处理器110是移动终端的控制中心，利用各种接口和线路连接整个移动终端的各个部分，通过运行或执行存储在存储器109内的软件程序和/或模块，以及调用存储在存储器109内的数据，执行移动终端的各种功能和处理数据，从而对移动终端进行整体监测。处理器110可包括一个或多个处理单元；优选的，处理器110可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作系统、用户界面和应用程序等，调制解调处理器主要处理无线通信。可以理解的是，上述调制解调处理器也可以不集成到处理器110中。

移动终端100还可以包括给各个部件供电的电源111(比如电池)，优选的，电源111可以通过电源管理系统与处理器110逻辑相连，从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。

尽管图1未示出，移动终端100还可以包括蓝牙模块等，在此不再赘述。

为了便于理解本发明实施例，下面对本发明的移动终端所基于的通信网络系统进行描述。

请参阅图2，图2为本发明实施例提供的一种通信网络系统架构图，该通信网络系统为通用移动通信技术的LTE系统，该LTE系统包括依次通讯连接的UE(User Equipment，用户设备)201，E-UTRAN(Evolved UMTS Terrestrial Radio Access Network，演进式UMTS陆地无线接入网)202，EPC(Evolved Packet Core，演进式分组核心网)203和运营商的IP业务204。

具体地，UE201可以是上述终端100，此处不再赘述。

E-UTRAN202包括eNodeB2021和其它eNodeB2022等。其中，eNodeB2021可以通过回程(backhaul)(例如X2接口)与其它eNodeB2022连接，eNodeB2021连接到EPC203，eNodeB2021可以提供UE201到EPC203的接入。

EPC203可以包括MME(Mobility Management Entity，移动性管理实体)2031，HSS(Home Subscriber Server，归属用户服务器)2032，其它MME2033，SGW(Serving Gate Way，服务网关)2034，PGW(PDN Gate Way，分组数据网络网关)2035和PCRF(Policy andCharging Rules Function，政策和资费功能实体)2036等。其中，MME2031是处理UE201和EPC203之间信令的控制节点，提供承载和连接管理。HSS2032用于提供一些寄存器来管理诸如归属位置寄存器(图中未示)之类的功能，并且保存有一些有关服务特征、数据速率等用户专用的信息。所有用户数据都可以通过SGW2034进行发送，PGW2035可以提供UE 201的IP地址分配以及其它功能，PCRF2036是业务数据流和IP承载资源的策略与计费控制策略决策点，它为策略与计费执行功能单元(图中未示)选择及提供可用的策略和计费控制决策。

IP业务204可以包括因特网、内联网、IMS(IP Multimedia Subsystem，IP多媒体子系统)或其它IP业务等。

虽然上述以LTE系统为例进行了介绍，但本领域技术人员应当知晓，本发明不仅仅适用于LTE系统，也可以适用于其他无线通信系统，例如GSM、CDMA2000、WCDMA、TD-SCDMA以及未来新的网络系统等，此处不做限定。

基于上述移动终端硬件结构以及通信网络系统，提出本发明方法各个实施例。

实施例1

基于上述的移动终端，本发明实施例提供了一种数据同步处理方法，图3是根据本发明实施例的数据同步处理方法的流程图一，如图3所示，该方法包括以下步骤：

步骤S301，从业务数据库中获取日志文件，其中，所述日志文件记录了所述业务数据库中全部的数据变更；

步骤S302，解析所述日志文件得到所述日志文件的数据；

步骤S303，将所述日志文件的数据存放到消息队列中；

步骤S304，监听所述消息队列，获取发生变更的数据，将所述发生变更的数据同步到数据中心。

通过上述步骤，从业务数据库中获取日志文件，其中，所述日志文件记录了所述业务数据库中全部的数据变更；解析所述日志文件得到所述日志文件的数据；将所述日志文件的数据存放到消息队列中；监听所述消息队列，获取发生变更的数据，将所述发生变更的数据同步到数据中心，解决了相关技术中数据同步存在只能同步数据库的新增数据、大量数据全量同步相当耗时或者做标记删除需要一定的开发维护工作的问题，通过日志文件的方式，避免了数据遗漏，采用监听数据变更，保证变更的数据实时同步，提高了用户体验。

本发明实施例中，从所述业务数据库中获取日志文件可以包括：获取上一次从所述业务数据库读取日志文件的位置信息，如果第一次启动，则获取初始位置或者当前日志文件的位点；与所述业务数据库建立连接，向所述业务数据库发送从所述位置信息获取日志文件数据的指令；接收所述业务数据库根据所述指令返回的日志文件。在根据接收到的指令获取日志文件时，从上一次读取日志文件的位置信息开始获取日志文件，保证不遗漏掉日志文件。

本发明实施例中，解析所述日志文件得到所述日志文件的数据可以包括：通过日志文件协议对所述日志文件进行解析，得到所述日志文件的数据。可以在解析的过程中，补充一些特定的信息，比如字段名称、数据类型、逐渐信息等。

为了便于之后通过位置信息读取缓存到消息队列中的日志文件，将解析得到的所述日志文件的数据存储到消息队列中，根据上一次从所述业务数据库读取日志文件的位置信息定时记录所述日志文件的位置信息。

在将所述数据存放到消息队列中之前，所述方法还包括：通过链接器对解析得到的数据进行以下处理：过滤、分发、归并、加工。其中，数据过滤，根据通配符过滤模式，过滤表名、字段等符合需要的信息；数据分发，解决1:n问题，即一个业务数据库，对应数据中心多个目标变更的位置；数据归并，解决n:1问题，即多个业务数据库的信息，合并到数据中心；数据加工，在进入下一个模块存储的一些额外处理(标注类型、长度、默认值)描述字段类型。

本发明实施例中，从所述消息队列中读取发生变更的一条或多条数据，其中，所述一条或多条数据包含：唯一标识和数据对象；回滚上次读取的数据，基于读取的数据的唯一标识提交到所述数据中心；回滚数据，是一种异常保护机制，回滚上次读取的数据，基于获取的batchId进行提交，在确认数据读取成功之后，通知所述消息队列删除回滚的数据，并标记本次读取数据的位置。

图4是根据本发明实施例的业务数据库与数据中心的架构图，如图4所示，数据中心与多个业务数据库连接，可以实现将多个业务数据库中的数据同步到数据中心。基于关系型数据库MySQL的主备复制实现，模拟关系型数据库的slave交互协议，接收master主数据库的日志文件，解析日志文件：其中，MySQL是一个开放源码的小型关联式数据库管理系统，开发者为瑞典MySQL AB公司。目前MySQL被广泛地应用在Internet上的中小型网站中。由于其体积小、速度快、总体拥有成本低，尤其是开放源码这一特点，许多中小型网站为了降低网站总体拥有成本而选择了MySQL作为网站数据库。与其他的大型数据库例如Oracle、DB2、SQL Server等相比，MySQL自有它的不足之处，如规模小、功能有限(MySQL Cluster的功能和效率都相对比较差)等，但是这丝毫也没有减少它受欢迎的程度。对于一般的个人使用者和中小型企业来说，MySQL提供的功能已经绰绰有余，而且由于MySQL是开放源码软件，因此可以大大降低总体拥有成本。目前Internet上流行的网站构架方式是LAMP(Linux+Apache+MySQL+PHP/Perl/Python)和LNMP(Linux+Nginx+MySQL+php/perl/Python)，即使用Linux作为操作系统，Apache和Nginx作为Web服务器，MySQL作为数据库，PHP/Perl/Python作为服务器端脚本解释器。

基于数据的日志文件，因此需要开启数据的日志文件写入功能，并配置日志文件的模型为行类型，数据基于行存储、查询，行由列组成，每列就是一个字段，一组字段组成行，日志文件行类型对应数据的行类型，即以数据行为单位记录。本发明实施例分四个步骤，分别是数据源接入、链接器、数据存储和增量订阅。图5是业务数据库与数据中心之间数据同步的流程图，如图5所示，包括以下步骤：

步骤S501，数据源接入，模拟slave协议和master进行交互，协议解析，从业务数据库获取日志文件并解析，大致可以分为以下几个步骤：

获取上一次业务数据库读取成功的位置(如果第一次启动，则获取初始位置或者当前日志文件的位点)；

与业务数据库建立连接，发送获取日志文件数据指令；

业务数据库开始推送业务数据库日志数据；

接收到的日志文件通过日志文件协议进行解析，补充一些特定的信息，比如字段名称、数据类型、逐渐信息等；

传送给下一个模块链接器进行数据存储，这是一个阻塞操作，阻塞表示当前数据存储完成才能继续下一次存储，因为日志文件有时间先后，先产生的日志必须先处理，比如有一行数据，先新增、再删除，就产生新增、删除日志，如果不阻塞，先处理删除日志，就找不到这一行数据，直到存储成功；

存储成功后，定时记录日志文件位置。

步骤S502，通过链接器进行数据过滤、加工、分发的工作。日志文件记录的是业务数据库全部的数据变更，必须把变更的数据再对应到数据中心的数据库，大致分为以下几个步骤：

数据过滤，根据通配符过滤模式，过滤表名、字段等符合需要的信息；

数据分发，解决1:n问题，即一个业务数据库，对应数据中心多个目标变更的位置；

数据归并，解决n:1问题，即多个业务数据库的信息，合并到数据中心；

数据加工，在进入下一个模块存储的一些额外处理，标注类型、长度、默认值)描述字段类型，数据类型的转换，以一行数据为例，由多列过程，每列表示一个字段，字段由名称、数据类型、长度、默认值、是否主键、取值等描述，然后转换成Java的数据结构。

步骤S503，数据存储。经过链接器处理的数据，存放到消息队列中进行存储。

步骤S504，增量订阅。监听消息队列，获取数据变更，并同步到数据中心，通过以下三个操作：

读取数据，允许制定批处理的大小batchSize，一次可以获取多条数据，每次返回的数据包含内容为：第一、批处理的batchId唯一标识，第二、具体的数据对象；

回滚数据，异常保护机制，异常保护用于回滚操作，一旦异常触发，表示数据提交失败，再异常中回滚数据，回滚上次读取的数据，基于获取的batchId进行提交；

确认提交，确认已经消费成功，消费成功指数据读取成功，这里采用经典的生产者-消费者，消费者负责读取生产者的数据，通知删除数据，提交batchId，一次批量读取数据成功后，必须通知生产者下一次读取的标记，batchId记录读取位置。

本发明实施例解决了数据库同步增量数据的问题，从日志文件出发，接入业务服务器、链接器过滤数据、存储数据，最后增量订阅到数据中心，避免遗漏修改和删除的数据无法同步，提高数据同步的效率。

本发明实施例还提供了一种数据库同步方法，该方法包括以下步骤：

步骤1、监听业务数据库的日志，捕获所述业务数据库的数据变化信息。

具体地，对业务数据库的日志进行监听，在业务数据库的日志发生变化时，捕获到该业务数据库的数据变化信息。例如，业务数据库可以为结构化查询语句(StructuredQuery Language，简称SQL)数据库，相应的，数据变化信息可以为SQL数据变化语句。

步骤2、确定待同步的数据中心的类型。实际应用中，可与多个业务数据库进行连接，在获取到数据变化信息后，可以确定待同步的数据中心的类型。本实施例中，数据中心的类型包括：业务数据库的完全备份数据库、业务数据库的部分备份数据库、用于存储数据变化信息的文件数据库、与业务数据库异构的数据库，本实施例中，业务数据库为关系型数据库，而与业务数据库异构的数据库为内存型数据库。为了便于表达和区分不同类型的数据库，本实施例中将业务数据库的完全备份数据库称为第一数据库、业务数据库的部分备份数据库称为第二数据库、内存型数据库称为第三数据库以及将用于存储数据变化信息的文件数据库称为第四数据库。

步骤3、获取与数据中心的类型对应的同步规则。本实施例中，预先存储各类型数据中心对应的同步规则。在确定出数据中心的类型后，根据数据中心的类型，获取与各类型数据中心相应的同步规则。具体地，预先存储数据中心的类型标识与同步规则标识之间的映射关系，当确定出数据中心的类型后，根据待同步的数据中心的类型标识查询上述映射关系，可以获取到与数据中心对应的同步规则标识，根据数据中心对应的同步规则标识，得到与数据中心对应的同步规则。

步骤4、根据所述数据变化信息和数据中心对应的同步规则，将数据中心与所述业务数据库进行数据同步。

具体地，如果待同步的数据中心的类型为第一数据库，即第一数据库为业务数据库的完全备份的数据库时，则获取到的与第一数据库对应的同步规则为：根据获取到的数据变化信息，将业务数据库中所有数据变化同步到该第一数据库中。

如果待同步的数据中心的类型为第二数据库，即第二数据库为业务数据库的部分备份，则获取到的与第二数据库对应的同步规则为：从数据变化信息中获取与第二数据库对应的第一数据变化信息，将第一数据变化信息对应的数据变化同步到第二数据库中。

如果待同步的数据中心的类型为第三数据库，其中，业务数据库为关系型数据库，该第三数据库为内存型数据库，则获取到的与第三数据库对应的同步规则中包括预设的业务数据库中数据表与第三数据库中数据表之间的映射关系，获取与业务数据库中数据表相关的第二数据变化信息，根据所述第二数据变化信息以及该映射关系，将第二数据变化信息对应的数据变化同步到第三数据库中。

如果待同步的数据中心的类型为第四数据库，即第四数据库为用于存储数据变化信息的文件型数据库，则获取到的与第四数据库对应的同步规则为：将数据变化信息存储到该第四数据库中。

相应地，当数据中心为第一数据库时，根据该数据变化信息和第一数据库对应的同步规则，将业务数据库中所有数据变化同步到该第一数据库中。

相应地，当数据中心为第二数据库时，从数据变化信息中获取该第二数据库对应的第一数据变化信息，然后将第一数据变化信息对应的数据变化同步到第二数据库中。例如，第二数据库为业务数据库中某一个子集的备份数据库，则从数据变化信息中获取该子集的数据变化信息即第一数据变化信息，然后根据该第一数据变化信息将该子集的数据变化同步到第二数据库中，这样就能够保证第二数据库与业务数据库中该子集的同步。

相应地，当数据中心为第三数据库时，查询第三数据库对应的同步规则中业务数据库中数据表与第三数据库中数据表之间的映射关系，基于映射关系中业务数据库中数据表，获取与业务数据库中数据表相关的第二数据变化信息，根据该第二数据变化信息和上述映射关系，将第二数据变化信息对应的数据变化同步到第三数据库中的数据表中。本实施例实现了关系型数据库与内存型数据库的同步。

相应地，当数据中心为第四数据库时，将数据变化信息同步到第四数据库中。

进一步地，还可以在业务数据库与数据中心进行同步过程中，监测是否发生数据同步中断，例如，数据中心因为硬件或网络故障导致数据同步无法进行，就会造成数据同步的中断。在监测到所述数据同步中断时，记录所述数据同步中断发生的中断点，以保证在所述数据同步中断恢复后，将所述中断点后的数据变化同步到所述数据中心中。

进一步地，在获取到数据变化信息后，还可以对数据变化信息进行预处理，例如，当数据变化信息为SQL数据变化语句时，对该SQL数据变化语句进行解析，得到数据变化信息。

还可以获取到每个数据变化信息的关键字，然后根据关键字对数据变化信息进行过滤，以降低待同步的数据量。本实施例中，设置一个用于对数据变化信息进行过滤的列表，该列表中存储有用于过滤的关键字，当监听到的数据变化信息中包括的关键字为该列表中关键字时，将该数据变化信息过滤掉，这样待同步的数据变化信息就可以得到精简，从而减少了待同步的数据的数据量，降低资源浪费，提高数据库之间的同步效率。其中上述列表可以由管理人员根据实际需求进行灵活设置。

而且可以采用消息队列机制，将数据变化信息发送到消息对列中，基于消息队列对所有数据变化信息，实现数据库之间的数据同步。可选地，还可以对数据变化信息进行缓存，以避免数据变化信息的丢失。

本实施例提供的数据库同步方法，监听业务数据库的日志，捕获业务数据库的数据变化信息，确定待同步的数据中心的类型，根据数据中心的类型，获取与数据中心的类型对应的同步规则，根据数据变化信息和数据中心对应的同步规则，将数据中心与业务数据库进行数据同步。本实施例中为不同类型的数据中心建立不同的同步规则，在获取到业务数据库的数据变化信息后，基于数据中心对应的同步规则，将数据中心与业务数据库进行数据同步，不需要多次采集业务数据库的数据变化信息，降低了资源浪费，并且提高了数据库之间的同步效率。

实施例2

根据本发明实施例的另一方面，还提供了一种移动终端，图6是根据本发明实施例的数据同步的移动终端的框图，如图6所示，所述移动终端包括处理器、存储器及通信总线；

所述通信总线用于实现处理器和存储器之间的连接通信；

所述处理器用于执行存储器中存储的数据同步处理程序，以实现以下步骤：

从业务数据库中获取日志文件，其中，所述日志文件记录了所述业务数据库中全部的数据变更；

解析所述日志文件得到所述日志文件的数据；

将所述日志文件的数据存放到消息队列中；

监听所述消息队列，获取发生变更的数据，将所述发生变更的数据同步到数据中心。

优选地，所述处理器还用于执行数据同步处理程序，以实现以下步骤：

获取上一次从所述业务数据库读取日志文件的位置信息；

与所述业务数据库建立连接，向所述业务数据库发送从所述位置信息获取日志文件数据的指令；

接收所述业务数据库根据所述指令返回的日志文件。

优选地，所述处理器还用于执行数据同步处理程序，以实现以下步骤：

通过日志文件协议对所述日志文件进行解析得到所述日志文件的数据。

优选地，所述处理器还用于执行数据同步处理程序，以实现以下步骤：

将解析得到的所述日志文件的数据存储到消息队列中，根据上一次从所述业务数据库读取日志文件的位置信息定时记录所述日志文件的位置信息。

优选地，所述处理器还用于执行数据同步处理程序，以实现以下步骤：

在将所述数据存放到消息队列中之前，对解析得到的数据进行以下处理：过滤、分发、归并、加工。

优选地，所述处理器还用于执行数据同步处理程序，以实现以下步骤：

从所述消息队列中读取发生变更的一条或多条数据，其中，所述一条或多条数据包含：唯一标识和数据对象；

回滚上次读取的数据，基于读取的数据的唯一标识提交到所述数据中心；

在确认数据读取成功之后，通知所述消息队列删除回滚的数据，并标记本次读取数据的位置。

实施例3

根据本发明实施例的另一方面，还提供了一种计算机可读存储介质，所述计算机可读存储介质存储有一个或者多个程序，所述一个或者多个程序可被一个或者多个处理器执行，以实现上述数据同步处理方法的步骤。

本发明实施例，从业务数据库中获取日志文件，其中，所述日志文件记录了所述业务数据库中全部的数据变更；解析所述日志文件得到所述日志文件的数据；将所述日志文件的数据存放到消息队列中；监听所述消息队列，获取发生变更的数据，将所述发生变更的数据同步到数据中心，解决了相关技术中数据同步存在只能同步数据库的新增数据、大量数据全量同步相当耗时或者做标记删除需要一定的开发维护工作的问题，通过日志文件的方式，避免了数据遗漏，采用监听数据变更，保证变更的数据实时同步，提高了用户体验。

需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。

上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本发明各个实施例所述的方法。

上面结合附图对本发明的实施例进行了描述，但是本发明并不局限于上述的具体实施方式，上述的具体实施方式仅仅是示意性的，而不是限制性的，本领域的普通技术人员在本发明的启示下，在不脱离本发明宗旨和权利要求所保护的范围情况下，还可做出很多形式，这些均属于本发明的保护之内。

Claims (10)

1.一种数据同步处理方法，其特征在于，包括：

从业务数据库中获取日志文件，其中，所述日志文件记录了所述业务数据库中全部的数据变更；

解析所述日志文件得到所述日志文件的数据；

将所述日志文件的数据存放到消息队列中；

监听所述消息队列，获取发生变更的数据，将所述发生变更的数据同步到数据中心。

2.根据权利要求1所述的方法，其特征在于，从所述业务数据库中获取日志文件的步骤包括：

获取上一次从所述业务数据库读取日志文件的位置信息；

与所述业务数据库建立连接，向所述业务数据库发送从所述位置信息获取日志文件数据的指令；

接收所述业务数据库根据所述指令返回的日志文件。

3.根据权利要求2所述的方法，其特征在于，解析所述日志文件得到所述日志文件的数据的步骤包括：

通过日志文件协议对所述日志文件进行解析得到所述日志文件的数据。

4.根据权利要求3所述的方法，其特征在于，将所述数据存放到消息队列中的步骤包括：

将解析得到的所述日志文件的数据存储到消息队列中，根据上一次从所述业务数据库读取日志文件的位置信息定时记录所述日志文件的位置信息。

5.根据权利要求1至4中任一项所述的方法，其特征在于，在将所述数据存放到消息队列中之前，所述方法还包括：

对解析得到的数据进行以下处理：过滤、分发、归并、加工。

6.根据权利要求5所述的方法，其特征在于，监听所述消息队列，获取发生变更的数据，将所述发生变更的数据同步到数据中心的步骤包括：

从所述消息队列中读取发生变更的一条或多条数据，其中，所述一条或多条数据包含：唯一标识和数据对象；

回滚上次读取的数据，基于读取的数据的唯一标识提交到所述数据中心；

在确认数据读取成功之后，通知所述消息队列删除回滚的数据，并标记本次读取数据的位置。

7.一种移动终端，其特征在于，所述移动终端包括处理器、存储器及通信总线；

所述通信总线用于实现处理器和存储器之间的连接通信；

所述处理器用于执行存储器中存储的数据同步处理程序，以实现以下步骤：

从业务数据库中获取日志文件，其中，所述日志文件记录了所述业务数据库中全部的数据变更；

解析所述日志文件得到所述日志文件的数据；

将所述日志文件的数据存放到消息队列中；

监听所述消息队列，获取发生变更的数据，将所述发生变更的数据同步到数据中心。

8.根据权利要求7所述的移动终端，其特征在于，所述处理器还用于执行数据同步处理程序，以实现以下步骤：

获取上一次从所述业务数据库读取日志文件的位置信息；

与所述业务数据库建立连接，向所述业务数据库发送从所述位置信息获取日志文件数据的指令；

接收所述业务数据库根据所述指令返回的日志文件。

9.根据权利要求8所述的移动终端，其特征在于，所述处理器还用于执行数据同步处理程序，以实现以下步骤：

通过日志文件协议对所述日志文件进行解析得到所述日志文件的数据。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有一个或者多个程序，所述一个或者多个程序可被一个或者多个处理器执行，以实现权利要求1-6中任一项所述数据同步处理方法的步骤。