CN108733671B - 数据历史归档的方法和装置 - Google Patents

数据历史归档的方法和装置 Download PDF

Info

Publication number
CN108733671B
CN108733671B CN201710243768.5A CN201710243768A CN108733671B CN 108733671 B CN108733671 B CN 108733671B CN 201710243768 A CN201710243768 A CN 201710243768A CN 108733671 B CN108733671 B CN 108733671B
Authority
CN
China
Prior art keywords
data
main table
failure
service
business
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710243768.5A
Other languages
English (en)
Other versions
CN108733671A (zh
Inventor
郭玉杰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Jingdong Century Trading Co Ltd
Beijing Jingdong Shangke Information Technology Co Ltd
Original Assignee
Beijing Jingdong Century Trading Co Ltd
Beijing Jingdong Shangke Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Jingdong Century Trading Co Ltd, Beijing Jingdong Shangke Information Technology Co Ltd filed Critical Beijing Jingdong Century Trading Co Ltd
Priority to CN201710243768.5A priority Critical patent/CN108733671B/zh
Publication of CN108733671A publication Critical patent/CN108733671A/zh
Application granted granted Critical
Publication of CN108733671B publication Critical patent/CN108733671B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明提供一种数据历史归档的方法和装置,其中,该方法包括如下步骤:由配置文件提供需历史归档的数据的条件参数;查询到符合条件参数的业务主表数据并放入基于调度任务的任务队列;遍历处理任务队列中的每一条业务主表数据;处理失败表,其中,关联查询失败表和业务主表数据,将失败表中对应的业务主表数据放入到基于调度任务的任务队列并对其进行遍历处理。

Description

数据历史归档的方法和装置
技术领域
本发明涉及计算机技术领域,尤其涉及一种数据历史归档的方法和装置。
背景技术
随着业务的发展,数据库数据的单量会越来越大,而一般设计的业务表都会设计一个业务主表和与其相关联的多个业务子表,随着单量越来越大,数据需要做历史归档。
在实现本发明的过程中,发明人发现现有技术中至少存在如下问题:手动迁移数据库数据,从而导致数据的安全性得不到保证;每个业务子表都需要关联查询,随后再一个表接着一个表地做历史归档,从而导致归档效率很低;历史库一般与生产库不是同一个库,这是因为连接了不同的数据源,因而不能保证数据完整性,例如有可能部分业务子表的数据已迁移到历史库中,但仍有相关表的数据没有正确迁移。
发明内容
有鉴于此,本发明实施例提供一种数据历史归档的方法、装置、电子设备和计算机可读介质,能够在基于调度任务对多表关联的数据进行历史归档时不需手动操作数据库,从而保证数据的安全性;能够根据可装备的配置文件,系统地查询主表的需要归档的历史数据,系统仅根据外键来查询各相关联的子表的需要归档的历史数据,而不需要每个子表归档都根据表关联来查询,从而提高归档效率;能够借助数据源切换机制以及封装统一经由spring控制事务,从而通过事务及容错来保证数据完整性。
为实现上述目的,根据本发明实施例的一个方面,提供了一种数据历史归档的方法。
本发明实施例的一种数据历史归档的方法包括如下步骤:
a)由配置文件提供需历史归档的数据的条件参数;
b)查询到符合条件参数的业务主表数据并放入基于调度任务的任务队列;
c)对任务队列中的每一条业务主表数据按如下措施进行处理,其中,所述措施具有如下步骤:i)通过业务主表主键查询业务主表数据的业务子表数据并且每一个业务子表封装一个集合;ii)经由数据源切换机制并通过spring控制事务来将所述业务子表数据及其对应的业务主表数据插入历史数据库,如果插入并不成功,则将业务主表主键、记录类型为数据插入历史库失败记录到失败表中并回滚所述措施;iii)经由数据源切换机制并通过spring控制事务来删除业务子表生产库的数据以及业务主表生产库的数据,如果删除不成功,则将业务主表主键、记录类型为删除生产库数据失败记录到失败表中并回滚所述措施,所述回滚是指终止措施且不会对接下来要处理的业务主表数据产生影响;
d)处理失败表,其中,将所述失败表中对应的业务主表数据放入到所述调度任务的任务队列并依次对其中每一条业务主表数据进行处理,直至失败表中对应于业务主表数据的记录为空;
其中,调度任务是指自动调度、依次处理任务队列中所有业务主表数据的过程。
在此,数据源切换机制包括如下步骤:配置生产库数据源和历史库数据源;继承spring框架中的数据源抽象类、自定义数据源切换类并重写数据源选择数据库逻辑;自定义拦截器工具类以便加注解标识。
可选地,当所述数据源切换机制用于数据插入历史库时,所述注解标识为history;而当所述数据源切换机制用于删除生产库数据时,所述注解标识为write。
当在处理失败表的情况下对放入到基于调度任务的任务队列中的每一条业务主表数据进行处理时,如果记录类型为数据插入历史库失败,则依次执行所述措施的步骤i)至iii),在成功执行步骤i)至iii)之后删除失败表中对应于业务主表数据的记录;而如果记录类型为删除生产库数据失败,则仅执行所述措施的步骤iii),在成功执行步骤iii)之后删除失败表中对应于业务主表数据的记录。
本发明实施例的一种用于数据历史归档的装置包括:配置文件模块、查询业务主表数据模块、遍历执行任务队列模块以及失败表处理模块,其中,
配置文件模块用于提供需历史归档的数据的条件参数;
查询业务主表数据模块用于查询到符合条件参数的业务主表数据并放入基于调度任务的任务队列;
遍历执行任务队列模块用于对任务队列中的每一条业务主表数据按如下措施进行处理,其中,所述措施具有如下步骤:i)通过业务主表主键查询业务子表数据并且每一个业务子表封装一个集合;ii)经由数据源切换机制并通过spring控制事务来将所述业务子表数据及其对应的业务主表数据插入历史数据库,如果插入不成功,则将业务主表主键、记录类型为数据插入历史库失败记录到失败表中并回滚所述措施;iii)经由数据源切换机制并通过spring控制事务来删除业务子表生产库的数据以及业务主表生产库的数据,如果删除不成功,则将业务主表主键、记录类型为删除生产库数据失败记录到失败表中并回滚所述措施,所述回滚是指终止措施且不会对接下来要处理的业务主表数据产生影响;
失败表处理模块用于:将所述失败表中对应的业务主表数据放入到所述调度任务的任务队列并依次对其中每一条业务主表数据进行处理,直至失败表中对应于业务主表数据的记录为空;
其中,调度任务是指自动调度、依次处理任务队列中所有业务主表数据的过程。
同样地,在该装置中所执行的数据源切换机制包括如下步骤:配置生产库数据源和历史库数据源;继承spring框架中的数据源抽象类、自定义数据源切换类并重写数据源选择数据库逻辑;自定义拦截器工具类以便加注解标识。
可选地,当所述数据源切换机制用于数据插入历史库时,所述注解标识为history;而当所述数据源切换机制用于删除生产库数据时,所述注解标识为write。
当在处理失败表的情况下对放入到基于调度任务的任务队列中的每一条业务主表数据进行处理时,如果记录类型为数据插入历史库失败,则依次执行所述措施的步骤i)至iii),在成功执行步骤i)至iii)之后删除失败表中对应于业务主表数据的记录;而如果记录类型为删除生产库数据失败,则仅执行所述措施的步骤iii),在成功执行步骤iii)之后删除失败表中对应于业务主表数据的记录。
为实现上述目的,根据本发明实施例的再一方面,提供了一种电子设备。
本发明实施例的一种电子设备包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现数据历史归档的方法。
为实现上述目的,根据本发明实施例的又一方面,提供了一种计算机可读介质。
本发明实施例的一种计算机可读介质存储计算机程序,所述程序被处理器执行时实现数据历史归档的方法。
上述发明中的实施例具有如下优点或有益效果:保证了数据的安全性并提高了归档效率且同时保证了数据的完整性。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明,不构成对本发明的不当限定。其中:
图1是根据本发明实施例的数据历史归档方法的以概略的方式示出的流程图;
图2较详细地执行根据本发明实施例的数据历史归档方法的流程图;
图3是根据本发明实施例的数据历史归档装置的示意图,其中,该装置包括配置文件模块、查询业务主表数据模块、遍历执行任务队列模块以及失败表处理模块;
图4是适用于来实现本申请实施例的电子设备或服务器的计算机系统的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
为了解决现有技术中的如下缺点,即,数据安全性由于手动迁移数据库而得不到充分保障;由于每个业务子表都需要关联查询,随后再一个表接着一个表地做历史归档,因而导致归档效率很低;此外,数据的完整性也并不能得到充分保障。本发明实施例提供了一种数据历史归档方法来解决现有技术中的上述技术问题。
如图1所示,本发明实施例的一种数据历史归档的方法主要包括如下步骤:
步骤S1:由配置文件提供需历史归档的数据的条件参数;
步骤S2:查询到符合条件参数的业务主表数据并放入基于调度任务的任务队列;
步骤S3:遍历处理任务队列中的每一条业务主表数据;
步骤S4:处理失败表,其中,将失败表中对应的业务主表数据放入到基于调度任务的任务队列并依次对其中每一条业务主表数据进行处理,直至失败表中对应于业务主表数据的记录为空;
其中,调度任务是指自动调度、依次处理任务队列中所有业务主表数据的过程。
图2较详细地示出了如何执行根据本发明实施例的数据历史归档方法。
首先,配置文件设置时间、状态等条件。随后,调度任务查询需要做历史归档的业务主表数据,其中,所查询动的符合所述条件的业务主表数据被放入基于调度任务的任务队列中。可以看出,每个任务对应一条业务主表数据。依次对任务队列中的每一条业务主表数据进行处理,对其中一条业务主表数据进行处理的具体方式为,查询所关联的所有业务子表数据并且每个业务子表封装一个集合。随后,将所有业务子表数据及业务主表数据插入历史数据库并在插入成功之后紧接着删除所有业务子表数据及业务主表的生产库的数据。如果删除成功,则表示任务队列中的其中一个任务执行完成。如上面所提到的那样遍历执行任务队列中的所有任务。之后,根据需要,可以再进行调度任务查询需要做历史归档的业务主表数据并重复执行上述过程,直至调度任务查询不到需要做历史归档的业务主表数据。
在图3中并未示出对应于图1中步骤S3以及步骤S4的内容,因此接下来对它们分别进行详细的阐述。
步骤S3以如下措施对任务队列中的每一条业务主表数据进行处理,该措施具有如下步骤:i)通过业务主表主键查询所有业务子表的数据,也就是说,通过业务主表主键的值来查询业务子表中外键等于业务主表主键值的记录并且每一个业务子表封装一个集合;ii)将业务子表的数据以及对应的业务主表的数据插入历史数据库,为此执行数据源切换机制并通过spring控制事务,一旦在插入过程中出现异常,则回滚整个机制并将业务主表主键、记录类型记录到失败表中,记录类型为数据插入历史库失败;iii)在上一子步骤成功执行的情况下,通过业务主表主键来删除所有相关联的业务子表生产库的数据并删除业务主表生产库的数据,为此执行数据源切换机制并通过spring控制事务,一旦在删除过程中出现异常,则回滚整个机制并将业务主表主键、记录类型记录到失败表中,记录类型为删除生产库数据失败。在此,回滚的含义为终止措施且不会对接下来要处理的业务主表数据产生影响。
另外,其中所提到的数据源切换机制又包括如下实施步骤,即,配置生产库数据源和历史库数据源;继承spring框架中的数据源抽象类、自定义数据源切换类并重写数据源选择数据库逻辑;自定义拦截器工具类以便加注解标识。当数据源切换机制用于数据插入历史库时,则注解标识为history,而当数据源切换机制用于删除生产库数据时,则注解标识为write。
在执行步骤S4时,也就是说在具体处理失败表时,当在处理失败表的情况下对放入到基于调度任务的任务队列中的每一条业务主表数据进行处理时,如果记录类型为数据插入历史库失败,则依次执行所述措施的步骤i)至iii),在成功执行步骤i)至iii)之后删除失败表中对应于业务主表数据的记录;而如果记录类型为删除生产库数据失败,则仅执行所述措施的步骤iii),在成功执行步骤iii)之后删除失败表中对应于业务主表数据的记录。
如图3所示,本发明实施例的一种用于数据历史归档的装置包括如下模块,即,配置文件模块、查询业务主表数据模块、遍历执行任务队列模块以及失败表处理模块,其中:
配置文件模块用于提供需历史归档的数据的条件参数;
查询业务主表数据模块用于查询到符合条件参数的业务主表数据并放入基于调度任务的任务队列;
遍历执行任务队列模块用于对任务队列中的每一条业务主表数据按如下措施进行处理,其中,所述措施具有如下步骤:i)通过业务主表主键查询业务子表数据并且每一个业务子表封装一个集合;ii)经由数据源切换机制并通过spring控制事务来将所述业务子表数据及其对应的业务主表数据插入历史数据库,如果在插入过程中抛出异常,则将业务主表主键、记录类型为数据插入历史库失败记录到失败表中并回滚所述措施;iii)经由数据源切换机制并通过spring控制事务来删除业务子表生产库的数据以及业务主表生产库的数据,如果在删除过程中抛出异常,则将业务主表主键、记录类型为删除生产库数据失败记录到失败表中并回滚所述措施,所述回滚是指终止措施且不会对接下来要处理的业务主表数据产生影响;
失败表处理模块用于:将所述失败表中对应的业务主表数据放入到基于调度任务的任务队列并依次对其中每一条业务主表数据进行处理,直至失败表中对应于业务主表数据的记录为空;
其中,调度任务是指自动调度、依次处理任务队列中所有业务主表数据的过程。
在该装置中所执行的数据源切换机制包括如下步骤:配置生产库数据源和历史库数据源;继承spring框架中的数据源抽象类、自定义数据源切换类并重写数据源选择数据库逻辑;自定义拦截器工具类以便加注解标识
可选地,当所述数据源切换机制用于数据插入历史库时,所述注解标识为history;而当所述数据源切换机制用于删除生产库数据时,所述注解标识为write。
在处理失败表的情况下对放入到基于调度任务的任务队列中的每一条业务主表数据进行处理时,如果记录类型为数据插入历史库失败,则依次执行所述措施的步骤i)至iii),在成功执行步骤i)至iii)之后删除失败表中对应于业务主表数据的记录;而如果记录类型为删除生产库数据失败,则仅执行所述措施的步骤iii),在成功执行步骤iii)之后删除失败表中对应于业务主表数据的记录。一般而言,在数据正常且调度任务正常的情况下,不会出现一直失败的情况。
根据本发明的实施例,本发明还提供了一种电子设备和一种计算机可读介质。
本发明实施例的电子设备包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现数据历史归档的方法。
本发明实施例的计算机可读介质,所述计算机可读介质存储计算机程序,所述计算机程序被处理器执行时实现数据历史归档的方法。
下面参考图4,其示出了适于用来实现本申请实施例的电子设备的计算机系统400的结构示意图。图4示出的电子设备仅仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。
如图4所示,计算机系统300包括中央处理单元(CPU)401,其可以根据存储在只读存储器(ROM)402中的程序或者从存储部分、408加载到随机访问存储器(RAM)403中的程序而执行各种适当的动作和处理。在RAM 403中,还存储有系统400操作所需的各种程序和数据。CPU 401、ROM 402以及RAM 403通过总线404彼此相连。输入/输出(I/O)接口405也连接至总线404。
以下部件连接至I/O接口405:包括键盘、鼠标等的输入部分406;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分407;包括硬盘等的存储部分408;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分409。通信部分409经由诸如因特网的网络执行通信处理。驱动器410也根据需要连接至I/O接口405。可拆卸介质411,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器410上,以便于从其上读出的计算机程序根据需要被安装入存储部分408。
特别地,根据本发明公开的实施例,上文描述的方法可以被实现为计算机软件程序。例如,本发明公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行所描述的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分409从网络上被下载和安装,和/或从可拆卸介质411被安装。在该计算机程序被中央处理单元(CPU)401执行时,执行本申请的系统中限定的上述功能。
需要说明的是,本申请所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中,例如,可以描述为:一种处理器包括配置文件模块、查询业务主表数据模块、遍历执行任务队列模块、失败表处理模块。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该电子设备执行时,使得该电子设备包括:a)由配置文件提供需历史归档的数据的条件参数;b)查询到符合条件参数的业务主表数据并放入基于调度任务的任务队列;c)对任务队列中的每一条业务主表数据按如下措施进行处理,其中,所述措施具有如下步骤:i)通过业务主表主键查询业务子表数据并且每一个业务子表封装一个集合;ii)经由数据源切换机制并通过spring控制事务来将所述业务子表数据及其对应的业务主表数据插入历史数据库,如果所述插入不成功,则将业务主表主键、记录类型为数据插入历史库失败记录到失败表中并回滚所述措施;iii)经由数据源切换机制并通过spring控制事务来删除业务子表生产库的数据以及业务主表生产库的数据,如果所述删除不成功,则将业务主表主键、记录类型为删除生产库数据失败记录到失败表中并回滚所述措施;d)处理失败表,其中,将所述失败表中对应的业务主表数据放入到基于调度任务的任务队列并依次对其中每一条业务主表数据进行处理,直至失败表中对应于业务主表数据的记录为空;其中,调度任务是指自动调度、依次处理任务队列中所有业务主表数据的过程。
根据本发明实施例的技术方案具有如下优点或有益效果:保证了数据的安全性并提高了归档效率且同时保证了数据的完整性。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。

Claims (12)

1.一种数据历史归档方法,其特征在于,包括如下步骤:
a)由配置文件提供需历史归档的数据的条件参数;
b)查询到符合条件参数的业务主表数据并放入基于调度任务的任务队列;
c)对任务队列中的每一条业务主表数据按如下措施进行处理,其中,所述措施具有如下步骤:i)通过业务主表主键查询业务子表数据并且每一个业务子表封装一个集合;ii)经由数据源切换机制并通过spring控制事务来将所述业务子表数据及其对应的业务主表数据插入历史数据库,如果所述插入不成功,则将业务主表主键、记录类型为数据插入历史库失败记录到失败表中并回滚所述措施;iii)经由数据源切换机制并通过spring控制事务来删除业务子表生产库的数据以及业务主表生产库的数据,如果所述删除不成功,则将业务主表主键、记录类型为删除生产库数据失败记录到失败表中并回滚所述措施;
d)处理失败表,其中,将所述失败表中对应的业务主表数据放入到基于调度任务的任务队列并依次对其中每一条业务主表数据进行处理,直至失败表中对应于业务主表数据的记录为空;
其中,调度任务是指自动调度、依次处理任务队列中所有业务主表数据的过程。
2.根据权利要求1所述的方法,其特征在于,所述数据源切换机制包括如下步骤:
配置生产库数据源和历史库数据源;
继承spring框架中的数据源抽象类、自定义数据源切换类并重写数据源选择数据库逻辑;
自定义拦截器工具类以便加注解标识。
3.根据权利要求2所述的方法,其特征在于,所述数据源切换机制用于数据插入历史库时,所述注解标识为history。
4.根据权利要求2所述的方法,其特征在于,所述数据源切换机制用于删除生产库数据时,所述注解标识为write。
5.根据权利要求1所述的方法,其特征在于,当在处理失败表的情况下对放入到基于调度任务的任务队列中的每一条业务主表数据进行处理时,如果记录类型为数据插入历史库失败,则依次执行所述措施的步骤i)至iii),在成功执行步骤i)至iii)之后删除失败表中对应于业务主表数据的记录;而如果记录类型为删除生产库数据失败,则仅执行所述措施的步骤iii),在成功执行步骤iii)之后删除失败表中对应于业务主表数据的记录。
6.一种用于数据历史归档的装置,其特征在于,所述装置包括:配置文件模块、查询业务主表数据模块、遍历执行任务队列模块以及失败表处理模块,其中,
所述配置文件模块用于提供需历史归档的数据的条件参数;
所述查询业务主表数据模块用于查询到符合条件参数的业务主表数据并放入基于调度任务的任务队列;
所述遍历执行任务队列模块用于对任务队列中的每一条业务主表数据按如下措施进行处理,其中,所述措施具有如下步骤:i)通过业务主表主键查询业务子表数据并且每一个业务子表封装一个集合;ii)经由数据源切换机制并通过spring控制事务来将所述业务子表数据及其对应的业务主表数据插入历史数据库,如果所述插入不成功,则将业务主表主键、记录类型为数据插入历史库失败记录到失败表中并回滚所述措施;iii)经由数据源切换机制并通过spring控制事务来删除业务子表生产库的数据以及业务主表生产库的数据,如果所述删除不成功,则将业务主表主键、记录类型为删除生产库数据失败记录到失败表中并回滚所述措施;
所述失败表处理模块用于:将所述失败表中对应的业务主表数据放入到基于调度任务的任务队列并依次对其中每一条业务主表数据进行处理,直至失败表中对应于业务主表数据的记录为空;
其中,调度任务是指自动调度、依次处理任务队列中所有业务主表数据的过程。
7.根据权利要求6所述的装置,其特征在于,所述数据源切换机制包括如下步骤:
配置生产库数据源和历史库数据源;
继承spring框架中的数据源抽象类、自定义数据源切换类并重写数据源选择数据库逻辑;
自定义拦截器工具类以便加注解标识。
8.根据权利要求7所述的装置,其特征在于,所述数据源切换机制用于数据插入历史库时,所述注解标识为history。
9.根据权利要求7所述的装置,其特征在于,所述数据源切换机制用于删除生产库数据时,所述注解标识为write。
10.根据权利要求6所述的装置,其特征在于,当在处理失败表的情况下对放入到基于调度任务的任务队列中的每一条业务主表数据进行处理时,如果记录类型为数据插入历史库失败,则依次执行所述措施的步骤i)至iii),在成功执行步骤i)至iii)之后删除失败表中对应于业务主表数据的记录;而如果记录类型为删除生产库数据失败,则仅执行所述措施的步骤iii),在成功执行步骤iii)之后删除失败表中对应于业务主表数据的记录。
11.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-5中任一所述的方法。
12.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-5中任一所述的方法。
CN201710243768.5A 2017-04-14 2017-04-14 数据历史归档的方法和装置 Active CN108733671B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710243768.5A CN108733671B (zh) 2017-04-14 2017-04-14 数据历史归档的方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710243768.5A CN108733671B (zh) 2017-04-14 2017-04-14 数据历史归档的方法和装置

Publications (2)

Publication Number Publication Date
CN108733671A CN108733671A (zh) 2018-11-02
CN108733671B true CN108733671B (zh) 2020-11-03

Family

ID=63924357

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710243768.5A Active CN108733671B (zh) 2017-04-14 2017-04-14 数据历史归档的方法和装置

Country Status (1)

Country Link
CN (1) CN108733671B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110837592B (zh) * 2019-11-08 2021-01-26 京东数字科技控股有限公司 数据归档的方法、装置和计算机可读存储介质
CN111400275B (zh) * 2019-12-16 2024-01-05 杭州美创科技有限公司 一种定制并自动进行数据老化的方法
CN111090652B (zh) * 2019-12-20 2023-05-23 山大地纬软件股份有限公司 一种可水平扩展归档数据库的数据归档方法和装置
CN111831661A (zh) * 2020-07-20 2020-10-27 江苏云柜网络技术有限公司 一种基于快递业务逻辑的数据库归档方法
CN113742321A (zh) * 2020-09-24 2021-12-03 北京沃东天骏信息技术有限公司 一种数据更新的方法和装置

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101539855A (zh) * 2008-12-25 2009-09-23 厦门亿力吉奥信息科技有限公司 一种业务基础软件平台
CN103036956A (zh) * 2012-11-30 2013-04-10 航天恒星科技有限公司 一种分布式组态化海量数据归档系统及实现方法
CN103514295A (zh) * 2013-10-10 2014-01-15 中国电子科技集团公司第十五研究所 历史数据归档方法及历史数据归档装置
CN103761318A (zh) * 2014-01-27 2014-04-30 中国工商银行股份有限公司 一种关系型异构数据库数据同步的方法及系统
CN104137103A (zh) * 2012-02-22 2014-11-05 国际商业机器公司 智能数据归档
CN105279261A (zh) * 2015-10-23 2016-01-27 北京京东尚科信息技术有限公司 动态可扩展数据库归档方法和系统
EP2988291A1 (en) * 2014-08-22 2016-02-24 IDscan Biometrics Limited Method, system and computer program for personal data sharing
CN105808633A (zh) * 2016-01-08 2016-07-27 平安科技(深圳)有限公司 数据归档方法和系统

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2825764C (en) * 2011-01-26 2021-11-02 Viaforensics, Llc Systems, methods, apparatuses, and computer program products for forensic monitoring
US20150012498A1 (en) * 2012-04-09 2015-01-08 Danny Oberoi Creating an archival model

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101539855A (zh) * 2008-12-25 2009-09-23 厦门亿力吉奥信息科技有限公司 一种业务基础软件平台
CN104137103A (zh) * 2012-02-22 2014-11-05 国际商业机器公司 智能数据归档
CN103036956A (zh) * 2012-11-30 2013-04-10 航天恒星科技有限公司 一种分布式组态化海量数据归档系统及实现方法
CN103514295A (zh) * 2013-10-10 2014-01-15 中国电子科技集团公司第十五研究所 历史数据归档方法及历史数据归档装置
CN103761318A (zh) * 2014-01-27 2014-04-30 中国工商银行股份有限公司 一种关系型异构数据库数据同步的方法及系统
EP2988291A1 (en) * 2014-08-22 2016-02-24 IDscan Biometrics Limited Method, system and computer program for personal data sharing
CN105279261A (zh) * 2015-10-23 2016-01-27 北京京东尚科信息技术有限公司 动态可扩展数据库归档方法和系统
CN105808633A (zh) * 2016-01-08 2016-07-27 平安科技(深圳)有限公司 数据归档方法和系统

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
Improvement of big data retrieval algorithm in the intelligent archives management;Wang Yong et al;《2015 12th IEEE International Conference on Electronic Measurement & Instruments (ICEMI)》;20160620;第487-491页 *
The History of Web Archiving;Masashi Toyoda et al;《Proceedings of the IEEE》;20120411;第1441-1443页 *
数据归档与信息检索系统的研究与实现;王军;《中国优秀硕士学位论文全文数据库 信息科技辑》;20120915;第2012年卷(第09期);第I138-861页 *
银行数据归档管理平台设计与实现;司巧梅;《中国优秀硕士学位论文全文数据库 信息科技辑》;20160315;第2016年卷(第03期);第I138-3408页 *

Also Published As

Publication number Publication date
CN108733671A (zh) 2018-11-02

Similar Documents

Publication Publication Date Title
CN108733671B (zh) 数据历史归档的方法和装置
US9852197B2 (en) ETL tool interface for remote mainframes
US11005850B2 (en) Access control for database
US9805326B2 (en) Task management integrated design environment for complex data integration applications
US20160048541A1 (en) Automatic table cleanup for relational databases
US9245256B2 (en) Assigning and managing reviews of a computing file
CN107391635A (zh) 数据同步系统及方法
US9305067B2 (en) Creation of change-based data integration jobs
US10089085B2 (en) Versioning for configurations of reusable artifacts
CN109284126B (zh) 类库自动更新方法、装置、电子设备、存储介质
US8290916B2 (en) Rule-based record profiles to automate record declaration of electronic documents
KR20150124653A (ko) 프로세스 검증 기능이 구비된 전력 계통 감시 및 제어 시스템
US9607021B2 (en) Loading data with complex relationships
US20190332993A1 (en) Cross domain integration in product lifecycle management
CN111435306A (zh) 一种代码的管理方法和装置
CN113411271A (zh) 数据接入方法、装置、设备以及存储介质
US10482077B2 (en) System and method for asynchronous update of a search index
US9870257B1 (en) Automation optimization in a command line interface
US20120215819A1 (en) Tool for removing inactive objects
US11100060B2 (en) Method, device and computer program product for data migration
US11068351B2 (en) Data consistency when switching from primary to backup data storage
US20160350106A1 (en) Configuration management of engineering artifacts with automatic identification of related change sets based on type system
CN114002992A (zh) 配置plc和mes之间的连接的方法和设备
KR101567550B1 (ko) 제조업에서의 데이터 수집 및 제공 방법
CN112256775A (zh) 一种Oracle数据库的数据定时加载的方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant